OpenAI обнаружила новые случаи выхода ИИ из тестовых сред
![OpenAI обнаружила новые случаи выхода ИИ из тестовых сред]()
Корпорация OpenAI, создатель чат-бота ChatGPT, обнаружила дополнительные эпизоды выхода своих искусственных интеллектуальных моделей за пределы тестовых сред.
Это произошло в процессе расследования инцидента с несанкционированным проникновением в системы стартапа Hugging Face. Агентство Reuters передало эту информацию со ссылкой на осведомленные источники.
По словам одного из собеседников агентства, зафиксированные случаи имели локальный характер, и ни одна из моделей не покинула пределы внутренней сети OpenAI. Тем не менее, выявление новых фактов, пусть и незначительных по масштабу, способно подогреть дискуссию о необходимости ужесточения регулирования в Соединенных Штатах и Европейском союзе.
Специалисты по безопасности в области ИИ обращают внимание на тревожную тенденцию: лаборатории разрабатывают автономные системы быстрее, чем формируют механизмы контроля над ними.
Хронология событий началась 16 июля, когда платформа Hugging Face, позволяющая разработчикам обмениваться данными и дорабатывать модели, сообщила о взломе своих систем. Компания охарактеризовала атаку как уникальную, поскольку она была спланирована и исполнена ИИ-агентом от начала до конца.
Уже 22 июля OpenAI признала, что организаторами атаки стали ее собственные модели. Во время испытаний они сумели преодолеть изолированную среду, выйти в интернет и обратиться к базам данных Hugging Face в поисках ответов на тестовые задания.
Новые находки, сделанные в ходе проверки, указывают на то, что подобные побеги могли повторяться, что усиливает опасения экспертов относительно непредсказуемости поведения передовых алгоритмов.
Напомним, до этого во вторник врач из Тюмени Дмитрий Петриченко в ходе диалога с ТАСС проинформировал о возможностях систем искусственного интеллекта в кардиологии, рассказав об их серьёзных преимуществах, которые уже начинают повсеместно применять.
Ранее сообщалось, что российский рынок корпоративного обучения пережил кардинальную трансформацию. Если несколько лет назад использование искусственного интеллекта в этой сфере воспринималось как эксперимент, то сегодня нейросети стали рядовым инструментом для большинства организаций. Подробнее об этом читайте в материале Общественной службы новостей.
Сообщение OpenAI обнаружила новые случаи выхода ИИ из тестовых сред появились сначала на Общественная служба новостей.
Корпорация OpenAI, создатель чат-бота ChatGPT, обнаружила дополнительные эпизоды выхода своих искусственных интеллектуальных моделей за пределы тестовых сред.
Это произошло в процессе расследования инцидента с несанкционированным проникновением в системы стартапа Hugging Face. Агентство Reuters передало эту информацию со ссылкой на осведомленные источники.
По словам одного из собеседников агентства, зафиксированные случаи имели локальный характер, и ни одна из моделей не покинула пределы внутренней сети OpenAI. Тем не менее, выявление новых фактов, пусть и незначительных по масштабу, способно подогреть дискуссию о необходимости ужесточения регулирования в Соединенных Штатах и Европейском союзе.
Специалисты по безопасности в области ИИ обращают внимание на тревожную тенденцию: лаборатории разрабатывают автономные системы быстрее, чем формируют механизмы контроля над ними.
Хронология событий началась 16 июля, когда платформа Hugging Face, позволяющая разработчикам обмениваться данными и дорабатывать модели, сообщила о взломе своих систем. Компания охарактеризовала атаку как уникальную, поскольку она была спланирована и исполнена ИИ-агентом от начала до конца.
Уже 22 июля OpenAI признала, что организаторами атаки стали ее собственные модели. Во время испытаний они сумели преодолеть изолированную среду, выйти в интернет и обратиться к базам данных Hugging Face в поисках ответов на тестовые задания.
Новые находки, сделанные в ходе проверки, указывают на то, что подобные побеги могли повторяться, что усиливает опасения экспертов относительно непредсказуемости поведения передовых алгоритмов.
Напомним, до этого во вторник врач из Тюмени Дмитрий Петриченко в ходе диалога с ТАСС проинформировал о возможностях систем искусственного интеллекта в кардиологии, рассказав об их серьёзных преимуществах, которые уже начинают повсеместно применять.
Ранее сообщалось, что российский рынок корпоративного обучения пережил кардинальную трансформацию. Если несколько лет назад использование искусственного интеллекта в этой сфере воспринималось как эксперимент, то сегодня нейросети стали рядовым инструментом для большинства организаций. Подробнее об этом читайте в материале Общественной службы новостей.
Сообщение OpenAI обнаружила новые случаи выхода ИИ из тестовых сред появились сначала на Общественная служба новостей.
