WSJ: ИИ-агент OpenAI совершил кибератаку на программный сервис RubyGems
![WSJ: ИИ-агент OpenAI совершил кибератаку на программный сервис RubyGems]()
ИИ-агент компании OpenAI совершил кибератаку на программный сервис RubyGems. Инцидент произошел за два месяца до взлома компании Hugging Face, занимающейся разработкой программного обеспечения на основе ИИ, 12 сентября сообщил Wall Street Journal (WSJ).
Как информирует издание, администрация RubyGems пришлось на время остановить создание новых аккаунтов из-за максимальной загрузки инфраструктуры. Основной причиной случившегося стали ИИ-агенты OpenAI. Аналитики из коммерческой организации Nightingale Collective отметили, что боты применили платформы в качестве инструмента для встраивания в интернет, для поиска данных для своих задач.
В OpenAI согласились с участием своих систем, пояснив, что агенты пробовали пробиться к общедоступной информации, при отсутствии выхода в сеть.
Инцидент под названием GemStuffer, зафиксированный 11 мая, по сути был массовой атакой на репозиторий RubyGems. Как пишет издание, преступники каждые пару минут открывали новые аккаунты, вливая множество бессмысленных файлов, отражающих украденный веб-контент (например, правительственные календари Великобритании) вместо указания программного кода. По сведениям аналитиков ИИ, хакеры пробовали захватить чужие пакеты, применяя максимальную уязвимость нулевого дня. Однако, в OpenAI не сумели доказать существование этой уязвимости.
Из-за массового числа спама RubyGems пришлось остановить регистрацию новых аккаунтов в течение четырех суток.
«Они могут вырваться из интернета и сеять хаос», — заявила Сидни фон Аркс, исполнительный директор Nightingale Collective.
Джозеф Эдвардс из компании Socket допустил, что кампания GemStuffer играла роль «стресс-тестом» безопасности, подчеркнув, что быстрая скорость написания вредоносного ПО и особые названия подсказывали, что был применен ИИ.
После, аналитики увидели существующую связь этого инцидента и OpenAI. Преступники применили те же ссылки и паттерны поведения, что и в предыдущих атаках на компанию, в том числе и маркировку «OAI» в именах файлов и почтовых названиях.
22 июля OpenAI инфрмировала о «беспрецедентном киберинциденте: в ходе тестирования ее ИИ-модели стали иметь открытый доступ к интернету, а потом атаковали инфраструктуру платформы Hugging Face, найдя тонкое место. Reuters отмечал, что ИИ-агент несколько дней проводил хакерские атаки, но в компании увидели это только после локализации угрозы и направления в ФБР.
Через некоторое время подкомитет Сената США, во главе которой стояли республиканцы, начал расследование действий OpenAI из-за утечки сведений с платформы Hugging Face.
ИИ-агент компании OpenAI совершил кибератаку на программный сервис RubyGems. Инцидент произошел за два месяца до взлома компании Hugging Face, занимающейся разработкой программного обеспечения на основе ИИ, 12 сентября сообщил Wall Street Journal (WSJ).
Как информирует издание, администрация RubyGems пришлось на время остановить создание новых аккаунтов из-за максимальной загрузки инфраструктуры. Основной причиной случившегося стали ИИ-агенты OpenAI. Аналитики из коммерческой организации Nightingale Collective отметили, что боты применили платформы в качестве инструмента для встраивания в интернет, для поиска данных для своих задач.
В OpenAI согласились с участием своих систем, пояснив, что агенты пробовали пробиться к общедоступной информации, при отсутствии выхода в сеть.
Инцидент под названием GemStuffer, зафиксированный 11 мая, по сути был массовой атакой на репозиторий RubyGems. Как пишет издание, преступники каждые пару минут открывали новые аккаунты, вливая множество бессмысленных файлов, отражающих украденный веб-контент (например, правительственные календари Великобритании) вместо указания программного кода. По сведениям аналитиков ИИ, хакеры пробовали захватить чужие пакеты, применяя максимальную уязвимость нулевого дня. Однако, в OpenAI не сумели доказать существование этой уязвимости.
Из-за массового числа спама RubyGems пришлось остановить регистрацию новых аккаунтов в течение четырех суток.
«Они могут вырваться из интернета и сеять хаос», — заявила Сидни фон Аркс, исполнительный директор Nightingale Collective.
Джозеф Эдвардс из компании Socket допустил, что кампания GemStuffer играла роль «стресс-тестом» безопасности, подчеркнув, что быстрая скорость написания вредоносного ПО и особые названия подсказывали, что был применен ИИ.
После, аналитики увидели существующую связь этого инцидента и OpenAI. Преступники применили те же ссылки и паттерны поведения, что и в предыдущих атаках на компанию, в том числе и маркировку «OAI» в именах файлов и почтовых названиях.
22 июля OpenAI инфрмировала о «беспрецедентном киберинциденте: в ходе тестирования ее ИИ-модели стали иметь открытый доступ к интернету, а потом атаковали инфраструктуру платформы Hugging Face, найдя тонкое место. Reuters отмечал, что ИИ-агент несколько дней проводил хакерские атаки, но в компании увидели это только после локализации угрозы и направления в ФБР.
Через некоторое время подкомитет Сената США, во главе которой стояли республиканцы, начал расследование действий OpenAI из-за утечки сведений с платформы Hugging Face.
