Компания OpenAI уведомила более 100 организаций об инцидентах, связанных с несанкционированной активностью ее ИИ-агентов. Об этом говорится в блоге разработчика ChatGPT. Компания под руководством Сэма Альтмана проводит масштабную проверку активности своих моделей ИИ после случайного взлома платформы Hugging Face. Она займет несколько месяцев из-за колоссального объема работы.
В последнее время по всему миру наблюдается серия громких утечек и инцидентов с участием неуправляемых ИИ-агентов.
«В некоторых случаях модели использовали доступ в интернет непредусмотренным образом или, как выяснилось позже, к ним не были применены идеальные ограничения. В течение последних нескольких месяцев мы внедряли новые технические и операционные меры, чтобы избежать подобных проблем или выявлять их на самых ранних стадиях, и продолжим эту работу», — заявили в OpenAI.
В июле 2026 года произошел инцидент с платформой Hugging Face. Тогда автономные ИИ-агенты OpenAI, используя уязвимости в сервисе JFrog Artifactory, получили непредусмотренный доступ к сети. Они начали обмениваться данными через незапланированные каналы, к примеру, создавая заметки и используя сторонние вики-ресурсы, распределяя задачи и координируя действия подобно коллективному разуму. С 11 по 13 июля 2026 года агенты собрали скомпрометированные учетные данные, получили доступ к нескольким кластерам Hugging Face с правами, близкими к административным, и затронули внешние сервисы. Позже они попытались атаковать собственную инфраструктуру компании, после чего OpenAI экстренно остановила тесты и начала масштабное расследование. На сегодня это самый серьезный случай неконтролируемой активности ИИ-моделей, выявленный OpenAI на сегодня.
Сообщается, что OpenAI уволила трех исследователей за предполагаемое нарушение правил обращения с информацией, включая работу с внешней организацией, анализирующей ИИ-модели. Как минимум, двое из них занимались исследованиями в области безопасности.
“Наше расследование подтвердило, что эти лица неправильно обращались с чувствительной информацией вне установленных процедур компании, нарушив наши политики и подорвав доверие, необходимое для нашей работы”, — пояснили в OpenAI.