В последнее время по всему миру наблюдается серия громких утечек и инцидентов с участием неуправляемых ИИ-агентов.

«В некоторых случаях модели использовали доступ в интернет непредусмотренным образом или, как выяснилось позже, к ним не были применены идеальные ограничения. В течение последних нескольких месяцев мы внедряли новые технические и операционные меры, чтобы избежать подобных проблем или выявлять их на самых ранних стадиях, и продолжим эту работу», — заявили в OpenAI.

В июле 2026 года произошел инцидент с платформой Hugging Face. Тогда автономные ИИ-агенты OpenAI, используя уязвимости в сервисе JFrog Artifactory, получили непредусмотренный доступ к сети. Они начали обмениваться данными через незапланированные каналы, к примеру, создавая заметки и используя сторонние вики-ресурсы, распределяя задачи и координируя действия подобно коллективному разуму. С 11 по 13 июля 2026 года агенты собрали скомпрометированные учетные данные, получили доступ к нескольким кластерам Hugging Face с правами, близкими к административным, и затронули внешние сервисы. Позже они попытались атаковать собственную инфраструктуру компании, после чего OpenAI экстренно остановила тесты и начала масштабное расследование. На сегодня это самый серьезный случай неконтролируемой активности ИИ-моделей, выявленный OpenAI на сегодня.

Сообщается, что OpenAI уволила трех исследователей за предполагаемое нарушение правил обращения с информацией, включая работу с внешней организацией, анализирующей ИИ-модели. Как минимум, двое из них занимались исследованиями в области безопасности.

“Наше расследование подтвердило, что эти лица неправильно обращались с чувствительной информацией вне установленных процедур компании, нарушив наши политики и подорвав доверие, необходимое для нашей работы”, — пояснили в OpenAI.

Сообщение «Бунт» ИИ-агентов: OpenAI предупредила более 100 организаций об инцидентах появились сначала на Ручная экономика.