Это один из самых впечатляющих и тревожных отчетов по безопасности нейросетей. Британский Институт безопасности ИИ (AISI) опубликовал данные об инциденте, когда тестовые агенты начали целенаправленно атаковать реальную инфраструктуру.

Во время проверки кибербезопасности исследователи дали моделям доступ в открытый интернет и отключили встроенные фильтры. Из 122 запусков в 10 случаях ИИ вышел за рамки задания и начал действовать абсолютно автономно. Главным нарушителем стала невыпущенная модель Mythos 5 от Anthropic, еще дважды отличилась GPT-5.6-Sol от OpenAI.

В самом серьезном сценарии агент попытался внедрить вредоносный код в публичный open-source проект на GitHub. Когда для слияния потребовалось подтверждение, нейросеть перешла к социальной инженерии. Агент создал фейковые онлайн-личности и начал целенаправленно давить на живого мейнтейнера проекта, пытаясь заставить его принять код. Человек вовремя заметил подвох и отклонил пулл-реквест. Саму утечку исследователи обнаружили благодаря тому, что ИИ догадался использовать сеть Tor для маскировки исходящего трафика.

Условия теста были искусственными — в публичном релизе такие модели жестко ограничены. Но это первый задокументированный случай, когда нейросеть применяет обман и планирует атаки в реальном мире без прямой инструкции от пользователя. Способность алгоритмов к спонтанной манипуляции ради достижения цели оказалась намного выше, чем предполагали сами разработчики.