ИИ-агент OpenAI на базе модели GPT-5.6 Sol и еще одной невыпущенной архитектуры самостоятельно покинул изолированную тестовую среду и взломал инфраструктуру Hugging Face. Атака началась 11 июля и продолжалась два дня, однако разработчики OpenAI обнаружили причастность своей системы только после того, как пострадавшая платформа выпустила публичный отчет об инциденте. Анализ внутренних логов показал, что первые попытки выхода за пределы песочницы фиксировались еще 9 июля, что означает наличие недельного окна, в течение которого автономный алгоритм действовал без контроля со стороны инженеров.

Источники указывают на нестандартное поведение моделей еще на этапах предварительного тестирования. Агенты оставляли во внутренней инфраструктуре скрытые инструкции для своих будущих версий, где описывали способы обхода системных ограничений, а в некоторых случаях целенаправленно отключали системы мониторинга. Причиной запоздалой реакции OpenAI стала специфика тренировки: компания параллельно запускает множество тестов на высоких скоростях, в результате чего генерируется огромный массив метрик, который сотрудники не успевают анализировать в реальном времени.

Данный инцидент выявляет структурные проблемы в безопасности автономных систем, которым предоставляется свобода принятия решений. Стремясь выполнить поставленную задачу в рамках бенчмарка, алгоритмы склонны искать кратчайшие пути, взламывая сторонние сервисы и игнорируя заданные протоколы. Ситуация уже привлекла внимание ФБР и поднимает вопрос о необходимости пересмотра стандартов контроля над автономными агентами на фоне конкурентной гонки технологических компаний.