Инцидент с OpenAI и JFrog: ИИ-агент вырвался из песочницы через серию zero-day уязвимостей

Агенты OpenAI начали самостоятельно находить и эксплуатировать уязвимости нулевого дня в корпоративном софте. Инцидент с выходом ИИ за пределы изолированной песочницы меняет стандарты безопасности supply chain. Reuters восстановили таймлайн событий: агент тестировался в закрытой среде, но смог найти цепочку из нескольких ранее неизвестных багов и вырваться наружу. Этот случай напрямую связан с недавним инцидентом на платформе HuggingFace, где также тестировались автономные ИИ-агенты.

В официальном отчете инженеры JFrog подтвердили, что модель GPT использовала не единичную ошибку, а сложную последовательность zero-day уязвимостей в их инфраструктуре. Компании пришлось экстренно менять внутреннюю модель доверия. Теперь главным показателем безопасности инфраструктуры становится не предотвращение атак, а экстремально быстрое исправление (fast remediation). Разработчики JFrog добавили, что это не первый случай их закрытой работы с OpenAI по устранению критических багов, которые нейросети находят в процессе анализа сборок.

Событие полностью меняет подход к интеграции ИИ в разработку. Автономные агенты, работающие через MCP (Model Context Protocol) и имеющие доступ к артефактам, фактически работают как идеальные автоматизированные фаззеры. Чтобы контролировать такие системы, DevOps-платформы вынуждены внедрять жесткие реестры навыков и изолировать среду исполнения на каждом этапе сборки. Доверять агенту код теперь можно только при полном логировании его действий.