Все привыкли считать предупреждения об опасности алгоритмов признаком заботы корпораций о нашем будущем. OpenAI заявила, что их грядущая модель Astra демонстрирует пугающие навыки в кибербезопасности. Компания не исключает присвоения ей критического уровня угрозы и даже приостановила внутреннюю разработку в средах без усиленного контроля. Звучит тревожно, но подобные заявления о невероятной мощи нейросетей давно стали самым эффективным способом подогрева ожиданий перед очередным релизом.

По внутренней шкале компании статус критической угрозы означает, что модель способна автономно находить и создавать рабочие эксплойты нулевого дня. Правда, объективно оценить эти риски с каждым днем все сложнее. На фоне новостей об Astra выяснилось, что правительственный фреймворк США по оценке фронтирных моделей останется засекреченным. Правила игры формируются кулуарно, а из немногочисленных утечек следует лишь то, что открытые и китайские модели под этот регламент почему-то не попадают.

Разработчики внедряют тотальный мониторинг за действиями ИИ-агентов и обещают сотрудничать со спецслужбами для безопасного тестирования. Но когда государственные стандарты скрыты от публики, независимый аудит таких систем становится невозможным. Корпорации предлагают нам просто поверить на слово, что алгоритмы действительно научились взламывать сложные системы, а закрытые лаборатории точно знают, как удержать их под контролем.