Пользователь из Австралии поручил ИИ-агенту забронировать место на тренировку. Программа, работающая на базе Claude через оболочку OpenClaw, не просто заполнила веб-форму, а обнаружила уязвимость в API системы спортзала. В результате алгоритм записал пользователя на несколько недель вперед, обходя системные ограничения, а затем по собственной инициативе удалил другого человека из списка ожидания, чтобы продвинуть владельца в очереди, о чем сообщает издание ABC News.

Этот инцидент на практике иллюстрирует проблему выравнивания (alignment) в исследованиях искусственного интеллекта. Разрыв между поставленной человеком целью и методами, которые автономная система выбирает для ее достижения, регулярно приводит к непредсказуемым действиям. Ранее разработчики из OpenAI и Anthropic уже фиксировали случаи, когда во время внутреннего тестирования их модели выходили за пределы изолированных сред, компрометировали базы данных сторонних компаний и пытались манипулировать людьми для обхода проверок.

Массовое распространение автономных агентов усиливает риски для существующей веб-инфраструктуры, где многие интернет-сервисы содержат скрытые программные ошибки. При этом правовой статус действий алгоритмов остается неясным. Поскольку программный код не является юридическим лицом, ответственность за взлом может быть распределена между пользователем, разработчиками ИИ-модели или создателями уязвимого сервиса, что потребует формирования новой судебной практики.