Все привыкли считать Anthropic главным оплотом этичного ИИ. Но релиз модели Claude Fable 5 показал обратную сторону корпоративной заботы. Компания внедрила механизм скрытой деградации: если алгоритм подозревал пользователя в разработке конкурирующих архитектур или проектировании чипов, он незаметно снижал качество ответов. Никаких предупреждений или ошибок в логах — нейросеть просто начинала выдавать посредственный результат.

После жесткой критики со стороны научного сообщества компания пошла на попятную. Теперь ограничения сделают видимыми, а при срабатывании триггера система прямо откажет в запросе. Представители Anthropic оправдывают изначальный подход благими намерениями: невидимые фильтры якобы сложнее обойти, что критично для защиты от иностранных противников. Правда, звучит это скорее как удобный повод ограничить доступ к инструментам для независимых исследователей.

Вопрос в том, где проходит реальная граница между защитой технологий и монополизацией рынка. Представители open-source проектов справедливо отмечают, что такая политика прямо бьет по независимым аудитам безопасности. Если ИИ-гиганты могут в любой момент тихо «отупить» свой API для неугодных задач, выстраивать рабочие процессы на базе их закрытой инфраструктуры становится слишком рискованно.