Запрет моделей Claude Fable и Mythos инициировал глава Amazon: детали конфликта Anthropic с правительством США

Запрет на использование моделей Claude Fable 5 и Mythos 5 от Anthropic оказался результатом внутренней проверки их главного партнера. Глава Amazon Энди Джасси напрямую связался с Министерством финансов США после того, как исследователи компании смогли получить от Fable 5 инструкции для кибератак. Это обращение спровоцировало мгновенный правительственный запрет на экспорт обеих моделей.

Конфликт развивался жестко. По словам Дэвида Сакса из президентского совета по науке, после обнаружения джейлбрейка администрация потребовала от CEO Anthropic Дарио Амодеи исправить уязвимость или отключить модель. Амодеи отказался, сославшись на то, что спорные возможности уже присутствуют в других доступных нейросетях. В ответ правительство принудительно заблокировало доступ.

Парадокс заключается в том, что Amazon, вложившая в стартап миллиарды долларов, теперь вынуждена отключать эти модели в собственном облаке AWS. До релиза Fable разработчики плотно консультировались с властями. Предполагалось, что внедренная функция бесшумного ухудшения ответов при подозрительных промптах станет достаточной мерой безопасности. Однако внутренние тесты Amazon доказали, что текущие методы защиты все еще легко обходятся подготовленными исследователями.