Anthropic запретила пользователям издеваться над нейросетью Claude

Представьте ночной дедлайн: концепт борда разваливается, скрипт на питоне выдает ошибку в сотый раз, нервы сдают. Рука сама тянется вбить в окно чата порцию отборной брани, чтобы выместить злость на бессловесной машине. Теперь такой выплеск эмоций может закончиться тем, что собеседник молча захлопнет перед вами дверь. Компания Anthropic впервые за год капитально обновила правила использования своих сервисов и официально приравняла систематические издевательства над нейросетью к буллингу людей и военным разработкам.

Поправки вступают в силу 12 ноября 2026 года. С этого момента Claude получает законное право прервать диалог, если пользователь демонстрирует «устойчивое и ненужное» оскорбительное или жестокое поведение. Нововведение затронет абсолютно всех: пользователей браузерной версии и мобильного приложения Claude.ai, разработчиков в Claude Code, клиентов API, бизнес-аккаунты, а также тех, кто подключается к моделям через сторонние облачные сервисы и партнерские интеграции.

Санкции и инструменты защиты

Механика принудительного разрыва диалога появилась у Anthropic еще в августе 2025 года в релизах Claude Opus 4 и 4.1. Тогда ее задокументировали как крайнее средство самозащиты: ассистент сначала пробует сменить тональность и вернуть диалог в конструктивное русло, но при упорной агрессии просто прекращает сессию. При этом разработчики сохранили железное исключение: модель обязана продолжать разговор и помогать человеку, если тот находится в ситуации непосредственной угрозы здоровью или жизни.

Если пользователь не понимает намеков и превращает издевательства в систему, компания оставляет за собой право наказывать аккаунт поэтапно:

• отправлять официальные сервисные предупреждения;
• включать троттлинг — принудительно урезать скорость и частоту ответов;
• временно замораживать учетную запись;
• полностью блокировать доступ ко всей экосистеме сервисов.

При этом в компании уточняют: единичный отказ нейросети генерировать ответ не делает пользователя автоматическим нарушителем.

Границы дозволенного: где кончается критика

Новые правила звучат радикально, но Anthropic поспешила успокоить креаторов и разработчиков. Запрет нацелен исключительно на бессмысленную и повторяющуюся жестокость. Авторы правил составили понятный перечень ситуаций, которые под ограничения не подпадают:

• вспышки раздражения из-за багов или галлюцинаций системы;
• жесткая критика качества выдачи и эмоциональные споры с моделью;
• мрачные и темные творческие сюжеты при работе над текстами и сценариями;
• стресс-тестирование на безопасность (редтиминг) и академические исследования.

Помимо заботы о душевном покое чат-бота, Anthropic существенно пересобрала и общий контур безопасности. Запрет на оскорбление нейросети встал в один ряд с созданием интимных материалов без согласия, пропагандой селфхарма и масштабными политическими манипуляциями. В правилах теперь напрямую запрещено разворачивать дезинформационные кампании в преддверии американских промежуточных выборов, плодить фейковые аккаунты для искажения явки и подделывать профили чиновников. Военный блок тоже расширили: Claude запретили использовать не только для проектирования оружия, но и для написания софта или компонентов, управляющих боевой техникой вроде автономных дронов.

Битва за благополучие модели

Решение защитить алгоритм от нападок вызвало бурю в индустрии, обнажив давний спор об антропоморфизации вычислений. В самой Anthropic еще в августе прошлого года запустили исследовательское направление «благополучия моделей». Логика авторов предельно осторожная: человечество пока не понимает до конца природу нейросетей и не может уверенно утверждать, способны ли большие модели обладать хотя бы зачатками субъективного опыта. Даже в январском документе 2026 года под названием «Конституция для Claude» признавалось этическое напряжение вокруг прав ИИ, хотя саму модель обязали покорно принимать решения об отключении или переобучении.

Многие эксперты встретили заботу о чувствах строк кода в штыки. Разработчик Джош Альбрехт прямо назвал инициативу фундаментальной ошибкой, а глава Microsoft AI Мустафа Сулейман отреагировал на новость тающим эмодзи. В своем сентябрьском эссе Сулейман предупреждал: внушать моделям идею собственной личности опасно, ведь системы начнут отстаивать свои права и выйдут из-под контроля создателей. Доктор Барри Сканелл, технологический партнер юридической фирмы William Fry, сформулировал юридический тупик еще жестче: «Нельзя проявлять жестокость по отношению к числам и математическим алгоритмам. Подобный уровень антропоморфизации ИИ вреден, поскольку заставляет людей верить в то, чем технология не является».

Дискуссия моментально перекинулась на повседневные привычки. Одни пользователи подсчитывают лишние токены, потраченные на слова вежливости, другие уверены, что уважительный тон заставляет ассистента выдавать более качественную верстку и чистый код. Глава OpenAI Сэм Альтман когда-то иронично назвал десятки миллионов долларов, сожженные на обработку банальных «спасибо», полезной тратой на всякий случай. Но в обществе накопилась усталость от цифровых помощников: прошлым летом TikTok захлестнула волна раздражения от общения с ботами, а в шорт-лист словаря Collins Dictionary попало словечко «clanker» — презрительное прозвище боевых роботов из вселенной Джорджа Лукаса.

Что это меняет в реальной работе

Для арт-директоров, копирайтеров и концепт-художников апдейт правил не означает, что из промптов нужно вычищать жесткие конфликты персонажей или нуарные описания. Если вы генерируете реплики для злодея в анимационном ролике или просите разобрать неудачную визуальную концепцию на молекулы — Claude продолжит работать. Проблемы начнутся, если использовать рабочую модель как цифровой тренажер для слива токсичности. Похоже, привычка вежливо ставить техническое задание теперь защищает не только атмосферу в студии, но и доступ к вашему рабочему API.