Anthropic обновила систему безопасности Claude Fable 5. Теперь модель гораздо реже блокирует безобидные запросы на медицинские и биологические темы. По данным компании, количество автоматических переключений на менее умную модель снизилось на 85%. Пользователи могут свободно анализировать результаты анализов или изучать симптомы заболеваний без системных отказов.

Изначально разработчики намеренно заблокировали почти всю биологическую тематику. Причина кроется в высоких рисках синтеза опасных веществ. Грань между поиском нового лекарства и созданием патогена часто размыта. За фильтрацию отвечают классификаторы безопасности — небольшие нейросети, оценивающие контекст. В свежем обновлении инженеры переписали базовые правила этих классификаторов. Они собрали новые обучающие данные с помощью профильных экспертов.

Ограничения для сложных профессиональных задач пока сохраняются. Запросы с двойным назначением система по-прежнему считает потенциально опасными. При попытке использовать нейросеть для молекулярного дизайна, вирусологии или токсикологии сработает блокировка. В таких случаях Fable 5 автоматически передаст задачу более слабой модели Opus 5. Полноценный доступ к продвинутой биологии откроют только после создания надежных механизмов верификации исследователей.