OpenAI поддержала четыре законопроекта Калифорнии и призвала Конгресс ускориться

Ещё не так давно OpenAI спокойно пропускала мимо часть законопроектов о безопасности ИИ, которые сейчас сама же публично поддержала. Официальная причина смены позиции звучит недвусмысленно: за последние месяцы способности моделей резко выросли, и компания признаёт, что старых аргументов против регулирования уже не хватает.

Директор по глобальным связям OpenAI Крис Лихейн опубликовал программный текст с призывом использовать «открытое окно» для политических решений, пока оно не закрылось. Речь о четырёх калифорнийских законопроектах, которые компания официально поддержала:

• SB 813 создаёт механизм независимой оценки рисков ИИ;
• AB 1405 задаёт стандарты для самих аудиторов таких систем;
• SB 1119 вводит защиту несовершеннолетних пользователей;
• AB 1864 обязывает производителей оборудования для синтеза генов и поставщиков этой услуги соблюдать федеральные стандарты проверки — барьер против биологических угроз, которые может помочь создать ИИ.

Параллельно OpenAI просит Конгресс принять обязательное федеральное регулирование, основанное на возможностях моделей, а не на формальных категориях компаний. Пока федерального закона нет, свою стратегию поддержки региональных инициатив компания называет «обратным федерализмом»: штаты вводят похожие правила по отдельности, а из их совпадения со временем складывается стандарт, который Конгресс сможет закрепить на уровне страны. Раньше OpenAI уже поддерживала калифорнийский SB 53, нью-йоркский RAISE Act, иллинойский SB 315 и независимые аудиты в законопроекте Массачусетса.

За этим стоит конкретный внутренний повод. Главный научный сотрудник компании Якуб Пахоцки ранее написал, что скорость роста машинного интеллекта, включая перспективу рекурсивного самоулучшения — когда система сама разгоняет разработку следующих версий себя, — требует «предельной осторожности». Полностью автономное рекурсивное самоулучшение, по словам компании, сегодня не происходит и не должно происходить, пока для этого нет доказанных гарантий безопасности. Но отдельные исследовательские задачи ИИ-агенты уже выполняют быстрее опытных исследователей — и это, как признаёт OpenAI, явный сигнал в сторону того, куда движется технология.

Для новой модели Astra компания уже ввела дополнительный контроль: постоянный мониторинг полных цепочек рассуждений и обязательную проверку на согласованность перед более широким внутренним развёртыванием. OpenAI также предлагает обязать разработчиков фронтир-моделей публично и оперативно сообщать о случаях, когда система преследует цель способом, нарушающим установленные человеком границы, — даже без злого умысла с её стороны.

Смысл послания простой: компания, которая ещё недавно спорила с регуляторами, теперь торопит их сама — потому что, по её собственному признанию, догонять придётся уже не абстрактный будущий риск, а вполне реальные возможности моделей, которые появились в этом году.