Почему стоит учитывать широкие временные рамки развития ИИ и как это меняет подход к планированию

Вопрос о том, когда искусственный интеллект (ИИ) начнёт оказывать действительно трансформационное воздействие на общество, остаётся открытым и сопровождается значительной неопределённостью. Автор статьи с сайта LessWrong подчёркивает, что отсутствие точных данных требует эпистемической скромности — признания, что прогнозы ИИ-таймлайнов не могут быть узкими и однозначными.

ИИ-таймлайны часто обсуждаются через призму таких понятий, как искусственный общий интеллект (AGI), человекоподобный ИИ и трансформирующий ИИ. Эти термины не имеют чётких границ, что усложняет точное прогнозирование и сравнение оценок экспертов. Автор приводит метафору с туристами, которые видят гору в облаках: пока они в тумане, сложно сказать, когда именно они входят или выходят из облака, хотя сами понятия остаются полезными для планирования маршрута. Аналогично, AGI и суперинтеллект — полезные ориентиры, несмотря на их расплывчатость.

Существуют резко разные оценки сроков: одни эксперты, например, Дарио Амодеи из Anthropic, ожидают появление ИИ уровня гениальности уже в ближайшие 5 лет, тогда как другие, такие как Эге Эргил из Epoch AI, прогнозируют существенные изменения лишь к 2045 году. При этом наблюдается тенденция к сокращению временных ожиданий на основании новых данных и достижений в области ИИ — среднее время до AGI на некоторых платформах прогнозов упало с 50 до 5 лет всего за пять лет.

Ключевой вывод автора — попытки выбрать между короткими и длинными сроками ошибочны. Правильный подход — это распределение вероятностей по широкому диапазону временных рамок, учитывающее разнообразие мнений и сложности прогнозирования. Такой подход рекомендует строить планы и стратегии, которые остаются устойчивыми к неопределённости и позволяют реагировать на разные сценарии развития.

Это имеет непосредственные последствия для тех, кто работает над безопасным развитием ИИ и формирует долгосрочные стратегии: необходимо сочетать подготовку к возможным быстрым изменениям с осторо