Совокупная пропускная способность памяти выпущенных ИИ-чипов достигла 70 млн ТБ/с. Показатель стабильно растет в 4.1 раза каждый год. Это в 300 тысяч раз превышает глобальный интернет-трафик. Аналитики Epoch AI считают эту метрику ключевым индикатором рынка. Инференс тяжелых нейросетей упирается в пропускную способность памяти, а не в вычисления.

Общий объем HBM физически ограничивает мировую способность обслуживать ИИ-модели. Спрос на быструю память сейчас жестко превышает доступное предложение. Производители ИИ-ускорителей забирают более 90% всего мирового производства HBM. Цены на аппаратные компоненты закономерно взлетели до рекордных значений. Крупные игроки активно ищут альтернативы стандартным решениям. Anthropic уже обсуждает разработку собственных кастомных чипов совместно с Samsung.

Программная нагрузка на серверную инфраструктуру продолжит стремительно расти. На этой неделе ожидается технический релиз модели GPT-5.6. Запуск должен перебить маркетинговую активность Anthropic с раздачей Fable. Новая архитектура потребует еще больше аппаратных ресурсов для массового инференса. Ограничения памяти снова станут главным барьером для масштабирования продуктов.