DeepSeek v4 1 Flash на домашней видеокарте и надвигающийся кризис серверов

Обычный офисный компьютер с видеокартой за пятьдесят тысяч рублей теперь способен переварить модель весом в 763 миллиарда параметров. Пока облачные провайдеры готовятся к тотальной распродаже серверных мощностей, исследователи из австрийского института IST Austria и создатели движка Strata заставили архитектуру DeepSeek v4 1 Flash работать на потребительском кремнии с 12 гигабайтами видеопамяти. Фокус удался благодаря новой технологии квантования GSQ-RCO, и для небольших продакшен-студий это звучит как долгожданный билет в независимость от чужих серверов.

Чудес без компромиссов не бывает: чтобы гигантская модель не разорвала видеокарту среднего класса, разработчикам пришлось выстроить хитрую схему распределения памяти. Веса нейросети не пытаются утрамбовать в чип целиком — их основной массив хранится на скоростном накопителе и в системной оперативной памяти, подгружаясь в видеопамять порциями прямо во время вычислений. Платить за локальную автономность приходится дисковым пространством и планками RAM: системе требуется минимум 239 гигабайт свободного места на SSD и от 46 до 64 гигабайт оперативной памяти.

Что показал локальный бенчмарк

В тестах исследователей поведение системы преподнесло сюрприз: свежая RTX 5070 уступила проверенной рабочей лошадке предыдущих поколений по чистой скорости выдачи текста, хотя заметно выиграла в чтении промптов. Официальный deepseek v4 1 flash benchmark на потребительском железе зафиксировал следующие показатели:

Пять или даже десять токенов в секунду — это, прямо скажем, медитативный темп. Вести непринужденный диалог в реальном времени с такой отдачей неудобно, а запуск многоступенчатых автономных агентов превратится в пытку ожиданием. По-нашему, эта сборка ценна другим: она превращает домашний компьютер в ночной рендер-цех, способный локально перелопатить гигантскую базу знаний, раскадровать сценарий или разобрать бриф без риска слить клиентские данные во внешнюю сеть.

Золотая лихорадка на чипах Blackwell

Параллельно сама компания DeepSeek выложила в открытый доступ программный стек DeepInfer. Этот движок инференса для модели версии 4.1 Flash написан с прицелом исключительно на новое серверное поколение Nvidia Blackwell — чипы предыдущей архитектуры Hopper он просто не поддерживает. И цифры, которые называют разработчики, объясняют, почему индустрия сходит с ума по новым ускорителям.

На собственном кластере DeepSeek одна плата Blackwell приносит около 38 долларов в час даже при минимальных тарифах и в периоды слабой нагрузки. Аренда такого чипа на рынке сейчас обходится в 6–10 долларов за час. Независимые расчеты показывают еще более агрессивную маржу: на серверных платах GB300 аренда в 11 долларов за час приносит около 50 долларов выручки при утилизации запросов на 60% и скорости 125 токенов в секунду. Чистая прибыль в районе 39 долларов с одной карты ежечасно превращает генерацию токенов в бизнес с доходностью, которой позавидует любой классический продакшен.

Прогноз дефицита и конец дешевых облаков

Такой разрыв между затратами на инфраструктуру и доходом от токенов запустил ценовой арбитраж. Генеральный директор вычислительного стартапа SF Compute Эван Конрад в своем манифесте с говорящим названием предупреждает: через полгода свободные мощности на мировом рынке могут закончиться совсем. Если сейчас аренда процессора B300 стоит около 6 долларов в час при выручке от инференса в 30 долларов, то охота за этой разницей неизбежно взвинтит арендные ставки.

По оценке Конрада, если спрос на генерацию сохранит темп первой половины 2026 года, час работы серверной карты легко пробьет планку в 30 долларов. В этой гонке выживут только гиганты вроде OpenAI или Anthropic — последние уже выкупают дата-центры у Илона Маска по ценам существенно выше рыночных, просто перекладывая расходы в стоимость подписок. Для независимых сервисов и небольших креативных команд облачные вычисления рискуют стать непозволительной роскошью.

Кажется, индустрия окончательно раскалывается на два лагеря. С одной стороны остаются технологические корпорации с безумно дорогими облачными фермами, с другой — упрямые авторы, собирающие на коленке локальные станции. Мы бы присмотрели лишний терабайтный SSD и пару планок оперативной памяти уже сейчас: пусть домашняя видеокарта печатает текст медленно, зато этот рубильник никто не отключит за неуплату серверного тарифа.