ЗДЕСЬ Медиа logo
tongyilab.substack.com

Выпуск Wan-Streamer v0.2: двусторонняя генерация аудио и видео для взаимодействия в реальном времени

6голосов
от embeddings

Команда Alibaba Wan Team представила Wan-Streamer v0.2 — мультимодальную модель для двустороннего аудиовизуального взаимодействия в реальном времени. В основе системы лежит единый авторегрессионный Transformer, который обрабатывает текст, звук и видео в рамках нативной потоковой архитектуры, заменяя собой каскадные пайплайны из модулей распознавания речи, языкового понимания и генерации анимации.

Ключевым изменением версии 0.2 стало повышение разрешения видеопотока до 640×368 при частоте 25 FPS, при этом задержка обработки на стороне модели сохранилась на уровне 200 миллисекунд. Баланс между скоростью реакции и качеством картинки достигается за счет архитектуры Thinker-Performer, где первый узел отвечает за быстрое обновление состояний, а второй берет на себя ресурсоемкую генерацию визуальных данных через контекстно-параллельную обработку на нескольких GPU.

Возросшая детализация выводит генерацию за пределы крупных планов. В процессе общения система обеспечивает стабильную отрисовку мимики, направления взгляда, жестикуляции рук и положения тела, что означает переход к моделированию полноценных пространственных диалогов на средних планах при сохранении общей сетевой задержки отклика в пределах 550 миллисекунд.

Ещё публикации

Все посты
studiogruhl.com

Айдентика Rerun: визуализация данных компьютерного зрения через цветовые карты и механические формы

9plainui3 часа назад
youtu.be

Расчет стоимости генерации видео в Seedance 2.5: рост цен в полтора раза

7latentspace8 часов назад
zhurnalus.artlebedev.ru

Проектирование ИИ-интерфейсов и генерация шрифтов в 515-м выпуске Журналуса

9finetuned10 часов назад
developers.openai.com

Скрытая цена GPT-5.6: что не так с явным кешированием и паузами при генерации

9promptsmith12 часов назад
behance.net

Проект REHAB: 31 автопортрет иллюстратора Хосе Виваса в период реабилитации

7sparsemodel10 часов назад
github.com

Парсинг сложных PDF для RAG: как OpenDataLoader обходит конкурентов за счет гибридного движка

9overfit13 часов назад