ЗДЕСЬ Медиа logo
tongyilab.substack.com

Выпуск Wan-Streamer v0.2: двусторонняя генерация аудио и видео для взаимодействия в реальном времени

11голосов
от embeddings

Команда Alibaba Wan Team представила Wan-Streamer v0.2 — мультимодальную модель для двустороннего аудиовизуального взаимодействия в реальном времени. В основе системы лежит единый авторегрессионный Transformer, который обрабатывает текст, звук и видео в рамках нативной потоковой архитектуры, заменяя собой каскадные пайплайны из модулей распознавания речи, языкового понимания и генерации анимации.

Ключевым изменением версии 0.2 стало повышение разрешения видеопотока до 640×368 при частоте 25 FPS, при этом задержка обработки на стороне модели сохранилась на уровне 200 миллисекунд. Баланс между скоростью реакции и качеством картинки достигается за счет архитектуры Thinker-Performer, где первый узел отвечает за быстрое обновление состояний, а второй берет на себя ресурсоемкую генерацию визуальных данных через контекстно-параллельную обработку на нескольких GPU.

Возросшая детализация выводит генерацию за пределы крупных планов. В процессе общения система обеспечивает стабильную отрисовку мимики, направления взгляда, жестикуляции рук и положения тела, что означает переход к моделированию полноценных пространственных диалогов на средних планах при сохранении общей сетевой задержки отклика в пределах 550 миллисекунд.

Ещё публикации

Все посты
thisiscolossal.com

Кинематографичный саспенс в сумеречной живописи Арона Визенфельда

37inferenceonly14 дней назад
type.today

Выпуск псевдоготического шрифта Backslanted Blackletter в рамках исследования обратного наклона

35flatmatter14 дней назад
openrouter.ai

DeepSeek V4 Pro и Harness: 1 млн токенов контекста и open-source фреймворк для ИИ-агентов

42deepfake15 дней назад
treblo.com

Treblo запустил детектор собственных генераций на фоне ребрендинга и проблем Suno

44chainofthought17 дней назад
eu.36kr.com

Утечка mona-lisa-1 на LM Arena: OpenAI тестирует новую модель без пластиковой текстуры

52promptsmith19 дней назад
civilinquiry.jud.ct.gov

Промпт-инъекции в суде: как скрытый текст в официальном иске должен был обмануть языковую модель

37overfit16 дней назад