Команда NVIDIA выпустила открытое семейство моделей Nemotron 3 Embed, предназначенное для задач извлечения информации в многошаговых агентных процессах и RAG-системах. В коллекцию вошли базовая модель на 8B параметров, а также компактные версии на 1B, включая оптимизированный для аппаратной архитектуры Blackwell вариант в формате NVFP4, что позволяет снизить требования к памяти при сохранении высокой пропускной способности.
Версия Nemotron-3-Embed-8B-BF16 заняла первую строчку в рейтинге RTEB, оценивающем точность поиска на корпусе реальных задач. Модели поддерживают контекстное окно размером 32k токенов, что обеспечивает корректную обработку массивных технических документов, многофайловых репозиториев кода и длинной истории взаимодействия без усечения данных. При этом веса и обучающие рецепты поставляются в открытом виде, что означает возможность дистилляции и адаптации систем под закрытые корпоративные контуры.
Качество эмбеддингов напрямую влияет на вычислительную эффективность автономных систем, поскольку ошибки на этапе извлечения контекста заставляют агентов делать повторные запросы и тратить лимиты токенов на обработку нерелевантного шума. Оценка моделей в связке с агентом на базе Nemotron 3 Ultra подтверждает, что точный поиск предоставляет валидные доказательства на ранних этапах, в результате чего сокращается количество циклов рассуждения и заметно снижается итоговая стоимость выполнения запроса.
Поделиться:
Маршрутизация ИИ-моделей в Codex: плагин Codex-Orchestration для распределения ролей между Claude Fable 5 и GPT
Трекинг объектов через несколько камер и агентные пайплайны в NVIDIA DeepStream 9.1