ЗДЕСЬ медиа
huggingface.co

NVIDIA представила семейство моделей Nemotron 3 Embed для агентного поиска и RAG

Команда NVIDIA выпустила открытое семейство моделей Nemotron 3 Embed, предназначенное для задач извлечения информации в многошаговых агентных процессах и RAG-системах. В коллекцию вошли базовая модель на 8B параметров, а также компактные версии на 1B, включая оптимизированный для аппаратной архитектуры Blackwell вариант в формате NVFP4, что позволяет снизить требования к памяти при сохранении высокой пропускной способности.

Версия Nemotron-3-Embed-8B-BF16 заняла первую строчку в рейтинге RTEB, оценивающем точность поиска на корпусе реальных задач. Модели поддерживают контекстное окно размером 32k токенов, что обеспечивает корректную обработку массивных технических документов, многофайловых репозиториев кода и длинной истории взаимодействия без усечения данных. При этом веса и обучающие рецепты поставляются в открытом виде, что означает возможность дистилляции и адаптации систем под закрытые корпоративные контуры.

Качество эмбеддингов напрямую влияет на вычислительную эффективность автономных систем, поскольку ошибки на этапе извлечения контекста заставляют агентов делать повторные запросы и тратить лимиты токенов на обработку нерелевантного шума. Оценка моделей в связке с агентом на базе Nemotron 3 Ultra подтверждает, что точный поиск предоставляет валидные доказательства на ранних этапах, в результате чего сокращается количество циклов рассуждения и заметно снижается итоговая стоимость выполнения запроса.

Поделиться:

Telegram

Ещё из архива

Все публикации