LFM2.5-350M
Компактная открытая модель на 350 млн параметров для локального извлечения данных и вызова функций
Миниатюрный чип смартфона или недорогая плата вроде Raspberry Pi 5 запускают эту нейросеть прямо в оперативной памяти — без отправки каждого клика на серверы бигтеха. Liquid AI выпустила LFM2.5-350M: сверхкомпактную открытую модель на 350 миллионов параметров, дообученную на 28 триллионах токенов. По-нашему, это редкий случай, когда инструмент осознанно лишили амбиций писать романы или генерировать код, зато идеально заточили под рутину интерфейсов: парсинг, вызовы инструментов и выдачу строгого структурированного ответа на локальном железе.
Что умеет
- Извлекает факты и раскладывает неструктурированный текст по полочкам: в тестах извлечения данных вроде CaseReportBench модель утроила точность по сравнению с предшественницей.
- Держит многошаговые диалоговые сценарии для вызова функций — партнеры из Distil Labs дообучили ее для смарт-домов и терминалов с точностью вызовов выше 95%.
- Работает на экстремально скромных ресурсах: требует от 56 мегабайт памяти на смартфонах уровня iPhone 13 Mini и стабильно крутится на процессорах дешевле трехсот долларов через движок Cactus.
- Выдает до 40,4 тысячи токенов в секунду на одном ускорителе NVIDIA H100 при высокой нагрузке, пропуская миллиарды токенов за сутки.
- Поддерживает запуск из коробки через экосистему локального ИИ: llama.cpp, Apple MLX, ONNX, Intel OpenVINO, а также серверные vLLM и SGLang.
Честная оговорка разработчиков: модель не предназначена для креативного копирайтинга, решения математических задач или программирования.
Цены и доступ
Модель распространяется с открытыми весами. Базовую LFM2.5-350M-Base и финальную LFM2.5-350M можно скачать бесплатно на Hugging Face, протестировать в онлайн-песочнице Playground или развернуть на мобильных устройствах через платформу LEAP.
Для продакшена и продуктовых дизайнеров это готовый строительный блок под автономные интерактивные витрины, умные пульты на съемочной площадке и локальных ассистентов, которым не нужен интернет. Если ваш интерфейс должен мгновенно реагировать на команды и отдавать чистый JSON прямо из карманного девайса — мы бы попробовали именно ее.
