Liquid AI представила LFM2.5-8B-A1B: компактная MoE-модель для телефонов, ноутбуков и роботов.
Liquid AI выпустила LFM2.5-8B-A1B — свежую модель архитектуры Mixture of Experts с 8 миллиардами параметров, где активны лишь 1,5 миллиарда. Она оптимизирована для работы на телефонах, ноутбуках и в робототехнике.
Ключевые характеристики
- Гибридная MoE-архитектура линейки LFM2.5
- Контекстное окно 128K
- 38 триллионов токенов предобучения плюс масштабное обучение с подкреплением (RL)
- Открытая лицензия LFM2 open-weight
- Дообучение под узкую задачу умещается на одну GPU
По заявлениям команды, модель уверенно работает с вызовами инструментов (tool calling) и способна конкурировать с моделями в 3-4 раза тяжелее.
Веса уже доступны на Hugging Face. Мы с нетерпением ждём первых результатов на бенчмарках MMLU-Pro, IFEval и BFCL — особенно интересно, как 1,5B активных параметров поведут себя на длинных цепочках tool use.
Полезные ссылки:
- Блог: http://liquid.ai/blog/lfm2-5-8b-a1b
- Веса: https://huggingface.co/LiquidAI/LFM2.5-8B-A1B
- Документация: http://docs.liquid.ai
- Потестить: http://playground.liquid.ai
Ещё новости:
