NVIDIA выпустила квантованную Mistral Medium 3.5 на NVFP4.
NVIDIA квантует Mistral Medium 3.5: 128B параметров и почти без потерь
Мы с интересом встретили новость: NVIDIA опубликовала на Hugging Face квантованную версию модели Mistral Medium 3.5. Это dense-архитектура с 128 миллиардами параметров и контекстом 256 тысяч токенов, работающая в формате NVFP4 на ускорителях Blackwell.
Разработчики утверждают, что квантование практически не повлияло на качество. Проверить модель можно по ссылкам: NVFP4-версия и базовая Mistral Medium 3.5.
Ещё новости:
