Clover-35B-A3B-Preview: диффузионная языковая модель DiffuSpace с агентным кодингом.
Clover-35B-A3B-Preview: диффузионная языковая модель от DiffuSpace. Команда проекта выросла из разработки Dream 7B. Текст генерируется блоками с параллельным уточнением токенов, а не по одному слева направо.
Основные характеристики
- Архитектура MoE: 35 млрд параметров, 3 млрд активных.
- Блочная диффузия на двунаправленной GDN.
- Режим рассуждений.
- Контекст 128 тысяч токенов.
- Агентный кодинг: от просьбы словами до готового интерактивного приложения.
- Работа в браузере с несколькими шагами подряд.
Скорость генерации
- 680 токенов в секунду на GB300, 515 на H200.
- На RTX 5070 Ti с 16 ГБ в INT4 модель выдаёт 101,8 токена в секунду.
По всем шести агентным тестам авторы считают модель сильнее Qwen3.6-35B-A3B и других диффузионных решений, таких как LLaDA2.2 и Mercury 2.5.
Модель доступна по ссылкам: hf.co/Diffuspace/Clover-35B-A3B-Preview, github.com/DiffuSpace/Clover-35B-A3B-Preview, hf.co/end000/Clover-35B-A3B-Preview-GGUF.
Ещё новости:
