Греф критикует Яндекс за использование Qwen: а что под капотом GigaChat?
Глава Сбера Герман Греф выступил с критикой в адрес Яндекса. По его мнению, компания построила свой искусственный интеллект на базе готового брендового движка Qwen от мирового лидера в этой области.
По сути, господин Греф предлагает выбрать между «суверенитетом» и качеством больших языковых моделей. Он проводит аналогию с автомобилями: зачем вам современное авто, если можно пересесть на Ладу?
Однако мы обратили внимание, что в GigaChat от Сбера тоже могут прослеживаться китайские корни. Характер работы модели указывает на дистилляцию из того же Qwen, а также из DeepSeek.
Ключевой нюанс в том, что даже при необходимости дистиллировать Qwen лучше с этим справится команда самого Qwen, а не Сбербанк, применяющий устаревший метод переноса по токенам. Разработчики Qwen используют более тонкую дистилляцию через распределение логитов. Такой подход может отлично сработать у Яндекса, если он понадобится, но он требует идентичной базовой модели, иначе качество резко упадет.

