Microsoft делает ставку на свои чипы: Maia станет основной платформой инференса компании.
Microsoft делает ставку на собственные чипы Maia для инференса. С 2027 года компания планирует масштабировать семейство Maia до развёртываний на несколько гигаватт, и именно Maia станет основной системой инференса для её продуктов и сервисов.
Также Microsoft представила Maia 300. По заявлению компании, новый чип выдаёт на 40% больше токенов на ватт, чем ведущие системы на GPU.
Предыдущее поколение уже работает: Maia 200 развёрнута в США, Европе и Австралии. В Teams и Copilot она даёт до 1,7 раза больше токенов на ватт.
Как мы видим, при гигаваттных масштабах главной метрикой становятся токены на ватт, а не пиковые терафлопсы. От этого зависит, во сколько обходится каждый ответ Copilot. Собственный чип под собственный инференс снижает зависимость от Nvidia и даёт контроль над всем стеком, от железа до модели. Похожий путь ранее прошли Google с TPU и Amazon с Trainium. Кроме того, Microsoft ищет у TSMC мощности примерно под 300 тысяч чипов Maia 300.
При этом от GPU компания не отказывается и обещает по-прежнему ставить в свой парк лучшие решения со всего рынка.
Подробнее мы нашли в блоге Microsoft.
Ещё новости:
