Cerebras запустили Kimi K2.6 со скоростью 1000 токенов в секунду!
Cerebras запустили Kimi K2.6 на скорости в тысячу токенов в секунду.
Модель на триллион параметров на такой скорости запускается впервые. До этого самой большой моделью у Cerebras была GLM 4.7 на 358B. К сожалению, пока это доступно только enterprise-клиентам.
Кстати, компания вышла на IPO на прошлой неделе, привлекла 5.5 миллиардов долларов и теперь оценивается в 60 миллиардов. Ожидается, что в будущем компания представит что-то более масштабное, чем Codex Spark из их коллаборации с OpenAI.
Ещё новости:
