Рост спроса на токены ИИ улучшил экономику инференса LLM и увеличивает срок службы GPU Nvidia.
Рост спроса на токены ИИ по экспоненте сильно улучшил экономику инференса LLM, всё сильнее отдаляя фантазии алармистов о «Пузыре ИИ». Одна из составляющих этой концепции: вендоры LLM непременно должны работать в убыток. В реальности GPU Nvidia оказались намного более ценным активом, чем казалось, потому что имеют заметно большее время жизни, чем плановые шесть лет.
Амортизация большинства GPU за шесть лет даёт стоимость одного часа работы примерно $2. Выручка DeepSeek составляет $38 в час работы GPU даже при сверхнизких ценах.
Однако экономика инференса ИИ оказалась ещё лучше. Из-за лавинообразного спроса на ИИ старые GPU продолжают использоваться намного интенсивнее. Если сравнить ожидаемую цену для шестилетней амортизации и реальную, мы видим: GPU, хотя и дороже, могут сдаваться в аренду владельцем, но цена амортизации для владельца GPU явно ниже, так как срок эксплуатации точно больше шести лет. Дженсен Хуанг сейчас оценивает срок службы своих относительно свежих GPU примерно в восемь лет. Как он иронизирует, из всего оборудования для ИТ через восемь лет всё станет хламом на помойке, кроме продукции Nvidia.
Ещё новости:
