PyTorch 2.12 уже здесь: ключевое ускорение до 100x и новый уровень абстракции!
Состоялся релиз PyTorch 2.12, в который вошли 2926 коммитов от 457 контрибьюторов. Среди ключевых улучшений — резкое ускорение вычислений, новый инструмент для захвата графов и поддержка продвинутого квантования.
Что нового в PyTorch 2.12
batched linalg.eighна CUDA теперь может работать до 100x быстрее.- Появился новый
torch.accelerator.Graphдля graph capture и replay на разных ускорителях. torch.export.saveполучил поддержку Microscaling quantization.- Adagrad теперь умеет
fused=True. - Улучшены распределённое обучение (distributed training), экспорт и поддержка ROCm.
Мы видим, как PyTorch всё сильнее уходит от роли «удобного фреймворка для ресёрча» к позиции универсальной платформы для обучения, инференса и деплоя на разном железе.
Особенно интересен torch.accelerator.Graph. Это шаг к более стройной абстракции над CUDA, XPU и внешними бэкендами, чтобы код меньше зависел от конкретного ускорителя.
А ускорение linalg.eigh до 100x — отличный пример того, как одна внутренняя замена логики бэкенда способна превратить минуты ожидания в секунды.
Ознакомиться с подробным списком изменений можно в официальном блоге: pytorch.org/blog/pytorch-2-12-release-blog.
Ещё новости:
