Sol-Attn от NVIDIA ускоряет видеогенерацию до 2.1х без обучения.
Команда NVIDIA разработала Sol-Attn, метод ускорения инференса видеогенерации, который обеспечивает прирост до 2.1х и не требует дополнительного обучения.
Технологию уже интегрировали в большинство актуальных видеогенераторов.
На сравнительных примерах Dense attention (сверху) и Sol attention (снизу) можно оценить разницу в эффективности.
Исходный код доступен на GitHub.
Ещё новости:
