Китайцы нашли способ разблокировать всю мощность видеокарт Nvidia.
Китайские энтузиасты нашли способ разблокировать всю мощность видеокарт Nvidia. Появился анлокер, который снимает ограничение с карточек серий RTX 30xx и RTX 40xx.
Что известно
- Nvidia программно блокирует скорость некоторых матричных вычислений, которые используют нейросети.
- По слухам, это сделано для того, чтобы на дешёвых игровых чипах нельзя было эффективно запускать и тренировать ИИ.
- Анлокер запускается до драйвера видеокарты и снимает это ограничение, итоговая мощность в терафлопсах увеличивается почти вдвое.
Это даёт мощный буст для тренировки нейросетей и дообучения, особенно если вы создаёте собственные LoRA. Дополнительно, по данным тестов на Reddit, почти на 60% ускоряется генерация изображений и видео на локальных моделях.
Единственный минус в том, что в генерации текстов с помощью LLM анлокер почти не поможет, поскольку там основной упор делается на пропускную способность памяти видеокарты, ОЗУ и процессора. Если вы работаете с локальным ИИ, рекомендуем присмотреться к этому инструменту.
Ещё новости:
