Как заставить Whisper быстро работать на обычном CPU.
Проект WhisperType показывает, что локальное распознавание речи на базе Whisper можно сделать быстрым даже на обычном CPU. Разработчику надоела облачная диктовка, поэтому он собрал полностью локальное решение для Windows.
Ключевые оптимизации:
- Whisper не обрабатывает пустые 30-секундные отрезки;
- длинная речь начинает распознаваться ещё во время записи;
- потоки подбираются под возможности CPU.
Подробнее об устройстве решения можно прочитать в статье на Habr.
Ещё новости:
