Графический лаунчер llama.cpp: запуск локальных моделей без консоли.
На GitHub появился LlamaServerLauncher, GUI-лаунчер llama.cpp, который заменяет работу через консоль и упрощает запуск локальных нейросетей.
Возможности:
- запуск llama.cpp через графический интерфейс;
- гибкие профили запуска;
- загрузка llama.cpp прямо из интерфейса;
- поддержка CUDA 13.3.
Инструмент поддерживает последние модели и обновления llama.cpp, в отличие от LM Studio, где обновления порой запаздывают.
Ещё новости:
