ODS: локальный запуск нейросетей с автоподбором модели, Open WebUI и агентами.
ODS: локальный ИИ без облаков
Локальный запуск нейросетей стал гораздо проще благодаря инструменту ODS. Он автоматически определяет характеристики вашего компьютера, подбирает подходящую модель, скачивает её и сразу запускает локальный инференс вместе с Open WebUI.
Через единую панель можно подключать голосовые функции, агентов (например, Hermes), RAG, поиск, генерацию изображений, рабочие процессы и другие инструменты.
Никаких облачных сервисов и платных подписок. Все запросы и данные остаются на вашем устройстве, если вы сами не захотите иного.
Проект открыт на GitHub: Osmantic/ODS.
Ещё новости:
