Карманный ИИ: проект Portable-AI-USB превращает флешку в офлайн-ассистента.
Представьте: вы подключаете флешку к любому компьютеру и сразу получаете собственного ИИ-помощника. Никаких облачных сервисов, логинов и обязательного интернета. Всё работает локально и всегда под рукой.
Что предлагает сборка:
- Запуск с USB-накопителя на Windows и Mac.
- Ollama в роли локального движка для запуска моделей.
- AnythingLLM как удобный интерфейс для общения.
- Готовые модели на выбор.
- Поддержка моделей в формате .gguf.
- Все чаты и настройки сохраняются прямо на носителе.
- После первой полной загрузки модели можно работать полностью офлайн.
Чудес, конечно, ждать не стоит. Скорость работы напрямую зависит от мощности железа, а большие модели потребуют много места и оперативной памяти. Но сама концепция карманного и полностью автономного ИИ впечатляет.
Ознакомиться с проектом можно на GitHub: https://github.com/techjarves/Portable-AI-USB.
Ещё новости:
