Google представила открытый инструмент, который в 16 раз сжимает память для ИИ-поиска.
Появился новый открытый инструмент TurboVec, который позволяет кардинально экономить память при поисковых операциях для ИИ-приложений. В основе лежит технология Google TurboQuant, и разработчики заявляют о сжатии данных до 16 раз по сравнению с традиционными решениями.
Что умеет TurboVec
- Работает быстрее популярной библиотеки FAISS;
- Функционирует на Mac и обычных серверах;
- Позволяет точно настраивать выдачу под нужный запрос;
- Напрямую подключается к LangChain и LlamaIndex;
- Хранит данные локально и работает полностью офлайн;
- Поддерживает Python из коробки.
Данные остаются на машине пользователя, инструмент полностью опенсорсный и готов к работе без подключения к интернету. TurboVec напрямую подключается к популярным фреймворкам LangChain и LlamaIndex.
Ознакомиться с проектом можно на GitHub: https://github.com/RyanCodrai/turbovec
Ещё новости:
