Bifrost — open source шлюз для LLM с API, совместимым с OpenAI.
Bifrost — это open source шлюз для работы с большими языковыми моделями, который позволяет через один API, совместимый с OpenAI, подключать десятки провайдеров.
Ключевые особенности проекта:
- Единый интерфейс для OpenAI, Anthropic, Google и других провайдеров;
- Автоматические фолбэки и балансировка между ключами;
- Поддержка MCP для подключения внешних инструментов к агентам;
- Логи, метрики и контроль расходов;
- Написан на Go, разворачивается локально.
Это особенно удобно в агентных сборках, когда нужно переключаться между моделями и провайдерами, не переписывая код.
Ещё новости:
