maximhq/bifrost
Fastest enterprise AI gateway (50x faster than LiteLLM) with adaptive load balancer, cluster mode, guardrails, 1000+ models support & <100 µs overhead at 5k RPS.
О проекте
Высокопроизводительный AI-шлюз на Go, объединяющий 23+ провайдеров LLM (OpenAI, Anthropic, Bedrock и др.) через единый OpenAI-совместимый API с фолбэками, балансировкой и семантическим кэшем.
Чем пригодится
- Заменить base_url в OpenAI SDK на локальный шлюз без изменения кода
- Настроить автоматический фолбэк между провайдерами при сбое одного из них
- Подключить MCP-инструменты к моделям через единый интерфейс шлюза
Пересказ README моделью DeepSeek V4.1 Flash. Может ошибаться в деталях.
Почему он в тренде
- Сегодня уже 14 звёзд, к концу дня ожидается около 27.
- GitHub Trending Go за день: #21, +34 звезды.
- Около 11 форков в сутки — код забирают себе.
Звёзды по дням
Столбики — звёзды за день, линия — обычный темп. Красным — дни всплесков.
Цифры
- Всего звёзд
- 8 271
- Сегодня
- 14 · к вечеру ≈ 27
- Форков
- 1 269
- Issues и pull requests
- 7 395
- Наблюдателей
- 33
- Язык
- Go
- Лицензия
- Apache-2.0
- Последний релиз
- helm-chart-v2.1.43 · 23 сентября 2026
- Создан
- 19 марта 2025
- Последний коммит
- 23 сентября 2026
Доверие к звёздам
Рост выглядит естественно: форков и обсуждений столько, сколько бывает у живых проектов, а звёзды приходят неровно, как от людей.
Это эвристики, а не приговор: судим по поведению репозитория, а не по списку звездивших.
Где замечен
- 23 сентября 2026GitHub Trending Go за день: #21, +34 звезды
Похожие по описанию
-
1,6
looplj/axonhub
AI-шлюз с открытым исходным кодом: позволяет вызывать 100+ LLM через любой SDK (OpenAI, Anthropic, Gemini) без изменения кода, с балансировкой нагрузки, failover, контролем расходов и сквозной трассировкой запросов.
-
2,1
tbphp/gpt-load
Самостоятельно размещаемый AI-шлюз, объединяющий множество каналов и учётных данных (API-ключи и подписки) за одной точкой входа с балансировкой, отказоустойчивостью и логами.
-
3,3
QuantumNous/new-api
Self-hosted AI-шлюз, который объединяет разные LLM-провайдеры и отдаёт единый OpenAI-, Claude- или Gemini-совместимый API с управлением маршрутизацией, доступом и расходами.
-
2,5
linguo2625469/workbuddy2api-panel
Самохостируемый OpenAI-совместимый шлюз, превращающий аккаунты Tencent CodeBuddy в единый API /v1/chat/completions с пулом аккаунтов, ротацией, кулдаунами и веб-панелью управления.
-
3,4
Wei-Shaw/sub2api
Шлюз для API подписок на AI-сервисы: объединяет доступ к Claude, OpenAI, Gemini и Grok через единый интерфейс и позволяет делить квоты между пользователями.