# smg-project/smg

> Написанный на Rust LLM-шлюз, который маршрутизирует запросы между self-hosted движками (vLLM, SGLang, TensorRT-LLM) и облачными провайдерами через единый OpenAI/Anthropic-совместимый API.

- Магнитуда: 1,5 из 10 — Ровно
- Звёзды: 628 всего · +5 звёзд по замерам 2026-10-19, 10:41–13:09 UTC, к вечеру ≈ 9
- Доверие к звёздам: рост звёзд выглядит естественно
- Категория: DevOps и инфраструктура · Язык: Rust · Лицензия: Apache-2.0 · Создан: 2025-11-22 · Последний коммит: 2026-10-19
- GitHub: https://github.com/smg-project/smg · Сайт: https://lightseek.org/smg · Страница: https://gitnova.dev/r/smg-project/smg

## Чем пригодится

- Распределить трафик между несколькими воркерами vLLM или SGLang с cache-aware маршрутизацией
- Открыть единый OpenAI-совместимый эндпоинт перед OpenAI, Anthropic и Gemini
- Добавить API-key авторизацию, rate limiting и метрики Prometheus к существующим движкам инференса

## Почему он здесь

- По замерам счётчика за 2026-10-19 (UTC), 10:41–13:09: 623 → 628 звёзд (+5). Это прирост за указанный интервал.
- Расчётный прогноз на конец суток: около +9 звёзд; учитывает наблюдаемый прирост и предыдущий день.
- GitHub Trending Rust за день: #3, +8 звёзд.

## Доверие к звёздам

Рост звёзд выглядит естественно.

Метки доверия к звёздам — эвристики по поведению репозитория, а не проверка каждого, кто поставил звезду.

## Цифры

- Форков: 195
- Issues и pull requests: 3 972
- Наблюдателей: 4
- В среднем за неделю: 8 в день
- Обычный темп: 2 в день
- Звёзд за последний час (по замерам): 1
- Последний релиз: v1.13.0 (2026-10-15)

## Звёзды по дням за 30 дней (от старых к новым, сегодня — неполный день)

2026-09-20 … 2026-10-19: 2, 1, 4, 1, 0, 0, 0, 1, 2, 5, 0, 1, 2, 0, 2, 1, 1, 5, 2, 2, 0, 3, 4, 2, 5, 7, 21, 7, 7, 5

## Где замечен сейчас

- GitHub Trending Rust за день: #3, +8 звёзд

## Похожие по описанию

1. **higress-group/higress** — 1,1 · Ровно · DevOps и инфраструктура · Go · +2 звезды по замерам 2026-10-19, 00:13–13:11 UTC, к вечеру ≈ 4
   Cloud-native API-шлюз на базе Istio и Envoy с расширением через Wasm-плагины: AI-шлюз, хостинг MCP-серверов, ingress-контроллер и микросервисный шлюз.
   Полная карточка: https://gitnova.dev/r/higress-group/higress.md
2. **QuantumNous/new-api** — 3,5 · Ровно · Языковые модели · Go · +75 звёзд по замерам 2026-10-19, 00:08–13:00 UTC, к вечеру ≈ 123
   Self-hosted AI-шлюз, который объединяет разные LLM-провайдеры и отдаёт единый OpenAI-, Claude- или Gemini-совместимый API с управлением маршрутизацией, доступом и расходами.
   Полная карточка: https://gitnova.dev/r/QuantumNous/new-api.md
3. **llm-d/llm-d-router** — 1,1 · Тихо · DevOps и инфраструктура · Go · +1 звезда по замерам 2026-10-19, 00:12–13:11 UTC, к вечеру ≈ 2
   Интеллектуальная точка входа для инференс-трафика LLM в Kubernetes: маршрутизация с учётом загрузки и prefix-кэша, приоритизация запросов и управление потоками. Работает в Standalone-режиме с Envoy или через Kubernetes Gateway API.
   Полная карточка: https://gitnova.dev/r/llm-d/llm-d-router.md
4. **diegosouzapw/OmniRoute** — 4,5 · Ровно · AI-агенты · TypeScript · +185 звёзд по замерам 2026-10-19, 00:07–13:00 UTC, к вечеру ≈ 354
   Шлюз к 359 AI-провайдерам (150+ бесплатных) и 1200+ моделям через один OpenAI-совместимый endpoint с авто-фолбэком по квотам и сжатием токенов.
   Полная карточка: https://gitnova.dev/r/diegosouzapw/OmniRoute.md
5. **maximhq/bifrost** — 2,3 · Ровно · Языковые модели · Go · +16 звёзд по замерам 2026-10-19, 00:09–13:05 UTC, к вечеру ≈ 28
   Высокопроизводительный AI-шлюз на Go, объединяющий 23+ провайдеров LLM (OpenAI, Anthropic, Bedrock и др.) через единый OpenAI-совместимый API с фолбэками, балансировкой и семантическим кэшем.
   Полная карточка: https://gitnova.dev/r/maximhq/bifrost.md

---

Магнитуда (0–10) — насколько быстро и необычно сейчас растёт интерес к репозиторию. Это не оценка качества.
Дни — по UTC. «Уже сегодня» — факт, «к вечеру ≈» — прогноз.
Описания и сценарии пишет модель (DeepSeek V4.1 Flash) по README, в деталях возможны ошибки: конкретные утверждения (замеры, скорость, железо) проверяйте в самом репозитории.
Данные на 2026-10-19 13:14 UTC, обновление каждые 30 минут.