# llm-d/llm-d-router

> Интеллектуальная точка входа для инференс-трафика LLM в Kubernetes: маршрутизация с учётом загрузки и prefix-кэша, приоритизация запросов и управление потоками. Работает в Standalone-режиме с Envoy или через Kubernetes Gateway API.

- Магнитуда: 0,3 из 10 — Тихо
- Звёзды: 373 всего · +0 звёзд по замерам 2026-10-06, 11:46–14:29 UTC, к вечеру ≈ 0
- Доверие к звёздам: рост звёзд выглядит естественно
- Категория: DevOps и инфраструктура · Язык: Go · Лицензия: Apache-2.0 · Создан: 2025-05-05 · Последний коммит: 2026-10-06
- GitHub: https://github.com/llm-d/llm-d-router · Сайт: https://llm-d.ai/docs/architecture/core/router · Страница: https://gitnova.dev/r/llm-d/llm-d-router

## Чем пригодится

- Настроить маршрутизацию запросов к нескольким репликам LLM с учётом KV-кэша
- Задать приоритеты и цели производительности для отдельных типов запросов через InferenceObjective
- Провести canary-расклейку моделей через InferenceModelRewrite без изменения клиентов

## Почему он здесь

- По замерам счётчика за 2026-10-06 (UTC), 11:46–14:29: 373 → 373 звёзд (+0). Это прирост за указанный интервал.
- GitHub Trending Go за день: #8.

## Доверие к звёздам

Рост звёзд выглядит естественно.

Метки доверия к звёздам — эвристики по поведению репозитория, а не проверка каждого, кто поставил звезду.

## Цифры

- Форков: 418
- Issues и pull requests: 3 172
- Наблюдателей: 31
- В среднем за неделю: 1 в день
- Обычный темп: 2 в день
- Звёзд за последний час (по замерам): 0
- Последний релиз: v0.11.0 (2026-09-27)

## Звёзды по дням за 30 дней (от старых к новым, сегодня — неполный день)

2026-09-07 … 2026-10-06: 2, 0, 1, 0, 3, 0, 1, 3, 4, 1, 7, 0, 2, 1, 0, 2, 2, 2, 1, 0, 4, 1, 1, 0, 3, 2, 2, 1, 0, 0

## Где замечен сейчас

- GitHub Trending Go за день: #8

## Ещё в этой категории

1. **caddyserver/caddy** — 7,1 · Взлёт · DevOps и инфраструктура · Go · +282 звезды по замерам 2026-10-06, 00:17–14:09 UTC, к вечеру ≈ 484
   Расширяемый многоплатформенный веб-сервер на Go с автоматическим HTTPS по умолчанию, поддержкой HTTP/1.1, HTTP/2 и HTTP/3 и конфигурацией через Caddyfile, JSON или API.
   Полная карточка: https://gitnova.dev/r/caddyserver/caddy.md
2. **kanoqwq/UFI-TOOLS** — 6,4 · Взлёт · DevOps и инфраструктура · JavaScript · +222 звезды по замерам 2026-10-06, 00:18–14:09 UTC, к вечеру ≈ 333
   UFI-TOOLS — набор утилит для управления портативными Wi-Fi роутерами ZTE (F50, U30 Air) и другими устройствами на платформе Unisoc/MyOS: мониторинг сигнала, смена режима сети, AT-команды, плагины и веб-панель.
   Полная карточка: https://gitnova.dev/r/kanoqwq/UFI-TOOLS.md
3. **kubernetes/kubernetes** — 3,5 · Ровно · DevOps и инфраструктура · Go · +42 звезды по замерам 2026-10-06, 00:19–14:12 UTC, к вечеру ≈ 64
   Kubernetes — открытая система оркестрации контейнеров для развёртывания, масштабирования и управления контейнеризированными приложениями на множестве хостов.
   Полная карточка: https://gitnova.dev/r/kubernetes/kubernetes.md
4. **x4gpanell/SuperJinX** — 3,3 · Остывает · DevOps и инфраструктура · HTML · +9 звёзд по замерам 2026-10-06, 00:18–14:12 UTC, к вечеру ≈ 18
   Super JinX — это форк панели PasarGuard для продажи VPN-подписок: панель, ядро Xray и nginx разворачиваются одним сервисом на Railway без VPS и терминала. Панель даёт готовые конфиги VLESS/Trojan/VMess, роли реселлеров и отдельную…
   Полная карточка: https://gitnova.dev/r/x4gpanell/SuperJinX.md
5. **clash-verge-rev/clash-verge-rev** — 3,2 · Ровно · DevOps и инфраструктура · Rust · +130 звёзд по замерам 2026-10-06, 00:19–14:12 UTC, к вечеру ≈ 208
   Кроссплатформенный GUI-клиент для прокси на базе Tauri и ядра Clash Meta (mihomo), продолжающий Clash Verge. Управляет правилами маршрутизации, конфигурациями и системным прокси на Windows, macOS и Linux.
   Полная карточка: https://gitnova.dev/r/clash-verge-rev/clash-verge-rev.md

---

Магнитуда (0–10) — насколько быстро и необычно сейчас растёт интерес к репозиторию. Это не оценка качества.
Дни — по UTC. «Уже сегодня» — факт, «к вечеру ≈» — прогноз.
Описания и сценарии пишет модель (DeepSeek V4.1 Flash) по README, в деталях возможны ошибки: конкретные утверждения (замеры, скорость, железо) проверяйте в самом репозитории.
Данные на 2026-10-06 14:31 UTC, обновление каждые 30 минут.