llm-d/llm-d-router
- Всего звёзд
- 373
- Сегодня · UTC
- +0с 11:46 UTC
Сохрани в «Мои находки», чтобы следить за релизами и ростом звёзд. Сохраняется в этом браузере.
О проекте
Интеллектуальная точка входа для инференс-трафика LLM в Kubernetes: маршрутизация с учётом загрузки и prefix-кэша, приоритизация запросов и управление потоками. Работает в Standalone-режиме с Envoy или через Kubernetes Gateway API.
Чем пригодится
- Настроить маршрутизацию запросов к нескольким репликам LLM с учётом KV-кэша
- Задать приоритеты и цели производительности для отдельных типов запросов через InferenceObjective
- Провести canary-расклейку моделей через InferenceModelRewrite без изменения клиентов
Пересказ README моделью DeepSeek V4.1 Flash. Может ошибаться в деталях.
Рост звёзд выглядит естественно. Данные на 6 октября 2026, 13:38 UTC.
Оценка роста звёзд не подтверждает безопасность запуска.
Звёзды по дням
Столбики — звёзды за день; линия — скользящее среднее доступной истории. При короткой истории оно ещё не задаёт надёжный обычный темп. Красным — дни всплесков.
Почему он в тренде
- По замерам счётчика за 2026-10-06 (UTC), 11:46–13:37: 373 → 373 звёзд (+0). Это прирост за указанный интервал.
- GitHub Trending Go за день: #8.
Три GitHub-находки в каждом выпуске
Что делают, почему набирают интерес и что проверить перед использованием.
Выпуски в 10:00, 16:00, 22:00 МСК.
Цифры
- Всего звёзд
- 373
- Сегодня
- +0 звёзд по замерам 2026-10-06, 11:46–13:37 UTC, к вечеру ≈ 0
- Форков
- 417
- Issues и pull requests
- 3 170
- Наблюдателей
- 31
- Язык
- Go
- Лицензия
- Apache-2.0
- Последний релиз
- v0.11.0 · 27 сентября 2026
- Создан
- 5 мая 2025
- Последний коммит
- 6 октября 2026
Доверие к звёздам
Рост выглядит естественно: форков и обсуждений столько, сколько бывает у живых проектов, а звёзды приходят неровно, как от людей.
Это эвристики, а не приговор: судим по поведению репозитория, а не по списку звездивших.
Где замечен
- 6 октября 2026GitHub Trending Go за день: #8
Бейдж для README
Вставьте в README — бейдж сам показывает свежую магнитуду и ведёт на эту страницу.
[](https://gitnova.dev/r/llm-d/llm-d-router)