# sgl-project/sglang

> SGLang — открытый фреймворк для быстрого инференса больших языковых и мультимодальных моделей, оптимизированный под агентные нагрузки, RL-rollout и крупномасштабное обслуживание.

- Магнитуда: 2,5 из 10 — Ровно
- Звёзды: 36 690 всего · +14 звёзд сегодня, к вечеру ≈ 30
- Доверие к звёздам: звёзды растут нетипично (эвристика)
- Категория: Языковые модели · Язык: Python · Лицензия: Apache-2.0 · Создан: 2024-01-08 · Последний коммит: 2026-10-01
- GitHub: https://github.com/sgl-project/sglang · Сайт: https://sglang.io · Страница: https://gitnova.dev/r/sgl-project/sglang

## Чем пригодится

- Запустить локальный сервер инференса для Llama или DeepSeek через Docker-образ lmsysorg/sglang
- Развернуть обслуживание мультимодальной VLM-модели на нескольких GPU с балансировкой нагрузки
- Использовать SGLang как бэкенд для генерации rollout-ов в RL-обучении через Miles или verl

## Почему он здесь

- Сегодня уже 14 звёзд, к концу дня ожидается около 30.
- GitHub Trending Python за день: #19, +39 звёзд.
- Около 18 форков в сутки — код забирают себе.
- Среди свежих форков — заметные разработчики: @bvolpato (1 763 подп.), @geelen (1 536 подп.).

## Доверие к звёздам

Звёзды растут нетипично (эвристика).
- Звёзды пришли пачкой за один день (1 248) и сразу оборвались: за следующие два дня — 93. Живой интерес обычно затухает плавно.

Метки доверия к звёздам — эвристики по поведению репозитория, а не проверка каждого, кто поставил звезду.

## Цифры

- Форков: 9 250
- Issues и pull requests: 41 557
- Наблюдателей: 184
- В среднем за неделю: 45 в день
- Обычный темп: 82 в день
- Звёзд за последний час (по замерам): -1
- Последний релиз: v0.5.20 (2026-09-18)

## Звёзды по дням за 30 дней (от старых к новым, сегодня — неполный день)

2026-09-02 … 2026-10-01: 515, 588, 1248, 39, 54, 60, 68, 66, 64, 43, 45, 53, 49, 59, 67, 44, 47, 34, 49, 70, 52, 42, 33, 25, 27, 41, 61, 78, 56, 14

## Где замечен сейчас

- GitHub Trending Python за день: #19, +39 звёзд

## Похожие по описанию

1. **vllm-project/vllm-ascend** — 1,2 · Ровно · Языковые модели · Python · +2 звезды сегодня, к вечеру ≈ 3
   Аппаратный плагин для vLLM, позволяющий запускать инференс LLM на NPU Ascend (Atlas A2/A3). Нужен для развёртывания Transformer, MoE, embedding и мультимодальных моделей на оборудовании Huawei Ascend.
   Полная карточка: https://gitnova.dev/r/vllm-project/vllm-ascend.md
2. **kserve/kserve** — 0,9 · Ровно · DevOps и инфраструктура · Go · +2 звезды сегодня, к вечеру ≈ 3
   KServe — платформа для развёртывания и обслуживания моделей генеративного и предиктивного ИИ в Kubernetes с поддержкой множества фреймворков, автоскейлинга и стандартизированного протокола инференса.
   Полная карточка: https://gitnova.dev/r/kserve/kserve.md
3. **microsoft/onnxruntime** — 1,7 · Ровно · Языковые модели · C++ · +3 звезды сегодня, к вечеру ≈ 7
   Кроссплатформенный ускоритель инференса и обучения ML-моделей. Запускает модели из PyTorch, TensorFlow, scikit-learn и других через формат ONNX с оптимизацией графа и аппаратным ускорением.
   Полная карточка: https://gitnova.dev/r/microsoft/onnxruntime.md
4. **amitshekhariitbhu/ai-system-design** — 1,5 · Остывает · Обучение и подборки · Markdown · +10 звёзд сегодня, к вечеру ≈ 16
   Учебное руководство по проектированию AI-систем на базе LLM, RAG и агентов: от инференса и GPU до MCP, мультиагентных систем и подготовки к интервью.
   Полная карточка: https://gitnova.dev/r/amitshekhariitbhu/ai-system-design.md
5. **ml-explore/mlx** — 1,7 · Ровно · Языковые модели · C++ · +4 звезды сегодня, к вечеру ≈ 7
   MLX — фреймворк для массивов и машинного обучения от Apple, оптимизированный под Apple silicon с единой памятью и ленивыми вычислениями. API на Python, C++, C и Swift повторяет NumPy и PyTorch, что упрощает обучение и запуск моделей.
   Полная карточка: https://gitnova.dev/r/ml-explore/mlx.md

---

Магнитуда (0–10) — насколько быстро и необычно сейчас растёт интерес к репозиторию. Это не оценка качества.
Дни — по UTC. «Уже сегодня» — факт, «к вечеру ≈» — прогноз.
Описания и сценарии пишет модель (DeepSeek V4.1 Flash) по README, в деталях возможны ошибки: конкретные утверждения (замеры, скорость, железо) проверяйте в самом репозитории.
Данные на 2026-10-01 13:52 UTC, обновление каждые 30 минут.