# vllm-project/vllm

> Высокопроизводительный движок для инференса и обслуживания больших языковых моделей с эффективным управлением памятью через PagedAttention. Поддерживает 200+ архитектур моделей и OpenAI-совместимый API.

- Магнитуда: 2,8 из 10 — Ровно
- Звёзды: 93 326 всего · +7 звёзд по замерам 2026-10-07, 11:04–12:42 UTC, к вечеру ≈ 25
- Доверие к звёздам: рост звёзд выглядит естественно
- Категория: Языковые модели · Язык: Python · Лицензия: Apache-2.0 · Создан: 2023-02-09 · Последний коммит: 2026-10-07
- GitHub: https://github.com/vllm-project/vllm · Сайт: https://vllm.ai · Страница: https://gitnova.dev/r/vllm-project/vllm

## Чем пригодится

- Развернуть OpenAI-совместимый сервер для локальной LLM
- Ускорить инференс модели за счёт continuous batching и PagedAttention
- Запустить мультимодальную или MoE-модель с Hugging Face на своих GPU

## Почему он здесь

- По замерам счётчика за 2026-10-07 (UTC), 11:04–12:42: 93319 → 93326 звёзд (+7). Это прирост за указанный интервал.
- Расчётный прогноз на конец суток: около +25 звёзд; учитывает наблюдаемый прирост и предыдущий день.
- GitHub Trending Python за день: #12, +73 звезды.
- Около 35 форков в сутки — код забирают себе.

## Доверие к звёздам

Рост звёзд выглядит естественно.

Метки доверия к звёздам — эвристики по поведению репозитория, а не проверка каждого, кто поставил звезду.

## Цифры

- Форков: 23 081
- Issues и pull requests: 59 572
- Наблюдателей: 599
- В среднем за неделю: 54 в день
- Обычный темп: 80 в день
- Звёзд за последний час (по замерам): 0
- Последний релиз: v0.31.0 (2026-10-05)

## Звёзды по дням за 30 дней (от старых к новым, сегодня — неполный день)

2026-09-08 … 2026-10-07: 96, 95, 81, 75, 66, 83, 108, 101, 88, 102, 80, 70, 77, 116, 82, 107, 81, 51, 50, 59, 78, 83, 55, 62, 41, 57, 57, 60, 72, 7

## Где замечен сейчас

- GitHub Trending Python за день: #12, +73 звезды

## Похожие по описанию

1. **sgl-project/sglang** — 2,1 · Ровно · Языковые модели · Python · +12 звёзд по замерам 2026-10-07, 00:24–12:46 UTC, к вечеру ≈ 23 · звёзды растут нетипично (эвристика)
   SGLang — открытый фреймворк для быстрого инференса больших языковых и мультимодальных моделей, оптимизированный под агентные нагрузки, RL-rollout и крупномасштабное обслуживание.
   Полная карточка: https://gitnova.dev/r/sgl-project/sglang.md
2. **ggml-org/llama.cpp** — 3,4 · Ровно · Языковые модели · C++ · +52 звезды по замерам 2026-10-07, 00:21–12:40 UTC, к вечеру ≈ 104
   Реализация инференса LLM и VLM на C/C++ без зависимостей, работающая на CPU и GPU разного железа. Позволяет запускать модели локально с минимальной настройкой и квантованием.
   Полная карточка: https://gitnova.dev/r/ggml-org/llama.cpp.md
3. **kvcache-ai/Mooncake** — 1,4 · Ровно · Языковые модели · C++ · +5 звёзд по замерам 2026-10-07, 00:27–12:50 UTC, к вечеру ≈ 8
   Платформа для обслуживания LLM с KVCache-центричной дезагрегированной архитектурой: разделяет prefill и decode, передаёт KV-кэш между узлами через RDMA. Используется в продакшене Kimi от Moonshot AI.
   Полная карточка: https://gitnova.dev/r/kvcache-ai/Mooncake.md
4. **FlashML-org/FreeToken** — 2,0 · Ровно · Языковые модели · Python · +7 звёзд по замерам 2026-10-07, 00:23–12:46 UTC, к вечеру ≈ 17
   Движок инференса Mixture-of-Experts для запуска крупных открытых MoE-моделей (290B+) на потребительском железе — GPU, CPU и оперативной памяти. Нужен тем, кто хочет гонять фронтирные модели локально.
   Полная карточка: https://gitnova.dev/r/FlashML-org/FreeToken.md
5. **microsoft/onnxruntime** — 1,4 · Ровно · Языковые модели · C++ · +3 звезды по замерам 2026-10-07, 00:26–12:51 UTC, к вечеру ≈ 6
   Кроссплатформенный ускоритель инференса и обучения ML-моделей. Запускает модели из PyTorch, TensorFlow, scikit-learn и других через формат ONNX с оптимизацией графа и аппаратным ускорением.
   Полная карточка: https://gitnova.dev/r/microsoft/onnxruntime.md

---

Магнитуда (0–10) — насколько быстро и необычно сейчас растёт интерес к репозиторию. Это не оценка качества.
Дни — по UTC. «Уже сегодня» — факт, «к вечеру ≈» — прогноз.
Описания и сценарии пишет модель (DeepSeek V4.1 Flash) по README, в деталях возможны ошибки: конкретные утверждения (замеры, скорость, железо) проверяйте в самом репозитории.
Данные на 2026-10-07 12:58 UTC, обновление каждые 30 минут.