# NVIDIA/TensorRT-LLM

> Библиотека NVIDIA для оптимизации инференса больших языковых моделей и визуальных генеративных моделей на GPU: Python API, специализированные ядра и эффективный рантайм на C++/Python.

- Магнитуда: 1,6 из 10 — Ровно
- Звёзды: 14 746 всего · +1 звезда за 2026-09-30 (UTC), к вечеру ≈ 4
- Доверие к звёздам: рост звёзд выглядит естественно
- Категория: Языковые модели · Язык: Python · Создан: 2023-08-16 · Последний коммит: 2026-09-30
- GitHub: https://github.com/NVIDIA/TensorRT-LLM · Сайт: https://nvidia.github.io/TensorRT-LLM · Страница: https://gitnova.dev/r/NVIDIA/TensorRT-LLM

## Чем пригодится

- Развернуть высокопроизводительный сервер инференса LLM на NVIDIA GPU
- Ускорить генерацию видео и изображений через квантование и оптимизированные ядра
- Настроить спекулятивное декодирование и KV-кэш для снижения задержки

## Почему он здесь

- Сегодня уже 1 звезда, к концу дня ожидается около 5.
- Среди свежих форков — заметные разработчики: @jiazhihao (610 подп.).

## Доверие к звёздам

Рост звёзд выглядит естественно.

Метки доверия к звёздам — эвристики по поведению репозитория, а не проверка каждого, кто поставил звезду.

## Цифры

- Форков: 2 782
- Issues и pull requests: 19 485
- Наблюдателей: 123
- В среднем за неделю: 7 в день
- Обычный темп: 10 в день
- Последний релиз: v1.3.0rc29 (2026-09-29)

## Звёзды по дням за 30 дней (от старых к новым, сегодня — неполный день)

2026-10-05 … 2026-11-03: None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None

## Магнитуда по дням за 12 дней

09-19 2,0, 09-20 1,8, 09-21 1,6, 09-22 1,5, 09-23 1,9, 09-24 1,6, 09-25 1,5, 09-26 1,4, 09-27 1,6, 09-28 1,7, 09-29 1,9, 09-30 1,8

---

Магнитуда (0–10) — насколько быстро и необычно сейчас растёт интерес к репозиторию. Это не оценка качества.
Дни — по UTC. «Уже сегодня» — факт, «к вечеру ≈» — прогноз.
Описания и сценарии пишет модель (DeepSeek V4.1 Flash) по README, в деталях возможны ошибки: конкретные утверждения (замеры, скорость, железо) проверяйте в самом репозитории.
Данные на 2026-09-30 10:54 UTC, обновление каждые 30 минут.