NVIDIA/TensorRT-LLM
- Всего звёзд
- 14 746
- Сегодня
- +1
Другие действия
TensorRT LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and supports state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. TensorRT LLM also contains components to create Python and C++ runtimes that orchestrate the inference execution in a performant way.
Сохрани в «Мои находки», чтобы следить за релизами и ростом звёзд. Сохраняется в этом браузере.
О проекте
Библиотека NVIDIA для оптимизации инференса больших языковых моделей и визуальных генеративных моделей на GPU: Python API, специализированные ядра и эффективный рантайм на C++/Python.
Чем пригодится
- Развернуть высокопроизводительный сервер инференса LLM на NVIDIA GPU
- Ускорить генерацию видео и изображений через квантование и оптимизированные ядра
- Настроить спекулятивное декодирование и KV-кэш для снижения задержки
Пересказ README моделью DeepSeek V4.1 Flash. Может ошибаться в деталях. Оригинал README →
Рост звёзд выглядит естественно. Данные на 30 сентября 2026, 10:54 UTC.
Оценка роста звёзд не подтверждает безопасность запуска.
Звёзды по дням
Столбики — звёзды за день UTC; линия — скользящее среднее доступной истории. Пропуски означают отсутствие данных, а не нулевой рост. Сегодняшний столбик неполный. Красным — дни всплесков.
Почему он в тренде
- Сегодня уже 1 звезда, к концу дня ожидается около 5.
- Среди свежих форков — заметные разработчики: @jiazhihao (610 подп.).
Замеры роста: последние 7 полных дней
Нет данных за все 7 дней: недельный итог и сравнение не рассчитываются.
Замеры по дням · UTC
- 27 октября 2026
- —
- 28 октября 2026
- —
- 29 октября 2026
- —
- 30 октября 2026
- —
- 31 октября 2026
- —
- 1 ноября 2026
- —
- 2 ноября 2026
- —
Полные дни — из истории звёзд GitHub; сегодня и прогнозы исключены из сравнения. История проверена: 30 сентября 2026, 10:54 UTC. Источники и ограничения замеров →
Три GitHub-находки в каждом выпуске
Что делают, почему набирают интерес и что проверить перед использованием.
Выпуски в 10:00, 16:00, 22:00 МСК.
Цифры
- Всего звёзд
- 14 746
- Сегодня
- +1 звезда за 2026-09-30 (UTC), к вечеру ≈ 4
- Форков
- 2 782
- Issues и pull requests
- 19 485
- Наблюдателей
- 123
- Язык
- Python
- Последний релиз
- v1.3.0rc29 · 29 сентября 2026
- Создан
- 16 августа 2023
- Последний коммит
- 30 сентября 2026
Доверие к звёздам
Рост выглядит естественно: форков и обсуждений столько, сколько бывает у живых проектов, а звёзды приходят неровно, как от людей.
Это эвристики, а не приговор: судим по поведению репозитория, а не по списку звездивших.
Где замечен
- 20 сентября 2026GitHub Trending Python за день: #5, +14 звёзд
- 19 сентября 2026GitHub Trending Python за день: #5, +16 звёзд
Бейдж для README
Вставьте в README — бейдж сам показывает свежую магнитуду и ведёт на эту страницу.
[](https://gitnova.dev/r/NVIDIA/TensorRT-LLM)