navaneethkrishnansuresh/Inference-Engineering

Языковые моделиJupyter Notebook

1,1 Остывает Магнитуда из 10. Рост звёзд выглядит естественно. Данные на 18 сентября 2026.

Открыть на Сейсмографе Открыть на GitHub

О проекте

Практический курс по inference-инженерии LLM: разбирает, что происходит при обработке запроса — токенизация, prefill, decode, KV cache, планирование и батчинг. Для разработчиков, желающих понять runtime-сторону обслуживания моделей.

Чем пригодится

Пройти главу 1, чтобы вручную реализовать генерацию токенов LLM с нуля
Изучить, как растёт KV cache и где расходуется память GPU при инференсе
Разобраться в планировании запросов и continuous batching для повышения throughput

Пересказ README моделью DeepSeek V4.1 Flash. Может ошибаться в деталях.

Почему он в тренде

Сегодня уже 7 звёзд, к концу дня ожидается около 8.
Всплеск держится 2 дня подряд — это не случайный выброс.
Репозиторию 4 дня, а у него уже 100 звёзд.
Топ новых репозиториев за неделю: #124.

Звёзды по дням

Столбики — звёзды за день, линия — обычный темп. Красным — дни всплесков.

Цифры

Всего звёзд: 100
Звёзд за сутки: 8
Форков: 7
Issues и pull requests: 2
Наблюдателей: 2
Язык: Jupyter Notebook
Создан: 14 сентября 2026
Последний коммит: 18 сентября 2026

Доверие к звёздам

Рост выглядит естественно: форков и обсуждений столько, сколько бывает у живых проектов, а звёзды приходят неровно, как от людей.

Это эвристики, а не приговор: судим по поведению репозитория, а не по списку звездивших.

Где замечен

18 сентября 2026Топ новых репозиториев за неделю: #92
17 сентября 2026Топ новых репозиториев за неделю: #90
16 сентября 2026Топ новых репозиториев за неделю: #125
15 сентября 2026Топ новых репозиториев за неделю: #154

Бейдж для README

Вставьте в README — бейдж сам показывает свежую магнитуду и ведёт на эту страницу.

[![Сейсмограф](https://gitnova.dev/badge/navaneethkrishnansuresh/Inference-Engineering.svg)](https://gitnova.dev/r/navaneethkrishnansuresh/Inference-Engineering)