samir-sarwar/samir-vllm
- Всего звёзд
- 167
- Сегодня
- +13с 00:26 UTC
Другие действия
small LLM inference engine from scratch, w/ 6+ hours of youtube tutorials & 85+ pages of handwritten notes included
Сохрани в «Мои находки», чтобы следить за релизами и ростом звёзд. Сохраняется в этом браузере.
О проекте
Учебный движок инференса LLM на C++ и CUDA, который шаг за шагом показывает, что происходит между промптом и сгенерированным токеном, с видеокурсом и рукописными заметками.
Чем пригодится
- Разобрать по шагам, как устроены prefill, decode и KV-кэш в трансформере
- Изучить реализацию paged attention и continuous batching на C++/CUDA
- Запустить генерацию на Llama 3.2 1B Instruct и посмотреть статистику пула страниц
Пересказ README моделью DeepSeek V4.1 Flash. Может ошибаться в деталях. Оригинал README →
Рост звёзд выглядит естественно. Данные на 10 ноября 2026, 06:13 UTC.
Оценка роста звёзд не подтверждает безопасность запуска.
Звёзды по дням
Столбики — звёзды за день UTC; линия — скользящее среднее доступной истории. Пропуски означают отсутствие данных, а не нулевой рост. Сегодняшний столбик неполный. Красным — дни всплесков.
Почему он в тренде
- По замерам счётчика за 2026-11-10 (UTC), 00:26–06:03: 154 → 167 звёзд (+13). Это прирост за указанный интервал.
- Расчётный прогноз на конец суток: около +109 звёзд; учитывает наблюдаемый прирост и предыдущий день.
- До этого репозиторий почти не получал звёзд — около 1 в день.
- Hacker News: «6 Hours of YouTube and 85 handtyped pages of notes on LLM Inference – Start here» — 77 очков, 18 ч назад.
- Около 7 форков в сутки — код забирают себе.
- Среди свежих форков — заметные разработчики: @toranb (370 подп.).
Замеры роста: последние 7 полных дней
Новые звёзды за 7 дней: 169.
Замеры по дням · UTC
- 3 ноября 2026
- 2
- 4 ноября 2026
- 5
- 5 ноября 2026
- 1
- 6 ноября 2026
- 3
- 7 ноября 2026
- 0
- 8 ноября 2026
- 0
- 9 ноября 2026
- 158
Максимальный измеренный день за последние 30 дней: 158 · 9 ноября 2026. Дней с данными: 30.
Полные дни — из истории звёзд GitHub; сегодня и прогнозы исключены из сравнения. История проверена: 10 ноября 2026, 06:12 UTC. Источники и ограничения замеров →
Три GitHub-находки в каждом выпуске
Что делают, почему набирают интерес и что проверить перед использованием.
Выпуски в 10:00, 16:00, 22:00 МСК.
Цифры
- Всего звёзд
- 167
- Сегодня
- +13 звёзд по замерам 2026-11-10, 00:26–06:03 UTC, к вечеру ≈ 109
- Форков
- 6
- Issues и pull requests
- 0
- Наблюдателей
- 0
- Язык
- C++
- Создан
- 27 августа 2026
- Последний коммит
- 3 ноября 2026
Доверие к звёздам
Рост выглядит естественно: форков и обсуждений столько, сколько бывает у живых проектов, а звёзды приходят неровно, как от людей.
Это эвристики, а не приговор: судим по поведению репозитория, а не по списку звездивших.
Обсуждения на Hacker News
- 6 Hours of YouTube and 85 handtyped pages of notes on LLM Inference – Start here77 очков, 9 ноября 2026
Где замечен
- 10 ноября 2026Замечен на Hacker News
- 9 ноября 2026Замечен на Hacker News
Бейдж для README
Вставьте в README — бейдж сам показывает свежую магнитуду и ведёт на эту страницу.
[](https://gitnova.dev/r/samir-sarwar/samir-vllm)