# samir-sarwar/samir-vllm

> Учебный движок инференса LLM на C++ и CUDA, который шаг за шагом показывает, что происходит между промптом и сгенерированным токеном, с видеокурсом и рукописными заметками.

- Магнитуда: 6,4 из 10 — Ранний сигнал
- Звёзды: 167 всего · +13 звёзд по замерам 2026-11-10, 00:26–06:03 UTC, к вечеру ≈ 109
- Доверие к звёздам: рост звёзд выглядит естественно
- Категория: Обучение и подборки · Язык: C++ · Создан: 2026-08-27 · Последний коммит: 2026-11-03
- GitHub: https://github.com/samir-sarwar/samir-vllm · Страница: https://gitnova.dev/r/samir-sarwar/samir-vllm

## Чем пригодится

- Разобрать по шагам, как устроены prefill, decode и KV-кэш в трансформере
- Изучить реализацию paged attention и continuous batching на C++/CUDA
- Запустить генерацию на Llama 3.2 1B Instruct и посмотреть статистику пула страниц

## Почему он здесь

- По замерам счётчика за 2026-11-10 (UTC), 00:26–06:03: 154 → 167 звёзд (+13). Это прирост за указанный интервал.
- Расчётный прогноз на конец суток: около +109 звёзд; учитывает наблюдаемый прирост и предыдущий день.
- До этого репозиторий почти не получал звёзд — около 1 в день.
- Hacker News: «6 Hours of YouTube and 85 handtyped pages of notes on LLM Inference – Start here» — 77 очков, 18 ч назад.
- Около 7 форков в сутки — код забирают себе.
- Среди свежих форков — заметные разработчики: @toranb (370 подп.).

## Доверие к звёздам

Рост звёзд выглядит естественно.

Метки доверия к звёздам — эвристики по поведению репозитория, а не проверка каждого, кто поставил звезду.

## Цифры

- Форков: 6
- Issues и pull requests: 0
- Наблюдателей: 0
- В среднем за неделю: 40 в день
- Обычный темп: 0 в день
- Звёзд за последний час (по замерам): 4

## Звёзды по дням за 30 дней (от старых к новым, сегодня — неполный день)

2026-10-12 … 2026-11-10: 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 2, 5, 1, 3, 0, 0, 158, 13

## Магнитуда по дням за 2 дня

11-09 5,4, 11-10 6,4

## Hacker News

- 6 Hours of YouTube and 85 handtyped pages of notes on LLM Inference – Start here — 77 очков, 12 комментариев: https://news.ycombinator.com/item?id=50424199

## Где замечен сейчас

- Замечен на Hacker News

## Ещё в этой категории

1. **amosblomqvist/learnharness** — 5,5 · Взлёт · Обучение и подборки · TypeScript · +169 звёзд по замерам 2026-11-10, 00:26–06:03 UTC, к вечеру ≈ 905
   Десктопное приложение, в котором AI-агенты планируют и ведут уроки от текущего уровня понимания до цели, сохраняя прогресс в графе знаний.
   Полная карточка: https://gitnova.dev/r/amosblomqvist/learnharness.md
2. **awesome-dsh-plugin/awesome-dsh-plugin** — 4,4 · Ровно · Обучение и подборки · JavaScript · +48 звёзд по замерам 2026-11-10, 00:36–06:03 UTC, к вечеру ≈ 189
   Кураторский список плагинов для DeepSeek Harness (dsh) — подборка расширений для этой среды. Полезен тем, кто ищет готовые плагины к dsh.
   Полная карточка: https://gitnova.dev/r/awesome-dsh-plugin/awesome-dsh-plugin.md
3. **public-apis/public-apis** — 4,0 · Ровно · Обучение и подборки · Python · +92 звезды по замерам 2026-11-10, 00:27–06:04 UTC, к вечеру ≈ 352
   Курируемый сообществом список бесплатных публичных API по десяткам категорий — от животных и аниме до финансов, геокодинга и погоды. Нужен разработчикам, которые ищут готовый API для прототипа или продукта.
   Полная карточка: https://gitnova.dev/r/public-apis/public-apis.md
4. **DeanChensj/jiangshan-map** — 3,8 · Ровно · Обучение и подборки · JavaScript · +100 звёзд по замерам 2026-11-10, 00:27–06:04 UTC, к вечеру ≈ 313
   Интерактивный исторический атлас Китая с 403 г. до н.э. до наших дней: 18 династий, 164 срезов территорий, генеалогия топонимов и маршруты классической поэзии — для любителей истории и китайской поэзии.
   Полная карточка: https://gitnova.dev/r/DeanChensj/jiangshan-map.md
5. **rohitg00/ai-engineering-from-scratch** — 3,7 · Ровно · Обучение и подборки · Python · +31 звезда по замерам 2026-11-10, 00:27–06:04 UTC, к вечеру ≈ 218
   Открытый учебный курс по AI-инженерии: 523 урока в 20 фазах (~342 часа) на Python, TypeScript, Rust и Julia, где каждый урок даёт готовый артефакт — промпт, skill, агента или MCP-сервер.
   Полная карточка: https://gitnova.dev/r/rohitg00/ai-engineering-from-scratch.md

---

Магнитуда (0–10) — насколько быстро и необычно сейчас растёт интерес к репозиторию. Это не оценка качества.
Дни — по UTC. «Уже сегодня» — факт, «к вечеру ≈» — прогноз.
Описания и сценарии пишет модель (DeepSeek V4.1 Flash) по README, в деталях возможны ошибки: конкретные утверждения (замеры, скорость, железо) проверяйте в самом репозитории.
Данные на 2026-11-10 06:13 UTC, обновление каждые 30 минут.