# lightseekorg/tokenspeed

> TokenSpeed — открытый движок инференса LLM для агентных нагрузок, сочетающий производительность уровня TensorRT-LLM с удобством vLLM. Он разделяет управляющий слой на C++ и слой исполнения на Python и включает подключаемую подсистему ядер с быстрой реализацией MLA.

- Магнитуда: 3,4 из 10 — Взлёт
- Звёзды: 2 310 всего · +33 звезды по замерам 2026-10-15, 11:22–13:00 UTC, к вечеру ≈ 54
- Доверие к звёздам: рост звёзд выглядит естественно
- Категория: Языковые модели · Язык: Python · Лицензия: MIT · Создан: 2026-05-06 · Последний коммит: 2026-10-15
- GitHub: https://github.com/lightseekorg/tokenspeed · Сайт: https://lightseek.org/blog/lightseek-tokenspeed.html · Страница: https://gitnova.dev/r/lightseekorg/tokenspeed

## Чем пригодится

- Развернуть низколатентный сервер LLM для агентных нагрузок на GPU NVIDIA или AMD
- Замерить tokens/s на пользователя и сравнить с TensorRT-LLM на той же модели и железе
- Добавить свои ядра в реестр ядер для нового типа ускорителя

## Почему он здесь

- По замерам счётчика за 2026-10-15 (UTC), 11:22–13:00: 2277 → 2310 звёзд (+33). Это прирост за указанный интервал.
- Расчётный прогноз на конец суток: около +54 звёзд; учитывает наблюдаемый прирост и предыдущий день.
- До этого репозиторий почти не получал звёзд — около 2 в день.
- Повышенный прирост зафиксирован в 2 последних полных днях подряд (UTC). Это не гарантирует продолжения роста.
- GitHub Trending за день: #11, +25 звёзд.
- GitHub Trending Python за день: #4, +25 звёзд.

## Доверие к звёздам

Рост звёзд выглядит естественно.

Метки доверия к звёздам — эвристики по поведению репозитория, а не проверка каждого, кто поставил звезду.

## Цифры

- Форков: 331
- Issues и pull requests: 2 334
- Наблюдателей: 14
- В среднем за неделю: 16 в день
- Обычный темп: 3 в день
- Звёзд за последний час (по замерам): 20
- Последний релиз: v0.1.1 (2026-10-06)

## Звёзды по дням за 30 дней (от старых к новым, сегодня — неполный день)

2026-09-16 … 2026-10-15: 5, 5, 3, 3, 2, 5, 7, 2, 5, 4, 3, 4, 2, 3, 1, 2, 1, 1, 0, 0, 1, 7, 5, 3, 3, 2, 3, 18, 31, 33

## Где замечен сейчас

- GitHub Trending за день: #11, +25 звёзд
- GitHub Trending Python за день: #4, +25 звёзд

## Ещё в этой категории

1. **chenglou/handwired** — 7,1 · Ранний сигнал · Языковые модели · TypeScript · +248 звёзд по замерам 2026-10-15, 06:44–12:56 UTC, к вечеру ≈ 359
   Преобразует обычный JavaScript-код в дифференцируемую нейросеть: if-else, циклы и состояние компилируются в матричные умножения и ReLU без обучения. Работает на JS или WebGPU.
   Полная карточка: https://gitnova.dev/r/chenglou/handwired.md
2. **BaruqueRodrigues/llm-legislativo** — 5,7 · Ранний сигнал · Языковые модели · Python · +42 звезды по замерам 2026-10-15, 00:23–12:56 UTC, к вечеру ≈ 96
   Крупномасштабный корпус бразильских законодательных документов и причинная Transformer-модель, обученная с нуля на чистом PyTorch без предобученных весов и внешних API.
   Полная карточка: https://gitnova.dev/r/BaruqueRodrigues/llm-legislativo.md
3. **prabanta-dev/janas** — 5,0 · Ранний сигнал · Языковые модели · C · +14 звёзд по замерам 2026-10-15, 00:20–12:56 UTC, к вечеру ≈ 32
   Janas — набор AI-инструментов на C без зависимостей. Janas-LLM запускает большие MoE-модели (до 80B, 48 ГБ) на ноутбуке с 32 ГБ ОЗУ, стримя экспертов с NVMe SSD, и работает быстрее llama.cpp на всех 13 протестированных моделях.
   Полная карточка: https://gitnova.dev/r/prabanta-dev/janas.md
4. **Niko1221/Strata** — 4,6 · Ровно · Языковые модели · C++ · +510 звёзд по замерам 2026-10-15, 00:21–12:57 UTC, к вечеру ≈ 916
   Локальный движок инференса на C++, запускающий 125B MoE-модель Qwen3.8-Flash-Next на обычном ПК с одной NVIDIA GPU (12–24 ГБ) и 64 ГБ RAM, с OpenAI/Anthropic-совместимым API на localhost.
   Полная карточка: https://gitnova.dev/r/Niko1221/Strata.md
5. **cdcailf/cjkfold** — 4,6 · Ранний сигнал · Языковые модели · Python · +36 звёзд по замерам 2026-10-15, 00:24–12:57 UTC, к вечеру ≈ 70
   Python-библиотека, которая сворачивает похожие CJK-глифы (Kangxi radicals и CJK radical supplements) обратно в те иероглифы, которыми они отображаются, чтобы текст из PDF снова совпадал при поиске и сравнении. Без зависимостей, чистые…
   Полная карточка: https://gitnova.dev/r/cdcailf/cjkfold.md

---

Магнитуда (0–10) — насколько быстро и необычно сейчас растёт интерес к репозиторию. Это не оценка качества.
Дни — по UTC. «Уже сегодня» — факт, «к вечеру ≈» — прогноз.
Описания и сценарии пишет модель (DeepSeek V4.1 Flash) по README, в деталях возможны ошибки: конкретные утверждения (замеры, скорость, железо) проверяйте в самом репозитории.
Данные на 2026-10-15 13:16 UTC, обновление каждые 30 минут.