# basetenlabs/deepseek-ultrafast

> Высокопроизводительный инференс-движок на Rust для модели DeepSeek-V4.1-Flash на GPU sm_100a/sm_103a с контекстом 1M токенов и общим KV-кэшем между серверами.

- Магнитуда: 5,9 из 10 — Ранний сигнал
- Звёзды: 170 всего · +58 звёзд по замерам 2026-11-14, 00:49–10:32 UTC, к вечеру ≈ 122
- Доверие к звёздам: рост звёзд выглядит естественно
- Категория: Языковые модели · Язык: Rust · Создан: 2026-10-27 · Последний коммит: 2026-11-14
- GitHub: https://github.com/basetenlabs/deepseek-ultrafast · Страница: https://gitnova.dev/r/basetenlabs/deepseek-ultrafast

## Чем пригодится

- Запустить локальный OpenAI-совместимый сервер DeepSeek-V4.1-Flash на 4 или 8 GPU
- Развернуть мультисерверную конфигурацию с общим KV-кэшем через Redis и RDMA
- Замерить скорость декодирования и длину принятия на своём железе

## Почему он здесь

- По замерам счётчика за 2026-11-14 (UTC), 00:49–10:32: 112 → 170 звёзд (+58). Это прирост за указанный интервал.
- Расчётный прогноз на конец суток: около +122 звёзд; учитывает наблюдаемый прирост и предыдущий день.
- До этого репозиторий почти не получал звёзд — около 0 в день.
- Повышенный прирост зафиксирован в 2 последних полных днях подряд (UTC). Это не гарантирует продолжения роста.
- Репозиторию 18 дней, а у него уже 170 звёзд.
- Hacker News: «DeepSeek Ultrafast» — 53 очка, 17 ч назад.

## Доверие к звёздам

Рост звёзд выглядит естественно.

Метки доверия к звёздам — эвристики по поведению репозитория, а не проверка каждого, кто поставил звезду.

## Цифры

- Форков: 4
- Issues и pull requests: 1
- Наблюдателей: 0
- В среднем за неделю: 40 в день
- Обычный темп: 0 в день
- Звёзд за последний час (по замерам): 3

## Звёзды по дням за 19 дней (от старых к новым, сегодня — неполный день)

2026-10-27 … 2026-11-14: 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 0, 57, 103, 58

## Hacker News

- DeepSeek Ultrafast — 53 очков, 10 комментариев: https://news.ycombinator.com/item?id=50486914

## Где замечен сейчас

- Замечен на Hacker News

## Похожие по описанию

1. **mw00/project-maya** — 2,1 · Ровно · Языковые модели · C++ · +11 звёзд по замерам 2026-11-14, 00:07–10:36 UTC, к вечеру ≈ 28
   Локальный движок, сервер и дашборд для запуска 321B MoE-модели GLM-5.3-Flash на одной или двух NVIDIA GPU с выгрузкой экспертов в RAM и NVMe.
   Полная карточка: https://gitnova.dev/r/mw00/project-maya.md
2. **FlashML-org/FreeToken** — 2,1 · Остывает · Языковые модели · Python · +15 звёзд по замерам 2026-11-14, 00:06–10:36 UTC, к вечеру ≈ 39
   Движок инференса Mixture-of-Experts для запуска крупных открытых MoE-моделей (290B+) на потребительском железе — GPU, CPU и оперативной памяти. Нужен тем, кто хочет гонять фронтирные модели локально.
   Полная карточка: https://gitnova.dev/r/FlashML-org/FreeToken.md
3. **deepseek-ai/3FS** — 1,0 · Ровно · DevOps и инфраструктура · C++ · +1 звезда по замерам 2026-11-14, 00:12–10:39 UTC, к вечеру ≈ 3
   , 3FS — распределённая файловая система от DeepSeek для нагрузок AI-обучения и инференса, использующая SSD и RDMA-сети как общий слой хранения.
   Полная карточка: https://gitnova.dev/r/deepseek-ai/3FS.md
4. **Neroued/ninfer** — 0,7 · Ровно · Языковые модели · C++ · +0 звёзд по замерам 2026-11-14, 00:12–10:40 UTC, к вечеру ≈ 1
   NInfer — это написанный с нуля движок инференса на C++/CUDA для моделей Qwen3.5 Dense и MoE на одной видеокарте NVIDIA RTX 5090. Он запускает текстовые, графические и видео-запросы через локальный CLI или HTTP API, совместимый с OpenAI и…
   Полная карточка: https://gitnova.dev/r/Neroued/ninfer.md
5. **NVIDIA/TensorRT-LLM** — 1,3 · Ровно · Языковые модели · Python · +3 звезды по замерам 2026-11-14, 00:12–10:39 UTC, к вечеру ≈ 6
   Библиотека NVIDIA для оптимизации инференса больших языковых моделей и визуальных генеративных моделей на GPU: Python API, специализированные ядра и эффективный рантайм на C++/Python.
   Полная карточка: https://gitnova.dev/r/NVIDIA/TensorRT-LLM.md

---

Магнитуда (0–10) — насколько быстро и необычно сейчас растёт интерес к репозиторию. Это не оценка качества.
Дни — по UTC. «Уже сегодня» — факт, «к вечеру ≈» — прогноз.
Описания и сценарии пишет модель (DeepSeek V4.1 Flash) по README, в деталях возможны ошибки: конкретные утверждения (замеры, скорость, железо) проверяйте в самом репозитории.
Данные на 2026-11-14 10:41 UTC, обновление каждые 30 минут.