GitNova

Сейсмограф GitHub — находки и рост интереса

1314521gjy/ninfer-fusion-kvmem

Языковые моделиC++
Всего звёзд
103
Сегодня · UTC
+4с 15:03 UTC
Открыть на GitHub Мои находки →
Другие действия

Сохрани в «Мои находки», чтобы следить за релизами и ростом звёзд. Сохраняется в этом браузере.

О проекте

Форк движка вывода NInfer для малого объёма VRAM и длинного контекста: KVMem-кольцо и host-backed переиспользование KV-кэша, чтобы контекст не перезаполнялся каждый раунд. Ранняя версия с известными багами, только для личного использования.

Чем пригодится
  • Запустить движок с пулом KV 4,000 токенов и проверить ответ на 96K-контексте
  • Собрать движок из исходников по инструкции для CUDA 13.3 и MSVC
  • Проверить переиспользование KV-кэша во втором раунде диалога через smoke-скрипт

Пересказ README моделью DeepSeek V4.1 Flash. Может ошибаться в деталях.

3,7 Ранний сигнал Магнитуда из 10 — скорость роста интереса, а не оценка качества.

Рост звёзд выглядит естественно. Данные на 6 октября 2026, 17:02 UTC.

Оценка роста звёзд не подтверждает безопасность запуска.

Звёзды по дням

025504 октября 20266 октября 2026

Столбики — звёзды за день; линия — скользящее среднее доступной истории. При короткой истории оно ещё не задаёт надёжный обычный темп. Красным — дни всплесков.

Почему он в тренде

  • По замерам счётчика за 2026-10-06 (UTC), 15:03–16:48: 99 → 103 звёзд (+4). Это прирост за указанный интервал.
  • Расчётный прогноз на конец суток: около +9 звёзд; учитывает наблюдаемый прирост и предыдущий день.
  • Репозиторию 2 дня, а у него уже 103 звезды. Истории меньше двух недель, так что обычного темпа, с которым можно сравнить всплеск, у него ещё нет.
  • Топ новых репозиториев за неделю: #136.

Три GitHub-находки в каждом выпуске

Что делают, почему набирают интерес и что проверить перед использованием.

Выпуски в 10:00, 16:00, 22:00 МСК.

Поделиться в X Telegram

Цифры

Всего звёзд
103
Сегодня
+4 звезды по замерам 2026-10-06, 15:03–16:48 UTC, к вечеру ≈ 9
Форков
11
Issues и pull requests
3
Наблюдателей
1
Язык
C++
Лицензия
Apache-2.0
Последний релиз
engine-v0.11.0-kvmem-20261003 · 4 октября 2026
Создан
4 октября 2026
Последний коммит
6 октября 2026

Доверие к звёздам

Рост выглядит естественно: форков и обсуждений столько, сколько бывает у живых проектов, а звёзды приходят неровно, как от людей.

Это эвристики, а не приговор: судим по поведению репозитория, а не по списку звездивших.

Где замечен
Бейдж для README

Вставьте в README — бейдж сам показывает свежую магнитуду и ведёт на эту страницу.

GitNova: 3,7
[![GitNova](https://gitnova.dev/badge/1314521gjy/ninfer-fusion-kvmem.svg)](https://gitnova.dev/r/1314521gjy/ninfer-fusion-kvmem)