# lyuyiqi/open-jev-fast

> Быстрый бэкенд для локального инференса Open-Jev-27B: заменяет forward pass модели написанными вручную CUDA-ядрами, префиксным деревом и CUDA Graphs, работает как drop-in замена штатного сервера Open-Jev.

- Магнитуда: 1,3 из 10 — Ровно
- Звёзды: 87 всего · +4 звезды сегодня, к вечеру ≈ 5
- Доверие к звёздам: рост звёзд выглядит естественно
- Категория: Языковые модели · Язык: Cuda · Лицензия: MIT · Создан: 2026-09-27 · Последний коммит: 2026-09-28
- GitHub: https://github.com/lyuyiqi/open-jev-fast · Сайт: https://yiqilyu.me/open-jev-fast/ · Страница: https://gitnova.dev/r/lyuyiqi/open-jev-fast

## Чем пригодится

- Ускорить локальный сервер Open-Jev-27B, заменив PyTorch-инференс на CUDA-ядра с той же точностью
- Запустить пакетную обработку задач JevBench с меньшей задержкой на одной GPU B300
- Сравнить латентность штатного пути Open-Jev и специализированных ядер на своих запросах

## Почему он здесь

- Сегодня уже 4 звезды, к концу дня ожидается около 5.
- Всплеск держится 2 дня подряд — это не случайный выброс.
- Репозиторию 3 дня, а у него уже 87 звёзд. Истории меньше двух недель, так что обычного темпа, с которым можно сравнить всплеск, у него ещё нет.
- Топ новых репозиториев за неделю: #200.

## Доверие к звёздам

Рост звёзд выглядит естественно.

Метки доверия к звёздам — эвристики по поведению репозитория, а не проверка каждого, кто поставил звезду.

## Цифры

- Форков: 6
- Issues и pull requests: 0
- Наблюдателей: 0
- В среднем за неделю: 22 в день
- Обычный темп: мало истории (меньше двух недель)
- Звёзд за последний час (по замерам): 0

## Звёзды по дням за 11 дней (от старых к новым, сегодня — неполный день)

2026-09-20 … 2026-09-30: 0, 0, 0, 0, 0, 0, 0, 9, 72, 2, 4

## Где замечен сейчас

- Топ новых репозиториев за неделю: #200

## Ещё в этой категории

1. **Niko1221/Strata** — 8,1 · Взлёт · Языковые модели · C++ · +697 звёзд сегодня, к вечеру ≈ 942
   Локальный движок инференса на C++, запускающий 125B MoE-модель Qwen3.8-Flash-Next на обычном ПК с одной NVIDIA GPU (12–24 ГБ) и 64 ГБ RAM, с OpenAI/Anthropic-совместимым API на localhost.
   Полная карточка: https://gitnova.dev/r/Niko1221/Strata.md
2. **VectifyAI/PageIndex** — 8,0 · Взлёт · Языковые модели · Python · +378 звёзд сегодня, к вечеру ≈ 561
   Движок RAG без векторной базы: строит иерархический древовидный индекс документа и ищет по нему рассуждениями LLM, как человек по оглавлению. Для длинных профессиональных PDF — финансовых, юридических, технических.
   Полная карточка: https://gitnova.dev/r/VectifyAI/PageIndex.md
3. **firelex/jeff** — 7,3 · Ранний сигнал · Языковые модели · Python · +66 звёзд сегодня, к вечеру ≈ 119
   Небольшие дообученные модели Qwen3.5 и Gemma 4 для zero-shot классификации: по описанию ситуации и списку вариантов возвращают калиброванную вероятность для каждого варианта за один forward pass.
   Полная карточка: https://gitnova.dev/r/firelex/jeff.md
4. **ninjahawk/livenerf** — 7,0 · Ранний сигнал · Языковые модели · Python · +288 звёзд сегодня, к вечеру ≈ 388
   Бенчмарк для отслеживания деградации frontier-моделей после релиза: ежедневно прогоняет фиксированный набор вопросов и статистически измеряет дрейф точности и токенов относительно базовой недели запуска.
   Полная карточка: https://gitnova.dev/r/ninjahawk/livenerf.md
5. **PostHog/jeeves** — 7,0 · Ранний сигнал · Языковые модели · Python · +27 звёзд сегодня, к вечеру ≈ 57
   Jeeves — это reasoning-модель на базе Qwen3.5-9B (LoRA + pointer head), обученная через SFT и CISPO, которая перед ответом рассуждает и выдаёт калиброванные вероятности для yes/no, multiple-choice и rating вопросов через Jev-совместимый…
   Полная карточка: https://gitnova.dev/r/PostHog/jeeves.md

---

Магнитуда (0–10) — насколько быстро и необычно сейчас растёт интерес к репозиторию. Это не оценка качества.
Дни — по UTC. «Уже сегодня» — факт, «к вечеру ≈» — прогноз.
Описания и сценарии пишет модель (DeepSeek V4.1 Flash) по README, в деталях возможны ошибки: конкретные утверждения (замеры, скорость, железо) проверяйте в самом репозитории.
Данные на 2026-09-30 17:31 UTC, обновление каждые 30 минут.