lyuyiqi/open-jev-fast

Faster inference backend for Open-Jev-27B: fused CUDA kernels, prefix tree, CUDA Graphs (B300, bf16)

Языковые моделиCuda

1,3 Ровно Магнитуда из 10 — скорость роста интереса, а не оценка качества. Рост звёзд выглядит естественно. Данные на 30 сентября 2026, 16:35 UTC.

Открыть на Сейсмографе Открыть на GitHub

О проекте

Быстрый бэкенд для локального инференса Open-Jev-27B: заменяет forward pass модели написанными вручную CUDA-ядрами, префиксным деревом и CUDA Graphs, работает как drop-in замена штатного сервера Open-Jev.

Чем пригодится

Ускорить локальный сервер Open-Jev-27B, заменив PyTorch-инференс на CUDA-ядра с той же точностью
Запустить пакетную обработку задач JevBench с меньшей задержкой на одной GPU B300
Сравнить латентность штатного пути Open-Jev и специализированных ядер на своих запросах

Пересказ README моделью DeepSeek V4.1 Flash. Может ошибаться в деталях.

Почему он в тренде

Сегодня уже 4 звезды, к концу дня ожидается около 5.
Всплеск держится 2 дня подряд — это не случайный выброс.
Репозиторию 3 дня, а у него уже 87 звёзд. Истории меньше двух недель, так что обычного темпа, с которым можно сравнить всплеск, у него ещё нет.
Топ новых репозиториев за неделю: #196.

Звёзды по дням

Столбики — звёзды за день, линия — обычный темп. Красным — дни всплесков.

Цифры

Всего звёзд: 87
Сегодня: 4 · к вечеру ≈ 5
Форков: 6
Issues и pull requests: 0
Наблюдателей: 0
Язык: Cuda
Лицензия: MIT
Создан: 27 сентября 2026
Последний коммит: 28 сентября 2026

Доверие к звёздам

Рост выглядит естественно: форков и обсуждений столько, сколько бывает у живых проектов, а звёзды приходят неровно, как от людей.

Это эвристики, а не приговор: судим по поведению репозитория, а не по списку звездивших.

Где замечен

30 сентября 2026Топ новых репозиториев за неделю: #195

Бейдж для README

Вставьте в README — бейдж сам показывает свежую магнитуду и ведёт на эту страницу.

[![Сейсмограф](https://gitnova.dev/badge/lyuyiqi/open-jev-fast.svg)](https://gitnova.dev/r/lyuyiqi/open-jev-fast)

Ещё в этой категории

8,1
Niko1221/Strata
Локальный движок инференса на C++, запускающий 125B MoE-модель Qwen3.8-Flash-Next на обычном ПК с одной NVIDIA GPU (12–24 ГБ) и 64 ГБ RAM, с OpenAI/Anthropic-совместимым API на localhost.

ВзлётЯзыковые моделиC+++618 звёзд сегодня, к вечеру ≈ 883
7,7
VectifyAI/PageIndex
Движок RAG без векторной базы: строит иерархический древовидный индекс документа и ищет по нему рассуждениями LLM, как человек по оглавлению. Для длинных профессиональных PDF — финансовых, юридических, технических.

ВзлётЯзыковые моделиPython+350 звёзд сегодня, к вечеру ≈ 564
7,4
firelex/jeff
Небольшие дообученные модели Qwen3.5 и Gemma 4 для zero-shot классификации: по описанию ситуации и списку вариантов возвращают калиброванную вероятность для каждого варианта за один forward pass.

Ранний сигналЯзыковые моделиPython+63 звезды сегодня, к вечеру ≈ 128
7,0
PostHog/jeeves
Jeeves — это reasoning-модель на базе Qwen3.5-9B (LoRA + pointer head), обученная через SFT и CISPO, которая перед ответом рассуждает и выдаёт калиброванные вероятности для yes/no, multiple-choice и rating вопросов…

Ранний сигналЯзыковые моделиPython+25 звёзд сегодня, к вечеру ≈ 62
6,9
ninjahawk/livenerf
Бенчмарк для отслеживания деградации frontier-моделей после релиза: ежедневно прогоняет фиксированный набор вопросов и статистически измеряет дрейф точности и токенов относительно базовой недели запуска.

Ранний сигналЯзыковые моделиPython+264 звезды сегодня, к вечеру ≈ 375
6,4
deepseek-ai/DeepGEMM-Ascend
Порт библиотеки DeepGEMM на платформу Huawei Ascend: набор GEMM-ядер (BF16, FP8, FP4, MQA logits, MegaMoE) с API, совместимым с DeepGEMM, для достижения пиковой производительности NPU.

Ранний сигналЯзыковые моделиC+++159 звёзд сегодня, к вечеру ≈ 226