Yinsongxu/LLM2Jev
Adapt local language models into Jev-compatible structured decision engines with Choice, Score, and Noul outputs powered by prefill-only binary inference.
О проекте
Инструмент превращает локальные языковые модели в движки структурированных решений: принимает вопросы Choice, Score и Noul и возвращает типизированные ответы с вероятностями, используя только prefill-инференс без генерации токенов.
Чем пригодится
- Запустить локальную модель через SGLang и получить вероятности вариантов для вопроса Choice
- Оценить взвешенные баллы кандидатов через Score-вопросы без генерации ответных токенов
- Ускорить обработку длинных входов с множеством кандидатов за счёт shared-prefix кэша SGLang
Пересказ README моделью DeepSeek V4.1 Flash. Может ошибаться в деталях.
Почему он в тренде
- Сегодня уже 0 звёзд, к концу дня ожидается около 72.
- Всплеск держится 2 дня подряд — это не случайный выброс.
- Репозиторию 2 дня, а у него уже 83 звезды.
- Топ новых репозиториев за неделю: #191.
- Около 7 форков в сутки — код забирают себе.
Звёзды по дням
Столбики — звёзды за день, линия — обычный темп. Красным — дни всплесков.
Цифры
- Всего звёзд
- 83
- Звёзд за сутки
- 72
- Форков
- 8
- Issues и pull requests
- 0
- Наблюдателей
- 0
- Язык
- Python
- Лицензия
- Apache-2.0
- Создан
- 19 сентября 2026
- Последний коммит
- 20 сентября 2026
Доверие к звёздам
Рост выглядит естественно: форков и обсуждений столько, сколько бывает у живых проектов, а звёзды приходят неровно, как от людей.
Это эвристики, а не приговор: судим по поведению репозитория, а не по списку звездивших.
Где замечен
- 21 сентября 2026Топ новых репозиториев за неделю: #189
Поделиться
Бейдж для README
Вставьте в README — бейдж сам показывает свежую магнитуду и ведёт на эту страницу.
[](https://gitnova.dev/r/Yinsongxu/LLM2Jev)Похожие проекты
-
8,8
mizorewww/laya-mlx
Нативный MLX-рантайм для типизированных решающих моделей Laya: возвращает вероятности выбора, оценки или истинности без генерации текста, работает локально на Apple Silicon.
-
7,1
bespokelabsai/nimble
Nimble — модель и рецепт обучения для быстрых типизированных решений по тексту: по схеме из enum- и boolean-полей она выбирает ответ и возвращает вероятности каждого варианта. Нужна для маршрутизации, проверки условий…
-
7,0
mizorewww/laya-coreml
Локальный порт модели Laya на Apple Core ML и Neural Engine: возвращает типизированные решения (выбор, оценка, да/нет) без генерации токенов, с бенчмарками скорости и энергопотребления.
-
7,0
FareedKhan-dev/train-llm-from-scratch
Учебный проект: реализация Transformer с нуля на PyTorch и полный пайплайн обучения LLM — от сырого текста до SFT, reward model, PPO/DPO/GRPO и чата, без transformers, trl и peft.
-
6,9
higgsfield-ai/higgsfield
Отказоустойчивый GPU-оркестратор и ML-фреймворк для распределённого обучения моделей с миллиардами и триллионами параметров, включая LLM. Управляет доступом к нодам, очередью экспериментов и интеграцией с GitHub Actions.
-
6,8
TheoLeeCJ/SemIf
Открытая реализация интерфейса семантических решений в стиле Jev: читает вероятности типизированных опций напрямую из логитов 4B-модели без генерации текста. Работает на одной RTX 3090.