# Yinsongxu/LLM2Jev > Инструмент превращает локальные языковые модели в движки структурированных решений: принимает вопросы Choice, Score и Noul и возвращает типизированные ответы с вероятностями, используя только prefill-инференс без генерации токенов. - Магнитуда: 0,8 из 10 — Остывает - Звёзды: 396 всего · +1 звезда по замерам 2026-10-05, 00:14–23:44 UTC - Доверие к звёздам: рост звёзд выглядит естественно - Категория: Языковые модели · Язык: Python · Лицензия: Apache-2.0 · Создан: 2026-09-19 · Последний коммит: 2026-09-26 - GitHub: https://github.com/Yinsongxu/LLM2Jev · Страница: https://gitnova.dev/r/Yinsongxu/LLM2Jev ## Чем пригодится - Запустить локальную модель через SGLang и получить вероятности вариантов для вопроса Choice - Оценить взвешенные баллы кандидатов через Score-вопросы без генерации ответных токенов - Ускорить обработку длинных входов с множеством кандидатов за счёт shared-prefix кэша SGLang ## Как начать ```sh git clone https://github.com/Yinsongxu/LLM2Jev.git cd LLM2Jev uv sync --extra sglang source .venv/bin/activate python examples/sglang_inference.py --model-path /path/to/model ``` Дословно из раздела README «quick start». GitNova эти команды не запускал: перед запуском сверьте с оригиналом: https://github.com/Yinsongxu/LLM2Jev#readme ## Почему он здесь - По замерам счётчика за 2026-10-05 (UTC), 00:14–23:44: 395 → 396 звёзд (+1). Это прирост за указанный интервал. - Репозиторию 16 дней, а у него уже 396 звёзд. ## Доверие к звёздам Рост звёзд выглядит естественно. Метки доверия к звёздам — эвристики по поведению репозитория, а не проверка каждого, кто поставил звезду. ## Цифры - Форков: 39 - Issues и pull requests: 2 - Наблюдателей: 2 - В среднем за неделю: 5 в день - Обычный темп: 22 в день ## Звёзды по дням за 30 дней (от старых к новым, сегодня — неполный день) 2026-10-18 … 2026-11-16: None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None ## Магнитуда по дням за 14 дней 09-22 3,2, 09-23 4,3, 09-24 4,8, 09-25 3,4, 09-26 2,2, 09-27 1,1, 09-28 1,6, 09-29 1,5, 09-30 1,2, 10-01 1,1, 10-02 1,0, 10-03 1,0, 10-04 1,0, 10-05 1,0 --- Магнитуда (0–10) — насколько быстро и необычно сейчас растёт интерес к репозиторию. Это не оценка качества. Дни — по UTC. «Уже сегодня» — факт, «к вечеру ≈» — прогноз. Описания и сценарии пишет модель (DeepSeek V4.1 Flash) по README, в деталях возможны ошибки: конкретные утверждения (замеры, скорость, железо) проверяйте в самом репозитории. Данные на 2026-10-05 23:47 UTC, обновление каждые 30 минут.