# mode-io/vllm-jev

> Сервер на базе vLLM для Jev-моделей принятия решений: принимает вопрос и варианты ответа, возвращает метку и вероятность для каждого варианта. Работает на Linux с NVIDIA GPU и на Apple Silicon через MLX/MPS.

- Магнитуда: 2,6 из 10 — Ранний сигнал
- Звёзды: 100 всего · +21 звезда сегодня, к вечеру ≈ 32
- Доверие к звёздам: рост звёзд выглядит естественно
- Категория: Языковые модели · Язык: Python · Лицензия: Apache-2.0 · Создан: 2026-09-24 · Последний коммит: 2026-09-29
- GitHub: https://github.com/mode-io/vllm-jev · Страница: https://gitnova.dev/r/mode-io/vllm-jev

## Чем пригодится

- Развернуть HTTP-сервер для классификации интентов клиентских обращений по вариантам ответа
- Запустить локальный инференс Valen на Mac для ответов на вопросы по изображениям
- Обрабатывать 40 параллельных текстовых Choice-запросов на одной A800

## Почему он здесь

- Сегодня уже 21 звезда, к концу дня ожидается около 32.
- Всплеск держится 3 дня подряд — это не случайный выброс.
- Репозиторию 5 дней, а у него уже 100 звёзд. Истории меньше двух недель, так что обычного темпа, с которым можно сравнить всплеск, у него ещё нет.
- Топ новых репозиториев за неделю: #158.

## Доверие к звёздам

Рост звёзд выглядит естественно.

Метки доверия к звёздам — эвристики по поведению репозитория, а не проверка каждого, кто поставил звезду.

## Цифры

- Форков: 2
- Issues и pull requests: 1
- Наблюдателей: 1
- В среднем за неделю: 19 в день
- Обычный темп: мало истории (меньше двух недель)
- Звёзд за последний час (по замерам): 4

## Звёзды по дням за 10 дней (от старых к новым, сегодня — неполный день)

2026-09-20 … 2026-09-29: 0, 0, 0, 0, 10, 29, 13, 11, 18, 21

## Где замечен сейчас

- Топ новых репозиториев за неделю: #158

## Похожие по описанию

1. **firelex/jeff** — 8,2 · Ранний сигнал · Языковые модели · Python · +282 звезды сегодня, к вечеру ≈ 491
   Небольшие дообученные модели Qwen3.5 и Gemma 4 для zero-shot классификации: по описанию ситуации и списку вариантов возвращают калиброванную вероятность для каждого варианта за один forward pass.
   Полная карточка: https://gitnova.dev/r/firelex/jeff.md
2. **Liuziyu77/Valen** — 4,3 · Ранний сигнал · Языковые модели · Python · +22 звезды сегодня, к вечеру ≈ 47
   Мультимодальная модель принятия решений на базе Qwen3.5-0.8B/2B: принимает текст, изображения и видео с инструкцией и возвращает вероятности по заданным вариантам без генерации токенов ответа. Включает код модели, обработку данных, SFT и…
   Полная карточка: https://gitnova.dev/r/Liuziyu77/Valen.md
3. **ekzhang/openjev-sglang** — 0,6 · Остывает · Языковые модели · Python · +0 звёзд сегодня, к вечеру ≈ 0
   HTTP-сервер, реализующий API TypeSafe/Jev для структурированной классификации текста на базе Qwen3.6-35B-A3B и SGLang; возвращает вероятности ответов без генерации цепочки рассуждений.
   Полная карточка: https://gitnova.dev/r/ekzhang/openjev-sglang.md
4. **bespokelabsai/nimble** — 1,8 · Остывает · Языковые модели · Python · +8 звёзд сегодня, к вечеру ≈ 14
   Nimble — модель и рецепт обучения для быстрых типизированных решений по тексту: по схеме из enum- и boolean-полей она выбирает ответ и возвращает вероятности каждого варианта. Нужна для маршрутизации, проверки условий и применения политик…
   Полная карточка: https://gitnova.dev/r/bespokelabsai/nimble.md
5. **zhulinchng/jevper** — 0,6 · Ровно · Языковые модели · Python · +0 звёзд сегодня, к вечеру ≈ 0
   Обёртка над OpenAI-совместимыми клиентами для классификации: вместо текстового ответа возвращает типизированные вопросы (noul, choice, score) с вероятностями и уверенностью. Работает с любым клиентом, имеющим responses.create или…
   Полная карточка: https://gitnova.dev/r/zhulinchng/jevper.md

---

Магнитуда (0–10) — насколько быстро и необычно сейчас растёт интерес к репозиторию. Это не оценка качества.
Дни — по UTC. «Уже сегодня» — факт, «к вечеру ≈» — прогноз.
Описания и сценарии пишет модель (DeepSeek V4.1 Flash) по README, в деталях возможны ошибки: конкретные утверждения (замеры, скорость, железо) проверяйте в самом репозитории.
Данные на 2026-09-29 14:30 UTC, обновление каждые 30 минут.