# Wallawalla47/Infernix

> C++/CUDA движок инференса Qwen-моделей на одной GPU RTX 50-й серии: выгрузка экспертов в RAM/SSD, префикс-кэш и OpenAI/Anthropic-совместимые API. Для локального запуска крупных Qwen-чекпоинтов, в том числе в агентных задачах.

- Магнитуда: 1,2 из 10 — Остывает
- Звёзды: 104 всего · +1 звезда по замерам 2026-10-13, 10:07–12:38 UTC, к вечеру ≈ 3
- Доверие к звёздам: рост звёзд выглядит естественно
- Категория: Языковые модели · Язык: C++ · Лицензия: Apache-2.0 · Создан: 2026-10-08 · Последний коммит: 2026-10-12
- GitHub: https://github.com/Wallawalla47/Infernix · Страница: https://gitnova.dev/r/Wallawalla47/Infernix

## Чем пригодится

- Запустить Qwen3.8-Flash-Next локально на одной RTX 5090 с выгрузкой экспертов в RAM и NVMe.
- Подключить сервер к Claude Code или Codex через OpenAI/Anthropic-совместимые эндпоинты.
- Ограничить вывод JSON Schema или GBNF-грамматиками для структурированных вызовов инструментов.

## Почему он здесь

- По замерам счётчика за 2026-10-13 (UTC), 10:07–12:38: 103 → 104 звёзд (+1). Это прирост за указанный интервал.
- Расчётный прогноз на конец суток: около +3 звёзд; учитывает наблюдаемый прирост и предыдущий день.
- Репозиторию 5 дней, а у него уже 104 звезды. Истории меньше двух недель, так что обычного темпа, с которым можно сравнить всплеск, у него ещё нет.
- Топ новых репозиториев за неделю: #188.

## Доверие к звёздам

Рост звёзд выглядит естественно.

Метки доверия к звёздам — эвристики по поведению репозитория, а не проверка каждого, кто поставил звезду.

## Цифры

- Форков: 14
- Issues и pull requests: 24
- Наблюдателей: 2
- В среднем за неделю: 18 в день
- Обычный темп: мало истории (меньше двух недель)
- Звёзд за последний час (по замерам): 0
- Последний релиз: windows-2026.10.11 (2026-10-11)

## Звёзды по дням за 6 дней (от старых к новым, сегодня — неполный день)

2026-10-08 … 2026-10-13: 9, 64, 14, 8, 8, 1

## Где замечен сейчас

- Топ новых репозиториев за неделю: #188

## Похожие по описанию

1. **Neroued/ninfer** — 2,4 · Ровно · Языковые модели · C++ · +17 звёзд по замерам 2026-10-13, 00:05–12:32 UTC, к вечеру ≈ 32
   NInfer — это написанный с нуля движок инференса на C++/CUDA для моделей Qwen3.5 Dense и MoE на одной видеокарте NVIDIA RTX 5090. Он запускает текстовые, графические и видео-запросы через локальный CLI или HTTP API, совместимый с OpenAI и…
   Полная карточка: https://gitnova.dev/r/Neroued/ninfer.md
2. **mw00/project-maya** — 5,1 · Ранний сигнал · Языковые модели · C++ · +52 звезды по замерам 2026-10-13, 00:02–12:26 UTC, к вечеру ≈ 109
   Локальный движок, сервер и дашборд для запуска 321B MoE-модели GLM-5.3-Flash на одной или двух NVIDIA GPU с выгрузкой экспертов в RAM и NVMe.
   Полная карточка: https://gitnova.dev/r/mw00/project-maya.md
3. **sybil-solutions/dsv41-flash-offload** — 0,0 · Ровно · Языковые модели · Python · +0 звёзд по замерам 2026-10-13, 00:11–12:42 UTC, к вечеру ≈ 0
   Запускает DeepSeek-V4.1-Flash (EXL3 3.0 bpw) на одной RTX 3090 24 ГБ с выгрузкой экспертов в DDR4 и NVMe, предоставляя OpenAI-совместимый API. Нужен для локального инференса большой MoE-модели на потребительском железе.
   Полная карточка: https://gitnova.dev/r/sybil-solutions/dsv41-flash-offload.md
4. **FlashML-org/FreeToken** — 2,3 · Ровно · Языковые модели · Python · +18 звёзд по замерам 2026-10-13, 00:06–12:32 UTC, к вечеру ≈ 36
   Движок инференса Mixture-of-Experts для запуска крупных открытых MoE-моделей (290B+) на потребительском железе — GPU, CPU и оперативной памяти. Нужен тем, кто хочет гонять фронтирные модели локально.
   Полная карточка: https://gitnova.dev/r/FlashML-org/FreeToken.md
5. **Niko1221/Strata** — 4,8 · Ровно · Языковые модели · C++ · +663 звезды по замерам 2026-10-13, 00:02–12:26 UTC, к вечеру ≈ 1 213
   Локальный движок инференса на C++, запускающий 125B MoE-модель Qwen3.8-Flash-Next на обычном ПК с одной NVIDIA GPU (12–24 ГБ) и 64 ГБ RAM, с OpenAI/Anthropic-совместимым API на localhost.
   Полная карточка: https://gitnova.dev/r/Niko1221/Strata.md

---

Магнитуда (0–10) — насколько быстро и необычно сейчас растёт интерес к репозиторию. Это не оценка качества.
Дни — по UTC. «Уже сегодня» — факт, «к вечеру ≈» — прогноз.
Описания и сценарии пишет модель (DeepSeek V4.1 Flash) по README, в деталях возможны ошибки: конкретные утверждения (замеры, скорость, железо) проверяйте в самом репозитории.
Данные на 2026-10-13 12:43 UTC, обновление каждые 30 минут.