# Neroued/ninfer

> NInfer — это написанный с нуля движок инференса на C++/CUDA для моделей Qwen3.5 Dense и MoE на одной видеокарте NVIDIA RTX 5090. Он запускает текстовые, графические и видео-запросы через локальный CLI или HTTP API, совместимый с OpenAI и Anthropic.

- Магнитуда: 1,8 из 10 — Ровно
- Звёзды: 3 041 всего · +7 звёзд по замерам 2026-10-16, 00:11–11:28 UTC, к вечеру ≈ 17
- Доверие к звёздам: рост звёзд выглядит естественно
- Категория: Языковые модели · Язык: C++ · Лицензия: Apache-2.0 · Создан: 2026-06-26 · Последний коммит: 2026-10-16
- GitHub: https://github.com/Neroued/ninfer · Страница: https://gitnova.dev/r/Neroued/ninfer

## Чем пригодится

- Запустить локальный сервер инференса Qwen3.8-27B с двумя параллельными запросами и контекстом 240 000 токенов.
- Отправить OpenAI-совместимый запрос к локальной модели через curl для генерации текста.
- Выполнить одиночный CLI-запрос с изображением или видео через флаг --vision.

## Почему он здесь

- По замерам счётчика за 2026-10-16 (UTC), 00:11–11:28: 3034 → 3041 звёзд (+7). Это прирост за указанный интервал.
- Расчётный прогноз на конец суток: около +17 звёзд; учитывает наблюдаемый прирост и предыдущий день.

## Доверие к звёздам

Рост звёзд выглядит естественно.

Метки доверия к звёздам — эвристики по поведению репозитория, а не проверка каждого, кто поставил звезду.

## Цифры

- Форков: 600
- Issues и pull requests: 398
- Наблюдателей: 26
- В среднем за неделю: 27 в день
- Обычный темп: 38 в день

## Звёзды по дням за 30 дней (от старых к новым, сегодня — неполный день)

2026-10-04 … 2026-11-02: 37, 34, 39, 36, 38, 27, 27, 40, 31, 23, 29, 24, 0, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None

## Магнитуда по дням за 14 дней

09-29 2,0, 10-04 0,0, 10-05 2,1, 10-06 2,5, 10-07 2,6, 10-08 2,7, 10-09 2,5, 10-10 2,4, 10-11 2,3, 10-12 2,6, 10-13 2,4, 10-14 2,3, 10-15 2,0, 10-16 1,9

---

Магнитуда (0–10) — насколько быстро и необычно сейчас растёт интерес к репозиторию. Это не оценка качества.
Дни — по UTC. «Уже сегодня» — факт, «к вечеру ≈» — прогноз.
Описания и сценарии пишет модель (DeepSeek V4.1 Flash) по README, в деталях возможны ошибки: конкретные утверждения (замеры, скорость, железо) проверяйте в самом репозитории.
Данные на 2026-10-16 11:35 UTC, обновление каждые 30 минут.