Neroued/ninfer
- Всего звёзд
- 3 041
- Сегодня
- +7с 00:11 UTC
Другие действия
High-performance single-GPU inference for selected model checkpoints and GPUs.
Сохрани в «Мои находки», чтобы следить за релизами и ростом звёзд. Сохраняется в этом браузере.
О проекте
NInfer — это написанный с нуля движок инференса на C++/CUDA для моделей Qwen3.5 Dense и MoE на одной видеокарте NVIDIA RTX 5090. Он запускает текстовые, графические и видео-запросы через локальный CLI или HTTP API, совместимый с OpenAI и Anthropic.
Чем пригодится
- Запустить локальный сервер инференса Qwen3.8-27B с двумя параллельными запросами и контекстом 240 000 токенов.
- Отправить OpenAI-совместимый запрос к локальной модели через curl для генерации текста.
- Выполнить одиночный CLI-запрос с изображением или видео через флаг --vision.
Пересказ README моделью DeepSeek V4.1 Flash. Может ошибаться в деталях. Оригинал README →
Рост звёзд выглядит естественно. Данные на 16 октября 2026, 11:35 UTC.
Оценка роста звёзд не подтверждает безопасность запуска.
Звёзды по дням
Столбики — звёзды за день UTC; линия — скользящее среднее доступной истории. Пропуски означают отсутствие данных, а не нулевой рост. Сегодняшний столбик неполный. Красным — дни всплесков.
Почему он в тренде
- По замерам счётчика за 2026-10-16 (UTC), 00:11–11:28: 3034 → 3041 звёзд (+7). Это прирост за указанный интервал.
- Расчётный прогноз на конец суток: около +17 звёзд; учитывает наблюдаемый прирост и предыдущий день.
Замеры роста: последние 7 полных дней
Нет данных за все 7 дней: недельный итог и сравнение не рассчитываются.
Замеры по дням · UTC
- 26 октября 2026
- —
- 27 октября 2026
- —
- 28 октября 2026
- —
- 29 октября 2026
- —
- 30 октября 2026
- —
- 31 октября 2026
- —
- 1 ноября 2026
- —
Максимальный измеренный день за последние 30 дней: 41 · 3 октября 2026. Дней с данными: 14.
Полные дни — из истории звёзд GitHub; сегодня и прогнозы исключены из сравнения. История проверена: 16 октября 2026, 11:34 UTC. Источники и ограничения замеров →
Три GitHub-находки в каждом выпуске
Что делают, почему набирают интерес и что проверить перед использованием.
Выпуски в 10:00, 16:00, 22:00 МСК.
Цифры
- Всего звёзд
- 3 041
- Сегодня
- +7 звёзд по замерам 2026-10-16, 00:11–11:28 UTC, к вечеру ≈ 17
- Форков
- 600
- Issues и pull requests
- 398
- Наблюдателей
- 26
- Язык
- C++
- Лицензия
- Apache-2.0
- Создан
- 26 июня 2026
- Последний коммит
- 16 октября 2026
Доверие к звёздам
Рост выглядит естественно: форков и обсуждений столько, сколько бывает у живых проектов, а звёзды приходят неровно, как от людей.
Это эвристики, а не приговор: судим по поведению репозитория, а не по списку звездивших.
Где замечен
- 6 октября 2026GitHub Trending C++ за день: #11, +29 звёзд
- 5 октября 2026GitHub Trending C++ за день: #5, +28 звёзд
- 4 октября 2026GitHub Trending C++ за день: #5, +42 звезды
- 19 сентября 2026GitHub Trending C++ за день: #3, +81 звезда
- 18 сентября 2026GitHub Trending C++ за день: #3, +82 звезды
- 17 сентября 2026GitHub Trending C++ за день: #3, +72 звезды
- 16 сентября 2026GitHub Trending C++ за день: #2, +112 звёзд
- 15 сентября 2026GitHub Trending C++ за день: #2, +136 звёзд
Бейдж для README
Вставьте в README — бейдж сам показывает свежую магнитуду и ведёт на эту страницу.
[](https://gitnova.dev/r/Neroued/ninfer)