ai-dynamo/nixl
NVIDIA Inference Xfer Library (NIXL)
О проекте
Библиотека от NVIDIA для ускорения point-to-point передачи данных в инференс-фреймворках, абстрагирующая работу с разными типами памяти (CPU, GPU) и хранилищ через плагины.
Чем пригодится
- Ускорить обмен KV-кэшем между GPU-нодами в распределённом инференсе
- Подключить плагин хранилища (POSIX, GDS, Azure Blob) для передачи данных между узлами
- Прогнать nixlbench для замера пропускной способности point-to-point передачи
Пересказ README моделью DeepSeek V4.1 Flash. Может ошибаться в деталях.
Почему он в тренде
- Сегодня уже 1 звезда, к концу дня ожидается около 2.
- GitHub Trending C++ за день: #13, +1 звезда.
Звёзды по дням
Столбики — звёзды за день, линия — обычный темп. Красным — дни всплесков.
Цифры
- Всего звёзд
- 1 280
- Сегодня
- 1 · к вечеру ≈ 2
- Форков
- 458
- Issues и pull requests
- 2 309
- Наблюдателей
- 27
- Язык
- C++
- Последний релиз
- v1.5.0 · 30 сентября 2026
- Создан
- 5 марта 2025
- Последний коммит
- 30 сентября 2026
Доверие к звёздам
Рост выглядит естественно: форков и обсуждений столько, сколько бывает у живых проектов, а звёзды приходят неровно, как от людей.
Это эвристики, а не приговор: судим по поведению репозитория, а не по списку звездивших.
Где замечен
- 30 сентября 2026GitHub Trending C++ за день: #13, +1 звезда
Поделиться
Бейдж для README
Вставьте в README — бейдж сам показывает свежую магнитуду и ведёт на эту страницу.
[](https://gitnova.dev/r/ai-dynamo/nixl)Похожие по описанию
-
1,5
kvcache-ai/Mooncake
Платформа для обслуживания LLM с KVCache-центричной дезагрегированной архитектурой: разделяет prefill и decode, передаёт KV-кэш между узлами через RDMA. Используется в продакшене Kimi от Moonshot AI.
-
1,8
microsoft/onnxruntime
Кроссплатформенный ускоритель инференса и обучения ML-моделей. Запускает модели из PyTorch, TensorFlow, scikit-learn и других через формат ONNX с оптимизацией графа и аппаратным ускорением.