# kvcache-ai/Mooncake

> Платформа для обслуживания LLM с KVCache-центричной дезагрегированной архитектурой: разделяет prefill и decode, передаёт KV-кэш между узлами через RDMA. Используется в продакшене Kimi от Moonshot AI.

- Магнитуда: 1,7 из 10 — Ровно
- Звёзды: 6 953 всего · +7 звёзд по замерам 2026-11-02, 00:13–23:10 UTC
- Доверие к звёздам: рост звёзд выглядит естественно
- Категория: Языковые модели · Язык: C++ · Лицензия: Apache-2.0 · Создан: 2024-06-25 · Последний коммит: 2026-11-02
- GitHub: https://github.com/kvcache-ai/Mooncake · Сайт: https://kvcache-ai.github.io/Mooncake/ · Страница: https://gitnova.dev/r/kvcache-ai/Mooncake

## Чем пригодится

- Развернуть PD-дезагрегированный инференс vLLM или SGLang с передачей KV-кэша через Mooncake
- Ускорить обновление весов большой модели на тысячах GPU через P2P Store и RDMA
- Построить распределённый пул KV-кэша для переиспользования между инстансами инференса

## Почему он здесь

- По замерам счётчика за 2026-11-02 (UTC), 00:13–23:10: 6946 → 6953 звёзд (+7). Это прирост за указанный интервал.

## Доверие к звёздам

Рост звёзд выглядит естественно.

Метки доверия к звёздам — эвристики по поведению репозитория, а не проверка каждого, кто поставил звезду.

## Цифры

- Форков: 1 420
- Issues и pull requests: 5 155
- Наблюдателей: 48
- В среднем за неделю: 10 в день
- Обычный темп: 8 в день
- Звёзд за последний час (по замерам): 0
- Последний релиз: v0.3.14-pre-4 (2026-11-02)

## Звёзды по дням за 30 дней (от старых к новым, сегодня — неполный день)

2026-10-04 … 2026-11-02: 8, 5, 5, 10, 10, 7, 12, 8, 10, 9, 13, 10, 7, 6, 8, 10, 10, 10, 10, 5, 4, 6, 10, 14, 9, 13, 6, 9, 12, 7

## Магнитуда по дням за 14 дней

10-20 1,8, 10-21 1,4, 10-22 1,8, 10-23 1,8, 10-24 1,5, 10-25 1,2, 10-26 1,4, 10-27 2,1, 10-28 2,3, 10-29 2,3, 10-30 2,0, 10-31 1,6, 11-01 1,9, 11-02 1,9

## Похожие по описанию

1. **ai-dynamo/dynamo** — 1,8 · Ровно · DevOps и инфраструктура · Rust · +10 звёзд по замерам 2026-11-02, 00:15–23:10 UTC
   Dynamo — открытый оркестратор инференса для датацентров: надстройка над SGLang, TensorRT-LLM и vLLM, превращающая кластер GPU в согласованную систему с disaggregated serving, KV-aware маршрутизацией и автоскейлингом.
   Полная карточка: https://gitnova.dev/r/ai-dynamo/dynamo.md

---

Магнитуда (0–10) — насколько быстро и необычно сейчас растёт интерес к репозиторию. Это не оценка качества.
Дни — по UTC. «Уже сегодня» — факт, «к вечеру ≈» — прогноз.
Описания и сценарии пишет модель (DeepSeek V4.1 Flash) по README, в деталях возможны ошибки: конкретные утверждения (замеры, скорость, железо) проверяйте в самом репозитории.
Данные на 2026-11-02 23:16 UTC, обновление каждые 30 минут.