# huawei-csl/MACaQ > Инструмент калиброванной квантизации моделей (текст, изображения, видео, аудио) до 2–4 бит с поддержкой llama.cpp, vLLM, Diffusers и PyTorch. Позволяет быстро сжимать большие модели для локального инференса. - Магнитуда: 3,5 из 10 — Остывает - Звёзды: 236 всего · +4 звезды по замерам 2026-11-14, 00:03–11:14 UTC, к вечеру ≈ 11 - Доверие к звёздам: рост звёзд выглядит естественно - Категория: Языковые модели · Язык: C++ · Лицензия: Apache-2.0 · Создан: 2026-11-10 · Последний коммит: 2026-11-12 - GitHub: https://github.com/huawei-csl/MACaQ · Сайт: https://huawei-csl.com/blog/macaq/ · Страница: https://gitnova.dev/r/huawei-csl/MACaQ ## Чем пригодится - Сжать текстовую LLM в GGUF 4-bit и запустить локально через llama.cpp - Квантизировать diffusion-модель и генерировать изображения или видео - Сервить квантизированную модель через HTTP API на vLLM ## Почему он здесь - По замерам счётчика за 2026-11-14 (UTC), 00:03–11:14: 232 → 236 звёзд (+4). Это прирост за указанный интервал. - Расчётный прогноз на конец суток: около +11 звёзд; учитывает наблюдаемый прирост и предыдущий день. - Репозиторию 4 дня, а у него уже 236 звёзд. Истории меньше двух недель, так что обычного темпа, с которым можно сравнить всплеск, у него ещё нет. - Hacker News: «Huawei releases MACaQ, its internal quantizer for local inference» — 134 очка, 2 дня назад. - Около 8 форков в сутки — код забирают себе. - Среди свежих форков — заметные разработчики: @mbrukman (402 подп.). ## Доверие к звёздам Рост звёзд выглядит естественно. Метки доверия к звёздам — эвристики по поведению репозитория, а не проверка каждого, кто поставил звезду. ## Цифры - Форков: 13 - Issues и pull requests: 3 - Наблюдателей: 0 - В среднем за неделю: 49 в день - Обычный темп: мало истории (меньше двух недель) - Звёзд за последний час (по замерам): 0 ## Звёзды по дням за 5 дней (от старых к новым, сегодня — неполный день) 2026-11-10 … 2026-11-14: 2, 138, 79, 17, 4 ## Магнитуда по дням за 4 дня 11-11 3,0, 11-12 6,6, 11-13 5,9, 11-14 3,8 ## Hacker News - Huawei releases MACaQ, its internal quantizer for local inference — 134 очков, 32 комментариев: https://news.ycombinator.com/item?id=50458166 ## Где замечен сейчас - Замечен на Hacker News ## Похожие по описанию 1. **NVIDIA/Model-Optimizer** — 1,1 · Ровно · Языковые модели · Python · +2 звезды по замерам 2026-11-14, 00:12–11:20 UTC, к вечеру ≈ 5 Библиотека NVIDIA для сжатия и ускорения моделей: квантизация, прунинг, дистилляция, NAS и speculative decoding с экспортом в TensorRT-LLM, vLLM, SGLang. Для ML-инженеров, готовящих модели к деплою. Полная карточка: https://gitnova.dev/r/NVIDIA/Model-Optimizer.md 2. **techjarves/Portable-Local-Studio** — 1,1 · Остывает · Приложения · JavaScript · +4 звезды по замерам 2026-11-14, 00:11–11:20 UTC, к вечеру ≈ 8 Офлайн-студия локального AI для Windows, Linux и macOS с GUI без настройки: генерация изображений (Stable Diffusion), чат с GGUF-LLM, распознавание речи (Whisper) и синтез речи (Kokoro TTS). Полная карточка: https://gitnova.dev/r/techjarves/Portable-Local-Studio.md 3. **leejet/stable-diffusion.cpp** — 1,5 · Ровно · Генерация медиа · C++ · +3 звезды по замерам 2026-11-14, 00:09–11:19 UTC, к вечеру ≈ 8 Реализация инференса диффузионных моделей (Stable Diffusion, FLUX, Wan, Qwen Image и др.) на чистом C/C++ поверх ggml — как llama.cpp, но для генерации изображений и видео. Работает без внешних зависимостей на CPU, CUDA, Vulkan, Metal и… Полная карточка: https://gitnova.dev/r/leejet/stable-diffusion.cpp.md 4. **JakeATX/llamAmpere** — 0,9 · Ровно · Языковые модели · C++ · +0 звёзд по замерам 2026-11-14, 00:07–11:20 UTC, к вечеру ≈ 1 Форк llama.cpp с оптимизациями под NVIDIA Ampere (RTX 3090/3090 Ti) для быстрого запуска больших моделей Qwen3.8 с длинным контекстом и частичной выгрузкой экспертов в RAM. Полная карточка: https://gitnova.dev/r/JakeATX/llamAmpere.md --- Магнитуда (0–10) — насколько быстро и необычно сейчас растёт интерес к репозиторию. Это не оценка качества. Дни — по UTC. «Уже сегодня» — факт, «к вечеру ≈» — прогноз. Описания и сценарии пишет модель (DeepSeek V4.1 Flash) по README, в деталях возможны ошибки: конкретные утверждения (замеры, скорость, железо) проверяйте в самом репозитории. Данные на 2026-11-14 11:22 UTC, обновление каждые 30 минут.