# trymirai/uzu

> Высокопроизводительный движок инференса AI-моделей на Rust с API для Rust, Python, Swift и TypeScript. Позволяет запускать LLM локально в приложении без задержек и затрат на инференс.

- Магнитуда: 2,7 из 10 — На пике
- Звёзды: 2 520 всего · +27 звёзд по замерам 2026-10-22, 00:01–04:10 UTC, к вечеру ≈ 89
- Доверие к звёздам: рост звёзд выглядит естественно
- Категория: Языковые модели · Язык: Rust · Лицензия: MIT · Создан: 2025-06-23 · Последний коммит: 2026-10-22
- GitHub: https://github.com/trymirai/uzu · Сайт: https://trymirai.com · Страница: https://gitnova.dev/r/trymirai/uzu

## Чем пригодится

- Запустить локальный чат с LLM внутри десктопного или мобильного приложения
- Встроить инференс модели в приложение на Swift для Apple-устройств с unified memory
- Скачать и запустить модель Qwen через Python-скрипт без внешнего API

## Почему он здесь

- По замерам счётчика за 2026-10-22 (UTC), 00:01–04:10: 2493 → 2520 звёзд (+27). Это прирост за указанный интервал.
- Расчётный прогноз на конец суток: около +89 звёзд; учитывает наблюдаемый прирост и предыдущий день.
- GitHub Trending Rust за день: #9, +15 звёзд.

## Доверие к звёздам

Рост звёзд выглядит естественно.

Метки доверия к звёздам — эвристики по поведению репозитория, а не проверка каждого, кто поставил звезду.

## Цифры

- Форков: 145
- Issues и pull requests: 997
- Наблюдателей: 17
- В среднем за неделю: 37 в день
- Обычный темп: 36 в день
- Звёзд за последний час (по замерам): 5
- Последний релиз: 0.6.11 (2026-10-20)

## Звёзды по дням за 30 дней (от старых к новым, сегодня — неполный день)

2026-09-23 … 2026-10-22: 1, 1, 0, 0, 2, 4, 0, 1, 2, 2, 0, 1, 0, 0, 0, 34, 255, 47, 29, 53, 60, 39, 16, 16, 17, 11, 40, 25, 59, 27

## Магнитуда по дням за 2 дня

10-21 1,6, 10-22 2,7

## Где замечен сейчас

- GitHub Trending Rust за день: #9, +15 звёзд

## Ещё в этой категории

1. **deepseek-ai/DeepInfer** — 9,8 · Взлёт · Языковые модели · Python · +533 звезды по замерам 2026-10-22, 00:37–04:07 UTC, к вечеру ≈ 3 065
   Фреймворк для офлайн-инференса моделей DeepSeek в больших масштабах: оптимизированные ядра, параллелизм MoE/Attention, детерминированная генерация и структурированный вывод. Рассчитан на команды, разворачивающие DeepSeek-V4.1-Flash на…
   Полная карточка: https://gitnova.dev/r/deepseek-ai/DeepInfer.md
2. **vllm-project/vllm** — 7,3 · Взлёт · Языковые модели · Python · +93 звезды по замерам 2026-10-22, 00:37–04:07 UTC, к вечеру ≈ 440
   Высокопроизводительный движок для инференса и обслуживания больших языковых моделей с эффективным управлением памятью через PagedAttention. Поддерживает 200+ архитектур моделей и OpenAI-совместимый API.
   Полная карточка: https://gitnova.dev/r/vllm-project/vllm.md
3. **google-pytorch/torch_tpu** — 6,7 · Ранний сигнал · Языковые модели · C++ · +10 звёзд по замерам 2026-10-22, 00:37–04:07 UTC, к вечеру ≈ 137
   TorchTPU — это бэкенд PyTorch для TPU от Google, позволяющий запускать модели и операции PyTorch на TPU с кастомными ядрами ATen, кэшем компиляции XLA и поддержкой распределённого обучения.
   Полная карточка: https://gitnova.dev/r/google-pytorch/torch_tpu.md
4. **NVIDIA/flare-local-inference** — 6,6 · Ранний сигнал · Языковые модели · Python · +33 звезды по замерам 2026-10-22, 00:37–04:07 UTC, к вечеру ≈ 280
   Flare — локальный инференс-сервер для GPU NVIDIA SM120/SM121, рассчитанный на длинные диалоги, кодинг-агентов и повторное использование инструментов. Модели компилируются через PyTorch, а обслуживаются Rust-рантаймом, чтобы эффективнее…
   Полная карточка: https://gitnova.dev/r/NVIDIA/flare-local-inference.md
5. **eagle-hq/EAGLE-4** — 6,5 · Ранний сигнал · Языковые модели · Python · +18 звёзд по замерам 2026-10-22, 00:37–04:07 UTC, к вечеру ≈ 227
   Официальный inference-код EAGLE-4: плагин speculative decoding для SGLang, vLLM и TokenSpeed, подстраивающий draft-стратегию под размер батча, железо и нагрузку. Ускоряет инференс LLM вроде Qwen3.8-27B, сохраняя распределение выходов…
   Полная карточка: https://gitnova.dev/r/eagle-hq/EAGLE-4.md

---

Магнитуда (0–10) — насколько быстро и необычно сейчас растёт интерес к репозиторию. Это не оценка качества.
Дни — по UTC. «Уже сегодня» — факт, «к вечеру ≈» — прогноз.
Описания и сценарии пишет модель (DeepSeek V4.1 Flash) по README, в деталях возможны ошибки: конкретные утверждения (замеры, скорость, железо) проверяйте в самом репозитории.
Данные на 2026-10-22 04:18 UTC, обновление каждые 30 минут.