# lithos-ai/lithos-metal

> Открытый движок инференса LLM для Apple silicon: компилирует Metal-мегаядра и запускает локальный сервер с поддержкой спекулятивного декодирования DSpark.

- Магнитуда: 4,5 из 10 — Ранний сигнал
- Звёзды: 78 всего · +4 звезды по замерам 2026-10-09, 03:36–05:00 UTC, к вечеру ≈ 49
- Доверие к звёздам: рост звёзд выглядит естественно
- Категория: Языковые модели · Язык: Python · Лицензия: Apache-2.0 · Создан: 2026-10-05 · Последний коммит: 2026-10-08
- GitHub: https://github.com/lithos-ai/lithos-metal · Страница: https://gitnova.dev/r/lithos-ai/lithos-metal

## Чем пригодится

- Запустить локальный сервер Qwen3.8-27B на Mac через lithos-metal serve
- Подключить кодинг-агента (opencode, claude, codex) к локальной модели
- Вызвать Chat Completions API через curl для генерации текста

## Почему он здесь

- По замерам счётчика за 2026-10-09 (UTC), 03:36–05:00: 74 → 78 звёзд (+4). Это прирост за указанный интервал.
- Расчётный прогноз на конец суток: около +49 звёзд; учитывает наблюдаемый прирост и предыдущий день.
- Репозиторию 4 дня, а у него уже 78 звёзд. Истории меньше двух недель, так что обычного темпа, с которым можно сравнить всплеск, у него ещё нет.
- Топ новых репозиториев за неделю: #196.
- Среди свежих форков — заметные разработчики: @zhaochenyang20 (2 932 подп.).

## Доверие к звёздам

Рост звёзд выглядит естественно.

Метки доверия к звёздам — эвристики по поведению репозитория, а не проверка каждого, кто поставил звезду.

## Цифры

- Форков: 4
- Issues и pull requests: 7
- Наблюдателей: 1
- В среднем за неделю: 25 в день
- Обычный темп: мало истории (меньше двух недель)
- Звёзд за последний час (по замерам): 2
- Последний релиз: v0.1.2 (2026-10-05)

## Звёзды по дням за 6 дней (от старых к новым, сегодня — неполный день)

2026-10-04 … 2026-10-09: 0, 5, 2, 3, 68, 4

## Где замечен сейчас

- Топ новых репозиториев за неделю: #196

## Ещё в этой категории

1. **SamsungLabs/LittleBit** — 6,3 · Ранний сигнал · Языковые модели · Python · +20 звёзд по замерам 2026-10-09, 00:06–04:59 UTC, к вечеру ≈ 110
   Официальная реализация LittleBit (NeurIPS 2025) и LittleBit-2 (ICML 2026) — методов суб-1-битного квантования LLM через факторизацию весов на низкоранговые латентные факторы с бинаризацией и обучаемыми масштабами.
   Полная карточка: https://gitnova.dev/r/SamsungLabs/LittleBit.md
2. **Albert-Weasker/niubigeo** — 5,7 · Взлёт · Языковые модели · TypeScript · +395 звёзд по замерам 2026-10-09, 00:12–05:00 UTC, к вечеру ≈ 969
   Открытый инструмент для отслеживания видимости бренда и конкурентов в ответах AI-моделей: по домену показывает, как модели описывают продукт, кого рекомендуют и на какие источники ссылаются.
   Полная карточка: https://gitnova.dev/r/Albert-Weasker/niubigeo.md
3. **Niko1221/Strata** — 5,4 · На пике · Языковые модели · C++ · +306 звёзд по замерам 2026-10-09, 00:05–05:00 UTC, к вечеру ≈ 1 286
   Локальный движок инференса на C++, запускающий 125B MoE-модель Qwen3.8-Flash-Next на обычном ПК с одной NVIDIA GPU (12–24 ГБ) и 64 ГБ RAM, с OpenAI/Anthropic-совместимым API на localhost.
   Полная карточка: https://gitnova.dev/r/Niko1221/Strata.md
4. **mw00/project-maya** — 5,2 · Ранний сигнал · Языковые модели · C++ · +20 звёзд по замерам 2026-10-09, 00:05–05:00 UTC, к вечеру ≈ 79
   Локальный движок, сервер и дашборд для запуска 321B MoE-модели GLM-5.3-Flash на одной или двух NVIDIA GPU с выгрузкой экспертов в RAM и NVMe.
   Полная карточка: https://gitnova.dev/r/mw00/project-maya.md
5. **ymcrcat/rgpu** — 4,5 · Ранний сигнал · Языковые модели · C++ · +13 звёзд по замерам 2026-10-09, 00:09–05:00 UTC, к вечеру ≈ 41
   Позволяет запускать операции PyTorch и хранить тензоры на удалённой NVIDIA GPU, оставляя приложение на клиенте, включая Mac без CUDA. Поддерживает два пути: устройство rgpu для PyTorch и CUDA shim для существующих Linux-программ.
   Полная карточка: https://gitnova.dev/r/ymcrcat/rgpu.md

---

Магнитуда (0–10) — насколько быстро и необычно сейчас растёт интерес к репозиторию. Это не оценка качества.
Дни — по UTC. «Уже сегодня» — факт, «к вечеру ≈» — прогноз.
Описания и сценарии пишет модель (DeepSeek V4.1 Flash) по README, в деталях возможны ошибки: конкретные утверждения (замеры, скорость, железо) проверяйте в самом репозитории.
Данные на 2026-10-09 05:10 UTC, обновление каждые 30 минут.