# hyperionaidev/smolmaxxing

> Проект по запуску языковых моделей на маломощных устройствах (ТВ-приставки, старые планшеты, SBC) с оптимизациями под ARM: кастомные ядра, стриминг весов, пейджинг экспертов MoE. Цель — выжать максимум токенов в секунду из устройств с 1-2 ГБ RAM.

- Магнитуда: 6,8 из 10 — Ранний сигнал
- Звёзды: 656 всего · +23 звезды по замерам 2026-11-14, 00:03–10:32 UTC, к вечеру ≈ 115
- Доверие к звёздам: рост звёзд выглядит естественно
- Категория: Языковые модели · Язык: C · Лицензия: MIT · Создан: 2026-11-04 · Последний коммит: 2026-11-13
- GitHub: https://github.com/hyperionaidev/smolmaxxing · Сайт: https://hyperion-ai.com/products/smolmaxxing · Страница: https://gitnova.dev/r/hyperionaidev/smolmaxxing

## Чем пригодится

- Запустить 8B MoE модель на ТВ-приставке с 2 ГБ RAM через пейджинг экспертов из flash
- Ускорить инференс 1-bit модели на старом iPad Air через lookup-table ядро на NEON
- Стримить веса 9B модели из flash на устройстве, где модель не влезает в RAM

## Почему он здесь

- По замерам счётчика за 2026-11-14 (UTC), 00:03–10:32: 633 → 656 звёзд (+23). Это прирост за указанный интервал.
- Расчётный прогноз на конец суток: около +115 звёзд; учитывает наблюдаемый прирост и предыдущий день.
- Репозиторию 10 дней, а у него уже 656 звёзд. Истории меньше двух недель, так что обычного темпа, с которым можно сравнить всплеск, у него ещё нет.
- Hacker News: «I'm making LLMs work on small and old devices» — 475 очков, 1 день назад.
- Около 11 форков в сутки — код забирают себе.

## Доверие к звёздам

Рост звёзд выглядит естественно.

Метки доверия к звёздам — эвристики по поведению репозитория, а не проверка каждого, кто поставил звезду.

## Цифры

- Форков: 23
- Issues и pull requests: 3
- Наблюдателей: 2
- В среднем за неделю: 109 в день
- Обычный темп: мало истории (меньше двух недель)
- Звёзд за последний час (по замерам): 2

## Звёзды по дням за 11 дней (от старых к новым, сегодня — неполный день)

2026-11-04 … 2026-11-14: 0, 0, 0, 0, 0, 0, 0, 1, 392, 257, 23

## Магнитуда по дням за 3 дня

11-12 6,6, 11-13 7,8, 11-14 7,2

## Hacker News

- I'm making LLMs work on small and old devices — 475 очков, 180 комментариев: https://news.ycombinator.com/item?id=50468888

## Где замечен сейчас

- Замечен на Hacker News

## Похожие по описанию

1. **microsoft/BitNet** — 1,3 · Ровно · Языковые модели · C++ · +2 звезды по замерам 2026-11-14, 00:08–10:38 UTC, к вечеру ≈ 6
   Официальный фреймворк инференса для 1-bit LLM (BitNet b1.58) с оптимизированными ядрами для CPU и GPU. Позволяет запускать тернарные модели быстро и без потери качества, в том числе 100B-модель на одном CPU.
   Полная карточка: https://gitnova.dev/r/microsoft/BitNet.md

---

Магнитуда (0–10) — насколько быстро и необычно сейчас растёт интерес к репозиторию. Это не оценка качества.
Дни — по UTC. «Уже сегодня» — факт, «к вечеру ≈» — прогноз.
Описания и сценарии пишет модель (DeepSeek V4.1 Flash) по README, в деталях возможны ошибки: конкретные утверждения (замеры, скорость, железо) проверяйте в самом репозитории.
Данные на 2026-11-14 10:41 UTC, обновление каждые 30 минут.