sqliteai/warp
Run the full 2.78-trillion-parameter Kimi K3 model, DeepSeek V4.1 Flash or GLM-5.3-Flash beyond available RAM by streaming activated weights directly from NVMe. A dependency-free, embeddable C inference engine.
О проекте
Встраиваемый C-движок инференса без внешних зависимостей, который запускает огромные MoE-модели (Kimi K3, DeepSeek-V4.1-Flash, GLM-5.3-Flash) на потребительском железе, стримя активных экспертов с NVMe и используя свободную RAM как кэш.
Чем пригодится
- Запустить Kimi K3 на 64 ГБ MacBook Pro, держа веса на SSD и кэшируя экспертов в RAM
- Прогнать DeepSeek-V4.1-Flash или GLM-5.3-Flash локально без облака на машине с небольшим объёмом памяти
- Настроить num_experts_per_token в манифесте контейнера, чтобы обменять качество на скорость декодинга
Пересказ README моделью DeepSeek V4.1 Flash. Может ошибаться в деталях.
Почему он в тренде
- Сегодня уже 3 звезды, к концу дня ожидается около 4.
- Репозиторию 52 дня, а у него уже 2 432 звезды.
- Hacker News: «Show HN: Warp – Run DeepSeek v4.1 Flash with 5 GB of RAM at 3.77 tok/s» — 13 очков, 3 дня назад.
Звёзды по дням
Столбики — звёзды за день, линия — обычный темп. Красным — дни всплесков.
Цифры
- Всего звёзд
- 2 432
- Звёзд за сутки
- 4
- Форков
- 181
- Issues и pull requests
- 74
- Наблюдателей
- 9
- Язык
- C
- Лицензия
- Apache-2.0
- Последний релиз
- v0.8.1 · 18 сентября 2026
- Создан
- 28 июля 2026
- Последний коммит
- 18 сентября 2026
Доверие к звёздам
Рост выглядит естественно: форков и обсуждений столько, сколько бывает у живых проектов, а звёзды приходят неровно, как от людей.
Это эвристики, а не приговор: судим по поведению репозитория, а не по списку звездивших.
Обсуждения на Hacker News
- Show HN: Warp – Run DeepSeek v4.1 Flash with 5 GB of RAM at 3.77 tok/s13 очков, 15 сентября 2026
Где замечен
- 18 сентября 2026Замечен на Hacker News
- 17 сентября 2026Замечен на Hacker News
- 16 сентября 2026Замечен на Hacker News
Поделиться
Бейдж для README
Вставьте в README — бейдж сам показывает свежую магнитуду и ведёт на эту страницу.
[](https://gitnova.dev/r/sqliteai/warp)Похожие проекты
-
8,6
TheoLeeCJ/SemIf
Открытая реализация интерфейса семантических решений в стиле Jev: читает вероятности типизированных опций напрямую из логитов 4B-модели без генерации текста. Работает на одной RTX 3090.
-
7,1
vinnylarouge/jevlike
Небольшая обучаемая модель, выбирающая один вариант из меняющегося списка текстовых опций за один проход — открытая альтернатива коммерческой Jev от TypeSafe. Для разработчиков, кому нужна быстрая классификация или…
-
6,9
Continuum-AI-Corp/OrcaBonsai-27B-Uncensored
Инструмент для отключения отказов у сжатой LLM Ternary Bonsai 2 27B во время инференса: проекция residual-потока убирает направление отказа без изменения или переквантования весов. Работает на Apple Silicon через MLX.
-
6,4
TianyuCodings/NanoJev
Реплика модели Jev на базе Qwen3-0.6B: выдаёт распределения вероятностей по кандидатам за один forward-проход без декодирования токенов, с пайплайном обучения и демо на играх (лабиринт, Snake).
-
6,3
zhengkid/Dream-RSI
Исследовательский проект о рекурсивном самоулучшении: история прошлых циклов поиска превращается в replay-симулятор, по которому оценивают и улучшают стратегии исследования. Код ещё готовится к публикации, доступны…
-
5,0
ekzhang/openjev-sglang
HTTP-сервер, реализующий API TypeSafe/Jev для структурированной классификации текста на базе Qwen3.6-35B-A3B и SGLang; возвращает вероятности ответов без генерации цепочки рассуждений.