antirez/ds4

Языковые моделиC

Другие действия

DeepSeek 4 Flash and PRO local inference engine for Metal, CUDA and ROCm

Сохрани в «Мои находки», чтобы следить за релизами и ростом звёзд. Сохраняется в этом браузере.

О проекте

DwarfStar (ds4) — нативный движок локального инференса LLM на C, оптимизированный под DeepSeek V4 Flash/PRO, GLM 5.x и Qwen3.8 Flash Next на Metal, CUDA и ROCm. Работает на потребительском железе: MacBook, DGX Spark, Strix Halo, включая SSD-стриминг и мульти-GPU.

Чем пригодится

Запустить DeepSeek V4 Flash локально на MacBook с 96+ ГБ RAM через Metal
Поднять мультипользовательский LLM-сервер на нескольких картах L40S через CUDA
Собрать кластер из двух Mac по RDMA с tensor parallelism для 4-битных моделей

Пересказ README моделью DeepSeek V4.1 Flash. Может ошибаться в деталях.

5,1 Взлёт Магнитуда из 10 — скорость роста интереса, а не оценка качества.

Рост звёзд выглядит естественно. Данные на 4 октября 2026, 13:15 UTC.

Оценка роста звёзд не подтверждает безопасность запуска.

Звёзды по дням

Столбики — звёзды за день; линия — скользящее среднее доступной истории. При короткой истории оно ещё не задаёт надёжный обычный темп. Красным — дни всплесков.

Почему он в тренде

Сегодня уже 74 звезды, к концу дня ожидается около 149. Обычный темп — 31 в день, сейчас в 4,9 раза больше.
За последние двое суток темп в 6,5 раза выше, чем в предыдущие полторы недели.
Всплеск держится 3 дня подряд — это не случайный выброс.
GitHub Trending за день: #15, +211 звёзд.
Около 23 форков в сутки — код забирают себе.

Посмотри похожие проекты

0xShug0/audio.cpp
Нативный C++ движок для инференса аудиомоделей на базе ggml: TTS, распознавание речи, VAD, клонирование голоса, генерация музыки. Работает без Python на CPU, CUDA, ROCm, Vulkan и Metal.
Сходство описаний и сценариев использования
MiaAI-Lab/Qwen3.8-Flash-Next-Single-DGX-Spark-TensorFold
Скрипты для запуска Qwen3.8 Flash Next на одной NVIDIA DGX Spark через OpenAI-совместимый API с поддержкой изображений и видео и контекстом 262 144 токена.
Сходство описаний и сценариев использования
JustVugg/colibri
Инференс-движок на чистом C без зависимостей для запуска больших MoE-моделей (744B–2.8T параметров) на потребительском железе за счёт многоуровневой памяти: VRAM, RAM и диск как единая иерархия для стриминга экспертов.
Сходство описаний и сценариев использования

Три GitHub-находки в каждом выпуске

Что делают, почему набирают интерес и что проверить перед использованием.

Выпуски в 10:00, 16:00, 22:00 МСК.

Получать находки в Telegram Читать находки дня

Цифры

Всего звёзд: 23 286
Сегодня: 74 · к вечеру ≈ 149
Форков: 2 239
Issues и pull requests: 1 173
Наблюдателей: 176
Язык: C
Лицензия: MIT
Создан: 6 мая 2026
Последний коммит: 20 сентября 2026

Доверие к звёздам

Рост выглядит естественно: форков и обсуждений столько, сколько бывает у живых проектов, а звёзды приходят неровно, как от людей.

Это эвристики, а не приговор: судим по поведению репозитория, а не по списку звездивших.

Где замечен

4 октября 2026GitHub Trending за день: #15, +211 звёзд

Бейдж для README

Вставьте в README — бейдж сам показывает свежую магнитуду и ведёт на эту страницу.

[![Сейсмограф](https://gitnova.dev/badge/antirez/ds4.svg)](https://gitnova.dev/r/antirez/ds4)