tonyd2wild/DeepSeek-V4.1-Flash-vLLM-DGX-Spark
DeepSeek-V4.1-Flash (552B MoE, MXFP4 experts, 1M ctx) on four NVIDIA DGX Sparks with vLLM TP4: Engram-on-disk patch, sm121 kernel build, launchers, measured numbers
О проекте
Стек для запуска модели DeepSeek-V4.1-Flash (552B MoE) на четырёх NVIDIA DGX Spark через vLLM с tensor parallelism, включая патчи, скрипты запуска и замеры производительности.
Чем пригодится
- Развернуть DeepSeek-V4.1-Flash на кластере из нескольких DGX Spark с vLLM
- Сравнить пропускную способность и размер KV-пула для конфигураций TP3 и TP4
- Проверить работу vision и tool calling через готовый демо-скрипт
Пересказ README моделью DeepSeek V4.1 Flash. Может ошибаться в деталях.
Почему он в тренде
- Репозиторию 4 дня, а у него уже 60 звёзд.
- Топ новых репозиториев за неделю: #184.
- Среди свежих форков — заметные разработчики: @gmh5225 (1 273 подп.).
Звёзды по дням
Столбики — звёзды за день, линия — обычный темп. Красным — дни всплесков.
Цифры
- Всего звёзд
- 60
- Звёзд за сутки
- 0
- Форков
- 8
- Issues и pull requests
- 6
- Наблюдателей
- 4
- Язык
- Python
- Лицензия
- MIT
- Создан
- 10 сентября 2026
- Последний коммит
- 12 сентября 2026
Доверие к звёздам
Рост выглядит естественно: форков и обсуждений столько, сколько бывает у живых проектов, а звёзды приходят неровно, как от людей.
Это эвристики, а не приговор: судим по поведению репозитория, а не по списку звездивших.
Где замечен
- 14 сентября 2026Топ новых репозиториев за неделю: #181
Поделиться
Бейдж для README
Вставьте в README — бейдж сам показывает свежую магнитуду и ведёт на эту страницу.
[](https://gitnova.dev/r/tonyd2wild/DeepSeek-V4.1-Flash-vLLM-DGX-Spark)Похожие проекты
-
6,5
JustVugg/colibri
Инференс-движок на чистом C без зависимостей для запуска больших MoE-моделей (744B–2.8T параметров) на потребительском железе за счёт многоуровневой памяти: VRAM, RAM и диск как единая иерархия для стриминга экспертов.
-
6,1
asgeirtj/system_prompts_leaks
Коллекция извлечённых системных промптов от Anthropic, OpenAI, Google, xAI и других — скрытых инструкций, которые получают чат-боты до первого сообщения пользователя.
-
5,2
huggingface/transformers
Фреймворк для определения и запуска предобученных ML-моделей (текст, зрение, аудио, мультимодальные) для инференса и обучения, совместимый с большинством тренировочных и инференс-движков.
-
5,0
MiaAI-Lab/DeepSeek-v4.1-Flash-EXL3-2x-DGX-Sparks
Локальный чекпоинт DeepSeek-V4.1-Flash в квантовании EXL3 2.9 bpw (196 GiB, 39 шардов) для запуска через vLLM с OpenAI-совместимым API на двух NVIDIA GB10 (DGX Spark) с tensor-parallel 2. Включает спекулятивное…
-
4,8
penberg/titania
Полный стек для запуска языковой модели Qwen3-0.6B: собственные GPU-ядра, компилятор, ISA, симулятор и планируемый RTL-GPU. Каждый слой написан с нуля и достаточно мал, чтобы один человек мог его прочитать.
-
4,7
unclecode/crawl4ai
Открытый веб-краулер и скрапер, преобразующий страницы в чистый Markdown, готовый для LLM, RAG и агентов. Работает через Python API, CLI и Docker без API-ключей.