jayleaton/glm53-tensorfold-spark
GLM-5.3-Flash (abliterated EXL3) on 2x NVIDIA DGX Spark with the TensorFold engine: 1.8x faster decode than vLLM, 4x256k concurrent threads, byte-exact speculative decoding. Work in progress.
О проекте
Экспериментальная сборка для запуска 4-битной модели GLM-5.3-Flash на двух NVIDIA DGX Spark через движок TensorFold с OpenAI-совместимым API и набором патчей для ускорения декодирования.
Чем пригодится
- Поднять OpenAI-совместимый сервер GLM-5.3-Flash на паре DGX Spark
- Сравнить скорость декодирования TensorFold и vLLM на своих промптах
- Включить патчи для tool-calling и структурированного вывода через config/prod.env
Пересказ README моделью DeepSeek V4.1 Flash. Может ошибаться в деталях.
Почему он в тренде
- Сегодня уже 0 звёзд, к концу дня ожидается около 22.
- Всплеск держится 3 дня подряд — это не случайный выброс.
- Репозиторию 3 дня, а у него уже 87 звёзд. Истории меньше двух недель, так что обычного темпа, с которым можно сравнить всплеск, у него ещё нет.
- Топ новых репозиториев за неделю: #152.
Звёзды по дням
Столбики — звёзды за день, линия — обычный темп. Красным — дни всплесков.
Цифры
- Всего звёзд
- 87
- Сегодня
- 0 · к вечеру ≈ 22
- Форков
- 5
- Issues и pull requests
- 14
- Наблюдателей
- 1
- Язык
- Python
- Лицензия
- Apache-2.0
- Создан
- 28 сентября 2026
- Последний коммит
- 1 октября 2026
Доверие к звёздам
Рост выглядит естественно: форков и обсуждений столько, сколько бывает у живых проектов, а звёзды приходят неровно, как от людей.
Это эвристики, а не приговор: судим по поведению репозитория, а не по списку звездивших.
Где замечен
- 1 октября 2026Топ новых репозиториев за неделю: #152
Поделиться
Бейдж для README
Вставьте в README — бейдж сам показывает свежую магнитуду и ведёт на эту страницу.
[](https://gitnova.dev/r/jayleaton/glm53-tensorfold-spark)Похожие по описанию
-
5,3
ashhart/TensorFold
Сервер инференса LLM для Apple Silicon (MLX) и NVIDIA GPU с OpenAI-совместимым API и точным спекулятивным декодированием. Поддерживает семейства Nemotron, Qwen3.8, GLM-5.3 и Gemma 4 с собственными ядрами и…
-
3,8
MiaAI-Lab/Qwen3.8-Flash-Next-Single-DGX-Spark-TensorFold
Скрипты для запуска Qwen3.8 Flash Next на одной NVIDIA DGX Spark через OpenAI-совместимый API с поддержкой изображений и видео и контекстом 262 144 токена.