sybil-solutions/dsv41-flash-offload
- Всего звёзд
- 102
- Сегодня · UTC
- +4с 00:21 UTC
Другие действия
DeepSeek-V4.1-Flash EXL3 on one 24 GB RTX 3090 + DDR4 + NVMe: staged-DMA prefill, AVX2 CPU expert tier, elastic VRAM expert cache, Engram on disk, OpenAI API
Сохрани в «Мои находки», чтобы следить за релизами и ростом звёзд. Сохраняется в этом браузере.
О проекте
Запускает DeepSeek-V4.1-Flash (EXL3 3.0 bpw) на одной RTX 3090 24 ГБ с выгрузкой экспертов в DDR4 и NVMe, предоставляя OpenAI-совместимый API. Нужен для локального инференса большой MoE-модели на потребительском железе.
Чем пригодится
- Поднять локальный OpenAI-совместимый сервер с DeepSeek-V4.1-Flash на одной RTX 3090
- Прогнать длинный контекст до 262k токенов для задач извлечения и кода
- Собрать Docker-образ с pinned digest для воспроизводимого развёртывания
Пересказ README моделью DeepSeek V4.1 Flash. Может ошибаться в деталях.
Рост звёзд выглядит естественно. Данные на 7 октября 2026, 12:58 UTC.
Оценка роста звёзд не подтверждает безопасность запуска.
Звёзды по дням
Столбики — звёзды за день; линия — скользящее среднее доступной истории. При короткой истории оно ещё не задаёт надёжный обычный темп. Красным — дни всплесков.
Почему он в тренде
- По замерам счётчика за 2026-10-07 (UTC), 00:21–12:43: 98 → 102 звёзд (+4). Это прирост за указанный интервал.
- Расчётный прогноз на конец суток: около +9 звёзд; учитывает наблюдаемый прирост и предыдущий день.
- Репозиторию 5 дней, а у него уже 102 звезды. Истории меньше двух недель, так что обычного темпа, с которым можно сравнить всплеск, у него ещё нет.
- Топ новых репозиториев за неделю: #130.
- Среди свежих форков — заметные разработчики: @0xSojalSec (1 007 подп.).
Три GitHub-находки в каждом выпуске
Что делают, почему набирают интерес и что проверить перед использованием.
Выпуски в 10:00, 16:00, 22:00 МСК.
Цифры
- Всего звёзд
- 102
- Сегодня
- +4 звезды по замерам 2026-10-07, 00:21–12:43 UTC, к вечеру ≈ 9
- Форков
- 12
- Issues и pull requests
- 1
- Наблюдателей
- 0
- Язык
- Python
- Лицензия
- MIT
- Создан
- 2 октября 2026
- Последний коммит
- 7 октября 2026
Доверие к звёздам
Рост выглядит естественно: форков и обсуждений столько, сколько бывает у живых проектов, а звёзды приходят неровно, как от людей.
Это эвристики, а не приговор: судим по поведению репозитория, а не по списку звездивших.
Где замечен
- 7 октября 2026Топ новых репозиториев за неделю: #129
- 6 октября 2026Топ новых репозиториев за неделю: #150
- 5 октября 2026Топ новых репозиториев за неделю: #188