# sgl-project/sglang-omni

> Фреймворк для развёртывания аудио- и мультимодальных моделей (TTS, ASR, omni) с многостадийным рантаймом и OpenAI-совместимым API. Нужен для запуска генерации и распознавания речи на своих GPU.

- Магнитуда: 3,4 из 10 — Взлёт
- Звёзды: 1 430 всего · +2 звезды по замерам 2026-10-13, 10:53–12:29 UTC, к вечеру ≈ 15
- Доверие к звёздам: рост звёзд выглядит естественно
- Категория: Языковые модели · Язык: Python · Лицензия: Apache-2.0 · Создан: 2026-01-07 · Последний коммит: 2026-10-13
- GitHub: https://github.com/sgl-project/sglang-omni · Сайт: https://sgl-project.github.io/sglang-omni/ · Страница: https://gitnova.dev/r/sgl-project/sglang-omni

## Чем пригодится

- Поднять OpenAI-совместимый сервер синтеза речи через /v1/audio/speech
- Развернуть транскрибацию с диаризацией спикеров через /v1/audio/transcriptions
- Запустить Qwen3-Omni для мультимодального чата с аудио-ответом

## Почему он здесь

- По замерам счётчика за 2026-10-13 (UTC), 10:53–12:29: 1428 → 1430 звёзд (+2). Это прирост за указанный интервал.
- Расчётный прогноз на конец суток: около +15 звёзд; учитывает наблюдаемый прирост и предыдущий день.
- За последние двое суток темп в 9,7 раза выше, чем в предыдущие полторы недели.
- Повышенный прирост зафиксирован в 2 последних полных днях подряд (UTC). Это не гарантирует продолжения роста.
- GitHub Trending Python за день: #10, +42 звезды.
- Около 10 форков в сутки — код забирают себе.
- Среди свежих форков — заметные разработчики: @zRzRzRzRzRzRzR (1 718 подп.).

## Доверие к звёздам

Рост звёзд выглядит естественно.

Метки доверия к звёздам — эвристики по поведению репозитория, а не проверка каждого, кто поставил звезду.

## Цифры

- Форков: 586
- Issues и pull requests: 2 744
- Наблюдателей: 11
- В среднем за неделю: 17 в день
- Обычный темп: 5 в день
- Звёзд за последний час (по замерам): 0
- Последний релиз: v0.1.8 (2026-10-12)

## Звёзды по дням за 30 дней (от старых к новым, сегодня — неполный день)

2026-09-14 … 2026-10-13: 12, 13, 7, 16, 4, 4, 10, 12, 7, 8, 10, 2, 2, 5, 6, 6, 7, 0, 6, 4, 1, 1, 5, 2, 5, 4, 4, 36, 54, 2

## Где замечен сейчас

- GitHub Trending Python за день: #10, +42 звезды

## Ещё в этой категории

1. **open-webui/open-webui** — 7,9 · Взлёт · Языковые модели · Python · +549 звёзд по замерам 2026-10-13, 00:02–12:25 UTC, к вечеру ≈ 1 025
   Open WebUI — self-hosted веб-интерфейс для работы с AI-моделями через Ollama и OpenAI-совместимые API, с поддержкой RAG, плагинов, агентов и командной работы.
   Полная карточка: https://gitnova.dev/r/open-webui/open-webui.md
2. **lyogavin/airllm** — 7,7 · Взлёт · Языковые модели · Jupyter Notebook · +481 звезда по замерам 2026-10-13, 00:01–12:25 UTC, к вечеру ≈ 931
   Библиотека для инференса и обучения больших языковых моделей на GPU с малым объёмом памяти: послойно стримит веса с диска, позволяя запускать модели на 70B–671B на 4–12 ГБ VRAM без квантизации и дистилляции.
   Полная карточка: https://gitnova.dev/r/lyogavin/airllm.md
3. **microsoft/BitNet** — 6,9 · Взлёт · Языковые модели · C++ · +185 звёзд по замерам 2026-10-13, 00:02–12:25 UTC, к вечеру ≈ 342
   Официальный фреймворк инференса для 1-bit LLM (BitNet b1.58) с оптимизированными ядрами для CPU и GPU. Позволяет запускать тернарные модели быстро и без потери качества, в том числе 100B-модель на одном CPU.
   Полная карточка: https://gitnova.dev/r/microsoft/BitNet.md
4. **prabanta-dev/janas** — 6,9 · Ранний сигнал · Языковые модели · C · +185 звёзд по замерам 2026-10-13, 01:25–12:25 UTC, к вечеру ≈ 296
   Janas — набор AI-инструментов на C без зависимостей. Janas-LLM запускает большие MoE-модели (до 80B, 48 ГБ) на ноутбуке с 32 ГБ ОЗУ, стримя экспертов с NVMe SSD, и работает быстрее llama.cpp на всех 13 протестированных моделях.
   Полная карточка: https://gitnova.dev/r/prabanta-dev/janas.md
5. **mw00/project-maya** — 5,1 · Ранний сигнал · Языковые модели · C++ · +52 звезды по замерам 2026-10-13, 00:02–12:26 UTC, к вечеру ≈ 109
   Локальный движок, сервер и дашборд для запуска 321B MoE-модели GLM-5.3-Flash на одной или двух NVIDIA GPU с выгрузкой экспертов в RAM и NVMe.
   Полная карточка: https://gitnova.dev/r/mw00/project-maya.md

---

Магнитуда (0–10) — насколько быстро и необычно сейчас растёт интерес к репозиторию. Это не оценка качества.
Дни — по UTC. «Уже сегодня» — факт, «к вечеру ≈» — прогноз.
Описания и сценарии пишет модель (DeepSeek V4.1 Flash) по README, в деталях возможны ошибки: конкретные утверждения (замеры, скорость, железо) проверяйте в самом репозитории.
Данные на 2026-10-13 12:43 UTC, обновление каждые 30 минут.