sybil-solutions/inference-optimisation-skill
- Всего звёзд
- 1 013
- Сегодня
- +97с 00:08 UTC
Другие действия
Agent skill for hill-climbing local LLM serving speed (decode, speculative decoding, prefill, KV, startup, TTFT) on any hardware and quantization
Сохрани в «Мои находки», чтобы следить за релизами и ростом звёзд. Сохраняется в этом браузере.
О проекте
Agent skill для ускорения локального LLM-сервера методом hill-climbing: decode, speculative decoding, prefill, KV-кэш, старт и TTFT на любом железе и квантизации.
Чем пригодится
- Ускорить decode и prefill модели на порту :8000 в пределах лимита памяти 40 GiB
- Посчитать теоретический потолок tok/s для модели на конкретном железе
- Прогнать бенчмарк OpenAI-совместимого сервера с проверкой long-context retrieval
Пересказ README моделью DeepSeek V4.1 Flash. Может ошибаться в деталях. Оригинал README →
Как начать
git clone https://github.com/sybil-solutions/inference-optimisation-skill
mkdir -p ~/.claude/skills
cp -r inference-optimisation-skill/skills/inference-optimisation ~/.claude/skills/
Дословно из раздела README «install». GitNova эти команды не запускал: перед запуском сверьте с оригиналом. Полная инструкция →
Рост звёзд выглядит естественно. Данные на 18 ноября 2026, 11:40 UTC.
Оценка роста звёзд не подтверждает безопасность запуска.
Звёзды по дням
Столбики — звёзды за день UTC; линия — скользящее среднее доступной истории. Пропуски означают отсутствие данных, а не нулевой рост. Сегодняшний столбик неполный. Красным — дни всплесков.
Почему он в тренде
- По замерам счётчика за 2026-11-18 (UTC), 00:08–11:29: 916 → 1013 звёзд (+97). Это прирост за указанный интервал.
- Расчётный прогноз на конец суток: около +299 звёзд; учитывает наблюдаемый прирост и предыдущий день.
- Репозиторию 2 дня, а у него уже 1 013 звёзд. Истории меньше двух недель, так что обычного темпа, с которым можно сравнить всплеск, у него ещё нет.
- Топ новых репозиториев за неделю: #9.
- Около 25 форков в сутки — код забирают себе.
Замеры роста: последние 7 полных дней
Нет данных за все 7 дней: недельный итог и сравнение не рассчитываются.
Замеры по дням · UTC
- 11 ноября 2026
- —
- 12 ноября 2026
- —
- 13 ноября 2026
- —
- 14 ноября 2026
- —
- 15 ноября 2026
- —
- 16 ноября 2026
- 407
- 17 ноября 2026
- 579
Максимальный измеренный день за последние 30 дней: 579 · 17 ноября 2026. Дней с данными: 2.
Полные дни — из истории звёзд GitHub; сегодня и прогнозы исключены из сравнения. История проверена: 18 ноября 2026, 11:39 UTC. Источники и ограничения замеров →
Три GitHub-находки в каждом выпуске
Что делают, почему набирают интерес и что проверить перед использованием.
Выпуски в 10:00, 16:00, 22:00 МСК.
Цифры
- Всего звёзд
- 1 013
- Сегодня
- +97 звёзд по замерам 2026-11-18, 00:08–11:29 UTC, к вечеру ≈ 299
- Форков
- 88
- Issues и pull requests
- 4
- Наблюдателей
- 2
- Язык
- Python
- Лицензия
- MIT
- Создан
- 16 ноября 2026
- Последний коммит
- 16 ноября 2026
Доверие к звёздам
Рост выглядит естественно: форков и обсуждений столько, сколько бывает у живых проектов, а звёзды приходят неровно, как от людей.
Это эвристики, а не приговор: судим по поведению репозитория, а не по списку звездивших.
Где замечен
- 18 ноября 2026Топ новых репозиториев за неделю: #9
- 17 ноября 2026Топ новых репозиториев за неделю: #12