GitNova

Сейсмограф GitHub — находки и рост интереса

sybil-solutions/inference-optimisation-skill

Языковые моделиPython#agent-skill#benchmarking#claude-code#inference#llm
Всего звёзд
1 013
Сегодня
+97с 00:08 UTC
Открыть на GitHub Мои находки →
Другие действия

Agent skill for hill-climbing local LLM serving speed (decode, speculative decoding, prefill, KV, startup, TTFT) on any hardware and quantization

Сохрани в «Мои находки», чтобы следить за релизами и ростом звёзд. Сохраняется в этом браузере.

О проекте

Agent skill для ускорения локального LLM-сервера методом hill-climbing: decode, speculative decoding, prefill, KV-кэш, старт и TTFT на любом железе и квантизации.

Чем пригодится
  • Ускорить decode и prefill модели на порту :8000 в пределах лимита памяти 40 GiB
  • Посчитать теоретический потолок tok/s для модели на конкретном железе
  • Прогнать бенчмарк OpenAI-совместимого сервера с проверкой long-context retrieval

Пересказ README моделью DeepSeek V4.1 Flash. Может ошибаться в деталях. Оригинал README →

Как начать

git clone https://github.com/sybil-solutions/inference-optimisation-skill
mkdir -p ~/.claude/skills
cp -r inference-optimisation-skill/skills/inference-optimisation ~/.claude/skills/

Дословно из раздела README «install». GitNova эти команды не запускал: перед запуском сверьте с оригиналом. Полная инструкция →

6,9 Ранний сигнал Магнитуда из 10 — скорость роста интереса, а не оценка качества.

Рост звёзд выглядит естественно. Данные на 18 ноября 2026, 11:40 UTC.

Оценка роста звёзд не подтверждает безопасность запуска.

Звёзды по дням

030060016 ноября 202618 ноября 2026

Столбики — звёзды за день UTC; линия — скользящее среднее доступной истории. Пропуски означают отсутствие данных, а не нулевой рост. Сегодняшний столбик неполный. Красным — дни всплесков.

Почему он в тренде

  • По замерам счётчика за 2026-11-18 (UTC), 00:08–11:29: 916 → 1013 звёзд (+97). Это прирост за указанный интервал.
  • Расчётный прогноз на конец суток: около +299 звёзд; учитывает наблюдаемый прирост и предыдущий день.
  • Репозиторию 2 дня, а у него уже 1 013 звёзд. Истории меньше двух недель, так что обычного темпа, с которым можно сравнить всплеск, у него ещё нет.
  • Топ новых репозиториев за неделю: #9.
  • Около 25 форков в сутки — код забирают себе.

Замеры роста: последние 7 полных дней

Нет данных за все 7 дней: недельный итог и сравнение не рассчитываются.

Замеры по дням · UTC
11 ноября 2026
—
12 ноября 2026
—
13 ноября 2026
—
14 ноября 2026
—
15 ноября 2026
—
16 ноября 2026
407
17 ноября 2026
579

Максимальный измеренный день за последние 30 дней: 579 · 17 ноября 2026. Дней с данными: 2.

Полные дни — из истории звёзд GitHub; сегодня и прогнозы исключены из сравнения. История проверена: 18 ноября 2026, 11:39 UTC. Источники и ограничения замеров →

Три GitHub-находки в каждом выпуске

Что делают, почему набирают интерес и что проверить перед использованием.

Выпуски в 10:00, 16:00, 22:00 МСК.

Поделиться в X Telegram

Цифры

Всего звёзд
1 013
Сегодня
+97 звёзд по замерам 2026-11-18, 00:08–11:29 UTC, к вечеру ≈ 299
Форков
88
Issues и pull requests
4
Наблюдателей
2
Язык
Python
Лицензия
MIT
Создан
16 ноября 2026
Последний коммит
16 ноября 2026

Доверие к звёздам

Рост выглядит естественно: форков и обсуждений столько, сколько бывает у живых проектов, а звёзды приходят неровно, как от людей.

Это эвристики, а не приговор: судим по поведению репозитория, а не по списку звездивших.

Где замечен
Бейдж для README

Вставьте в README — бейдж сам показывает свежую магнитуду и ведёт на эту страницу.

GitNova: 6,9
[![GitNova](https://gitnova.dev/badge/sybil-solutions/inference-optimisation-skill.svg)](https://gitnova.dev/r/sybil-solutions/inference-optimisation-skill)