GitNova

Сейсмограф GitHub — находки и рост интереса

lyogavin/airllm

Языковые моделиJupyter Notebook#chinese-nlp#finetune#generative-ai#instruct-gpt#instruction-set
Всего звёзд
36 103
Сегодня · UTC
+15с 11:04 UTC
Открыть на GitHub Мои находки →
Другие действия

AirLLM 70B inference with single 4GB GPU

Сохрани в «Мои находки», чтобы следить за релизами и ростом звёзд. Сохраняется в этом браузере.

О проекте

Библиотека для инференса и обучения больших языковых моделей на GPU с малым объёмом памяти: послойно стримит веса с диска, позволяя запускать модели на 70B–671B на 4–12 ГБ VRAM без квантизации и дистилляции.

Чем пригодится
  • Запустить Llama 3 70B или DeepSeek-V3 локально на одной потребительской GPU с 4–12 ГБ памяти
  • Ускорить инференс в 3 раза, включив 4bit/8bit блочную квантизацию через bitsandbytes
  • Дообучить 125B-модель на RTX 3060 Ti, оставив адаптеры на GPU и стримя замороженные слои

Пересказ README моделью DeepSeek V4.1 Flash. Может ошибаться в деталях. Оригинал README →

4,9 Взлёт Магнитуда из 10 — скорость роста интереса, а не оценка качества.

Рост звёзд выглядит естественно. Данные на 11 октября 2026, 11:56 UTC.

Оценка роста звёзд не подтверждает безопасность запуска.

Звёзды по дням

01 0002 00014 июля 202611 октября 2026

Столбики — звёзды за день UTC; линия — скользящее среднее доступной истории. Пропуски означают отсутствие данных, а не нулевой рост. Сегодняшний столбик неполный. Красным — дни всплесков.

Почему он в тренде

  • По замерам счётчика за 2026-10-11 (UTC), 11:04–11:46: 36088 → 36103 звёзд (+15). Это прирост за указанный интервал.
  • Расчётный прогноз на конец суток: около +139 звёзд; учитывает наблюдаемый прирост и предыдущий день.
  • За последние двое суток темп в 7,4 раза выше, чем в предыдущие полторы недели.
  • GitHub Trending за день: #7, +541 звезда.
  • Около 45 форков в сутки — код забирают себе.

Замеры роста: последние 7 полных дней

Новые звёзды за 7 дней: 694. +94% к предыдущим 7 дням.

Замеры по дням · UTC
4 октября 2026
47
5 октября 2026
44
6 октября 2026
41
7 октября 2026
35
8 октября 2026
28
9 октября 2026
36
10 октября 2026
463

Максимальный измеренный день за последние 30 дней: 463 · 10 октября 2026. Дней с данными: 30.

Полные дни — из истории звёзд GitHub; сегодня и прогнозы исключены из сравнения. История проверена: 11 октября 2026, 11:55 UTC. Источники и ограничения замеров →

Три GitHub-находки в каждом выпуске

Что делают, почему набирают интерес и что проверить перед использованием.

Выпуски в 10:00, 16:00, 22:00 МСК.

Поделиться в X Telegram

Цифры

Всего звёзд
36 103
Сегодня
+15 звёзд по замерам 2026-10-11, 11:04–11:46 UTC, к вечеру ≈ 139
Форков
3 789
Issues и pull requests
332
Наблюдателей
302
Язык
Jupyter Notebook
Лицензия
Apache-2.0
Последний релиз
v4.0.0 · 5 сентября 2026
Создан
12 июня 2023
Последний коммит
11 октября 2026

Доверие к звёздам

Рост выглядит естественно: форков и обсуждений столько, сколько бывает у живых проектов, а звёзды приходят неровно, как от людей.

Это эвристики, а не приговор: судим по поведению репозитория, а не по списку звездивших.

Где замечен
Бейдж для README

Вставьте в README — бейдж сам показывает свежую магнитуду и ведёт на эту страницу.

GitNova: 4,9
[![GitNova](https://gitnova.dev/badge/lyogavin/airllm.svg)](https://gitnova.dev/r/lyogavin/airllm)