lyogavin/airllm
- Всего звёзд
- 36 103
- Сегодня · UTC
- +15с 11:04 UTC
Сохрани в «Мои находки», чтобы следить за релизами и ростом звёзд. Сохраняется в этом браузере.
О проекте
Библиотека для инференса и обучения больших языковых моделей на GPU с малым объёмом памяти: послойно стримит веса с диска, позволяя запускать модели на 70B–671B на 4–12 ГБ VRAM без квантизации и дистилляции.
Чем пригодится
- Запустить Llama 3 70B или DeepSeek-V3 локально на одной потребительской GPU с 4–12 ГБ памяти
- Ускорить инференс в 3 раза, включив 4bit/8bit блочную квантизацию через bitsandbytes
- Дообучить 125B-модель на RTX 3060 Ti, оставив адаптеры на GPU и стримя замороженные слои
Пересказ README моделью DeepSeek V4.1 Flash. Может ошибаться в деталях. Оригинал README →
Рост звёзд выглядит естественно. Данные на 11 октября 2026, 11:56 UTC.
Оценка роста звёзд не подтверждает безопасность запуска.
Звёзды по дням
Столбики — звёзды за день UTC; линия — скользящее среднее доступной истории. Пропуски означают отсутствие данных, а не нулевой рост. Сегодняшний столбик неполный. Красным — дни всплесков.
Почему он в тренде
- По замерам счётчика за 2026-10-11 (UTC), 11:04–11:46: 36088 → 36103 звёзд (+15). Это прирост за указанный интервал.
- Расчётный прогноз на конец суток: около +139 звёзд; учитывает наблюдаемый прирост и предыдущий день.
- За последние двое суток темп в 7,4 раза выше, чем в предыдущие полторы недели.
- GitHub Trending за день: #7, +541 звезда.
- Около 45 форков в сутки — код забирают себе.
Замеры роста: последние 7 полных дней
Новые звёзды за 7 дней: 694. +94% к предыдущим 7 дням.
Замеры по дням · UTC
- 4 октября 2026
- 47
- 5 октября 2026
- 44
- 6 октября 2026
- 41
- 7 октября 2026
- 35
- 8 октября 2026
- 28
- 9 октября 2026
- 36
- 10 октября 2026
- 463
Максимальный измеренный день за последние 30 дней: 463 · 10 октября 2026. Дней с данными: 30.
Полные дни — из истории звёзд GitHub; сегодня и прогнозы исключены из сравнения. История проверена: 11 октября 2026, 11:55 UTC. Источники и ограничения замеров →
Три GitHub-находки в каждом выпуске
Что делают, почему набирают интерес и что проверить перед использованием.
Выпуски в 10:00, 16:00, 22:00 МСК.
Цифры
- Всего звёзд
- 36 103
- Сегодня
- +15 звёзд по замерам 2026-10-11, 11:04–11:46 UTC, к вечеру ≈ 139
- Форков
- 3 789
- Issues и pull requests
- 332
- Наблюдателей
- 302
- Язык
- Jupyter Notebook
- Лицензия
- Apache-2.0
- Последний релиз
- v4.0.0 · 5 сентября 2026
- Создан
- 12 июня 2023
- Последний коммит
- 11 октября 2026
Доверие к звёздам
Рост выглядит естественно: форков и обсуждений столько, сколько бывает у живых проектов, а звёзды приходят неровно, как от людей.
Это эвристики, а не приговор: судим по поведению репозитория, а не по списку звездивших.
Где замечен
- 11 октября 2026GitHub Trending за день: #7, +541 звезда