ggml-org/llama.cpp

LLM inference in C/C++

Языковые моделиC++#ggml

3,5 Ровно Магнитуда из 10. Рост звёзд выглядит естественно. Данные на 14 сентября 2026.

Открыть на Сейсмографе Открыть на GitHub

О проекте

Реализация инференса LLM и VLM на C/C++ без зависимостей, работающая на CPU и GPU разного железа. Позволяет запускать модели локально с минимальной настройкой и квантованием.

Чем пригодится

Запустить локальную LLM из Hugging Face через llama cli без установки Python-стека
Поднять OpenAI-совместимый REST API сервер командой llama serve для своих приложений
Запустить модель на Apple Silicon или NVIDIA GPU с квантованием для экономии памяти

Пересказ README моделью DeepSeek V4.1 Flash. Может ошибаться в деталях.

Почему он в тренде

Сегодня 85 звёзд.
GitHub Trending C++ за день: #6, +133 звезды.
Около 32 форков в сутки — код забирают себе.
Среди свежих форков — заметные разработчики: @janishar (2 258 подп.).

Звёзды по дням

Столбики — звёзды за день, линия — обычный темп. Красным — дни всплесков.

Цифры

Всего звёзд: 128 112
Звёзд за сутки: 86
Форков: 23 129
Issues и pull requests: 24 983
Наблюдателей: 838
Язык: C++
Лицензия: MIT
Последний релиз: b10948 · 13 сентября 2026
Создан: 10 марта 2023
Последний коммит: 13 сентября 2026

Доверие к звёздам

Рост выглядит естественно: форков и обсуждений столько, сколько бывает у живых проектов, а звёзды приходят неровно, как от людей.

Это эвристики, а не приговор: судим по поведению репозитория, а не по списку звездивших.

Где замечен

13 сентября 2026GitHub Trending C++ за день: #3, +133 звезды

Бейдж для README

Вставьте в README — бейдж сам показывает свежую магнитуду и ведёт на эту страницу.

[![Сейсмограф](https://gitnova.dev/badge/ggml-org/llama.cpp.svg)](https://gitnova.dev/r/ggml-org/llama.cpp)