google-ai-edge/LiteRT
LiteRT, successor to TensorFlow Lite. is Google's On-device framework for high-performance ML & GenAI deployment on edge platforms, via efficient conversion, runtime, and optimization
О проекте
LiteRT — это on-device runtime от Google для высокопроизводительного запуска ML и GenAI моделей на edge-платформах, наследник TensorFlow Lite. Он конвертирует модели из PyTorch, TensorFlow и JAX в формат .tflite или .litertlm и исполняет их на CPU, GPU и NPU.
Чем пригодится
- Сконвертировать PyTorch-модель в .tflite через LiteRT Torch Converter
- Запустить квантованную LLM на Android-устройстве с ускорением на NPU
- Развернуть клиентский ML-инференс в браузере через WebGPU и WASM с LiteRT.js
Пересказ README моделью DeepSeek V4.1 Flash. Может ошибаться в деталях.
Почему он в тренде
- Сегодня уже 1 звезда, к концу дня ожидается около 2.
- GitHub Trending C++ за день: #8, +5 звёзд.
- Среди свежих форков — заметные разработчики: @onuralpszr (805 подп.), @Surfndez (380 подп.).
Звёзды по дням
Столбики — звёзды за день, линия — обычный темп. Красным — дни всплесков.
Цифры
- Всего звёзд
- 3 437
- Сегодня
- 1 · к вечеру ≈ 2
- Форков
- 460
- Issues и pull requests
- 10 261
- Наблюдателей
- 27
- Язык
- C++
- Лицензия
- Apache-2.0
- Последний релиз
- v2.2.0 · 13 августа 2026
- Создан
- 4 сентября 2024
- Последний коммит
- 25 сентября 2026
Доверие к звёздам
Рост выглядит естественно: форков и обсуждений столько, сколько бывает у живых проектов, а звёзды приходят неровно, как от людей.
Это эвристики, а не приговор: судим по поведению репозитория, а не по списку звездивших.
Где замечен
- 25 сентября 2026GitHub Trending C++ за день: #8, +5 звёзд
Поделиться
Бейдж для README
Вставьте в README — бейдж сам показывает свежую магнитуду и ведёт на эту страницу.
[](https://gitnova.dev/r/google-ai-edge/LiteRT)Похожие по описанию
-
1,3
microsoft/onnxruntime
Кроссплатформенный ускоритель инференса и обучения ML-моделей. Запускает модели из PyTorch, TensorFlow, scikit-learn и других через формат ONNX с оптимизацией графа и аппаратным ускорением.
-
1,1
openvinotoolkit/openvino
OpenVINO — открытый тулкит для оптимизации и развёртывания инференса моделей глубокого обучения на CPU, GPU и NPU Intel. Поддерживает модели из PyTorch, TensorFlow, ONNX, Keras, PaddlePaddle, JAX/Flax и Hugging Face с…
-
1,4
NVIDIA/TensorRT-LLM
Библиотека NVIDIA для оптимизации инференса больших языковых моделей и визуальных генеративных моделей на GPU: Python API, специализированные ядра и эффективный рантайм на C++/Python.
-
1,1
openxla/xla
XLA (Accelerated Linear Algebra) — открытый ML-компилятор для GPU, CPU и ML-ускорителей. Принимает модели из PyTorch, TensorFlow и JAX и оптимизирует их под высокопроизводительное выполнение на разном железе.
-
2,8
General-Instinct/InstinctFlash
Высокопроизводительный runtime для запуска робототехнических моделей (VLA, WAM, policies) с ускорением через FP8 и оптимизированные ядра на Jetson Thor, RTX 4090/5090.
-
5,7
NVIDIA/Model-Optimizer
Библиотека NVIDIA для сжатия и ускорения моделей: квантизация, прунинг, дистилляция, NAS и speculative decoding с экспортом в TensorRT-LLM, vLLM, SGLang. Для ML-инженеров, готовящих модели к деплою.