# Языковые модели: что взлетает на GitHub

Магнитуда (0–10) — насколько быстро и необычно сейчас растёт интерес к репозиторию. Это не оценка качества. Дни — по UTC. «Уже сегодня» — факт, «к вечеру ≈» — прогноз.

Данные на 2026-10-29 22:20 UTC, обновление каждые 30 минут.

1. **togg53192-cmd/jailbreaks** — 8,5 · Взлёт · Языковые модели · +1 778 звёзд по замерам 2026-10-29, 00:02–22:06 UTC
   Коллекция из 31 системного промпта, персона-локов и AGENTS.md-файлов для 25+ моделей (Claude, Gemini, Grok, GLM, DeepSeek, Kimi, Qwen, Gemma, GPT-OSS). Предназначена для исследования того, как иерархии инструкций и переопределения политик…
   Полная карточка: https://gitnova.dev/r/togg53192-cmd/jailbreaks.md
2. **OpenBMB/MiniCPM-OCR** — 6,6 · Ранний сигнал · Языковые модели · TypeScript · +274 звезды по замерам 2026-10-29, 00:03–22:06 UTC
   MiniCPM-OCR — семейство открытых OCR-моделей для разбора китайских и английских документов и PDF в Markdown или JSON; модель Jev (2B) оценивает качество распознавания по регионам.
   Полная карточка: https://gitnova.dev/r/OpenBMB/MiniCPM-OCR.md
3. **Edge0-AI/Edge0** — 6,3 · Взлёт · Языковые модели · Python · +1 270 звёзд по замерам 2026-10-29, 00:05–22:06 UTC
   Открытый фреймворк для стримингового инференса MoE-моделей: эксперты выгружаются с SSD по требованию, а обученный prerouter предсказывает маршрутизацию заранее. Работает на Apple Silicon через MLX, поставляется с двумя готовыми моделями…
   Полная карточка: https://gitnova.dev/r/Edge0-AI/Edge0.md
4. **thomasunise/casecite** — 5,8 · Ранний сигнал · Языковые модели · Python · +68 звёзд по замерам 2026-10-29, 00:03–22:06 UTC
   Самостоятельно размещаемая платформа для юридических исследований: загрузка документов фирмы, поиск по ним с цитатами, анализ контрактов, драфтинг и аналитика судей. Работает на вашей инфраструктуре с вашими API-ключами.
   Полная карточка: https://gitnova.dev/r/thomasunise/casecite.md
5. **lyramakesmusic/neuron-explorer** — 5,3 · На пике · Языковые модели · Python · +86 звёзд по замерам 2026-10-29, 00:03–22:06 UTC
   Инструмент для исследования нейронов Qwen3.5-4B через steering: каждый MLP-нейрон отклоняется вверх и вниз на промптах, все роллауты сохраняются, а результаты раскладываются по 3D-виду модели.
   Полная карточка: https://gitnova.dev/r/lyramakesmusic/neuron-explorer.md
6. **NVIDIA/auto-ontology** — 5,2 · Ранний сигнал · Языковые модели · Python · +79 звёзд по замерам 2026-10-29, 00:03–22:06 UTC
   Python-фреймворк от NVIDIA для построения семантического графа-онтологии над корпоративными данными, который даёт LLM-агентам доверенные определения метрик и сущностей для надёжного text-to-SQL.
   Полная карточка: https://gitnova.dev/r/NVIDIA/auto-ontology.md
7. **google-deepmind/detectorscope** — 5,0 · Ранний сигнал · Языковые модели · Python · +41 звезда по замерам 2026-10-29, 00:03–22:06 UTC
   Инструмент для создания детекторов AI-текста, чьи решения объяснимы: предсказание складывается из именованных признаков с указанием их места в тексте. Основан на sparse autoencoders и концептуальном bottleneck поверх residual stream…
   Полная карточка: https://gitnova.dev/r/google-deepmind/detectorscope.md
8. **SoMarkAI/OXR** — 4,8 · Взлёт · Языковые модели · Python · +294 звезды по замерам 2026-10-29, 00:02–22:07 UTC
   Открытая модель разбора документов OXR превращает PDF и изображения в Markdown или JSON с координатами элементов, распознавая 13 типов контента (таблицы, формулы, химические структуры, код). При 1.3B параметров занимает первое место на…
   Полная карточка: https://gitnova.dev/r/SoMarkAI/OXR.md
9. **baidu/Unlimited-OCR** — 4,5 · Взлёт · Языковые модели · Python · +223 звезды по замерам 2026-10-29, 00:03–22:07 UTC
   OCR-модель от Baidu для разбора документов: распознаёт текст с одиночных изображений, многостраничных файлов и PDF за один проход, поддерживает длинный контекст до 32768 токенов.
   Полная карточка: https://gitnova.dev/r/baidu/Unlimited-OCR.md
10. **Niko1221/Strata** — 4,4 · Ровно · Языковые модели · C++ · +641 звезда по замерам 2026-10-29, 00:03–22:07 UTC
   Локальный движок инференса на C++, запускающий 125B MoE-модель Qwen3.8-Flash-Next на обычном ПК с одной NVIDIA GPU (12–24 ГБ) и 64 ГБ RAM, с OpenAI/Anthropic-совместимым API на localhost.
   Полная карточка: https://gitnova.dev/r/Niko1221/Strata.md
11. **Tencent/WeVisOne-VL** — 4,4 · Ранний сигнал · Языковые модели · Jupyter Notebook · +53 звезды по замерам 2026-10-29, 00:04–22:07 UTC
   WeVisOne-VL — это vision-language модель от WeChat Vision Team (Tencent), объединяющая задачи объектного и пиксельного восприятия: детекцию, referring-локализацию, подсчёт, pointing, OCR, сегментацию и alpha matting. Модель работает с…
   Полная карточка: https://gitnova.dev/r/Tencent/WeVisOne-VL.md
12. **JustVugg/colibri** — 4,1 · Ровно · Языковые модели · C · +259 звёзд по замерам 2026-10-29, 00:03–22:07 UTC
   Инференс-движок на чистом C без зависимостей для запуска больших MoE-моделей (744B–2.8T параметров) на потребительском железе за счёт многоуровневой памяти: VRAM, RAM и диск как единая иерархия для стриминга экспертов.
   Полная карточка: https://gitnova.dev/r/JustVugg/colibri.md
13. **deepseek-ai/DeepInfer** — 3,7 · Остывает · Языковые модели · Python · +318 звёзд по замерам 2026-10-29, 00:04–22:07 UTC
   Фреймворк для офлайн-инференса моделей DeepSeek в больших масштабах: оптимизированные ядра, параллелизм MoE/Attention, детерминированная генерация и структурированный вывод. Рассчитан на команды, разворачивающие DeepSeek-V4.1-Flash на…
   Полная карточка: https://gitnova.dev/r/deepseek-ai/DeepInfer.md
14. **ollama/ollama** — 3,6 · Ровно · Языковые модели · Go · +102 звезды по замерам 2026-10-29, 00:04–22:08 UTC
   Локальный запуск открытых языковых моделей (Kimi, GLM, DeepSeek, Qwen, Gemma и др.) через CLI и REST API с интеграцией в редакторы и ассистентов.
   Полная карточка: https://gitnova.dev/r/ollama/ollama.md
15. **p-e-w/heretic** — 3,5 · Ровно · Языковые модели · Python · +107 звёзд по замерам 2026-10-29, 00:04–22:08 UTC
   Инструмент для автоматического удаления цензуры (safety alignment) из трансформерных языковых моделей с помощью направленной абляции и оптимизации параметров на базе Optuna.
   Полная карточка: https://gitnova.dev/r/p-e-w/heretic.md
16. **BerriAI/litellm** — 3,4 · Ровно · Языковые модели · Python · +76 звёзд по замерам 2026-10-29, 00:05–22:08 UTC
   Открытый AI-шлюз и Python SDK для вызова 100+ LLM-провайдеров (OpenAI, Anthropic, Bedrock, Azure, VertexAI и др.) через единый OpenAI-совместимый интерфейс с учётом расходов, guardrails, балансировкой и логированием.
   Полная карточка: https://gitnova.dev/r/BerriAI/litellm.md
17. **ggml-org/llama.cpp** — 3,3 · Ровно · Языковые модели · C++ · +102 звезды по замерам 2026-10-29, 00:04–22:08 UTC
   Реализация инференса LLM и VLM на C/C++ без зависимостей, работающая на CPU и GPU разного железа. Позволяет запускать модели локально с минимальной настройкой и квантованием.
   Полная карточка: https://gitnova.dev/r/ggml-org/llama.cpp.md
18. **Mesh-LLM/mesh-llm** — 3,3 · Взлёт · Языковые модели · Rust · +20 звёзд по замерам 2026-10-29, 10:52–22:08 UTC
   Децентрализованная система для запуска LLM: объединяет GPU и память нескольких машин и предоставляет OpenAI-совместимый API на localhost:9337. Модель может выполняться локально, маршрутизироваться на пир или делиться на слои между узлами.
   Полная карточка: https://gitnova.dev/r/Mesh-LLM/mesh-llm.md
19. **QuantumNous/new-api** — 3,3 · Ровно · Языковые модели · Go · +81 звезда по замерам 2026-10-29, 00:05–22:08 UTC
   Self-hosted AI-шлюз, который объединяет разные LLM-провайдеры и отдаёт единый OpenAI-, Claude- или Gemini-совместимый API с управлением маршрутизацией, доступом и расходами.
   Полная карточка: https://gitnova.dev/r/QuantumNous/new-api.md
20. **trymirai/uzu** — 3,2 · Взлёт · Языковые модели · Rust · +41 звезда по замерам 2026-10-29, 00:03–22:08 UTC
   Высокопроизводительный движок инференса AI-моделей на Rust с API для Rust, Python, Swift и TypeScript. Позволяет запускать LLM локально в приложении без задержек и затрат на инференс.
   Полная карточка: https://gitnova.dev/r/trymirai/uzu.md
21. **unslothai/unsloth** — 3,2 · Ровно · Языковые модели · Python · +48 звёзд по замерам 2026-10-29, 00:05–22:08 UTC
   Десктопное приложение и веб-UI для локального запуска, дообучения и раздачи LLM, diffusion-, embedding- и аудиомоделей с OpenAI-совместимым API и интеграцией с Claude Code, Codex и MCP-агентами.
   Полная карточка: https://gitnova.dev/r/unslothai/unsloth.md
22. **magnitudedev/magnitude** — 3,2 · Взлёт · Языковые модели · Rust · +44 звезды по замерам 2026-10-29, 10:50–22:09 UTC
   Открытый inference-движок для потребительского железа: профилирует машину, подбирает лучшие локальные модели, скачивает, настраивает и запускает их, а также подключает вашего агента в один клик.
   Полная карточка: https://gitnova.dev/r/magnitudedev/magnitude.md
23. **vllm-project/vllm** — 3,1 · Ровно · Языковые модели · Python · +76 звёзд по замерам 2026-10-29, 00:05–22:08 UTC
   Высокопроизводительный движок для инференса и обслуживания больших языковых моделей с эффективным управлением памятью через PagedAttention. Поддерживает 200+ архитектур моделей и OpenAI-совместимый API.
   Полная карточка: https://gitnova.dev/r/vllm-project/vllm.md
24. **infiniflow/ragflow** — 3,1 · Ровно · Языковые модели · Go · +74 звезды по замерам 2026-10-29, 00:06–22:09 UTC
   Открытый RAG-движок, объединяющий извлечение контекста из документов с агентными возможностями для построения production-систем на LLM. Поддерживает парсинг PDF, DOCX, таблиц, изображений и синхронизацию с Confluence, Notion, S3.
   Полная карточка: https://gitnova.dev/r/infiniflow/ragflow.md
25. **solidsf-inc/solidcv** — 3,1 · Взлёт · Языковые модели · Rust · +25 звёзд по замерам 2026-10-29, 00:05–22:09 UTC
   Чистая реализация OpenCV на Rust без FFI: классическое 2D/3D зрение, стерео-реконструкция и механистическая интерпретируемость LLM/VLM с аппаратными ядрами для Apple Silicon и NVIDIA.
   Полная карточка: https://gitnova.dev/r/solidsf-inc/solidcv.md
26. **headroomlabs-ai/headroom** — 3,0 · Ровно · Языковые модели · Python · +107 звёзд по замерам 2026-10-29, 00:05–22:09 UTC
   Локальная библиотека, прокси и MCP-сервер, сжимающие вывод инструментов, логи, файлы и RAG-чанки перед отправкой в LLM, чтобы сократить расход токенов без потери качества ответов.
   Полная карточка: https://gitnova.dev/r/headroomlabs-ai/headroom.md
27. **slee-persis/GVS5H** — 2,8 · Ровно · Языковые модели · Python · +18 звёзд по замерам 2026-10-29, 00:05–22:09 UTC
   Метод без обучения, запускающий пять экземпляров одной LLM параллельно с координацией через общую файловую систему для решения сложных задач по программированию, оценённый на LiveCodeBench.
   Полная карточка: https://gitnova.dev/r/slee-persis/GVS5H.md
28. **mw00/project-maya** — 2,6 · Ровно · Языковые модели · Cuda · +50 звёзд по замерам 2026-10-29, 00:05–22:10 UTC
   Локальный движок, сервер и дашборд для запуска 321B MoE-модели GLM-5.3-Flash на одной или двух NVIDIA GPU с выгрузкой экспертов в RAM и NVMe.
   Полная карточка: https://gitnova.dev/r/mw00/project-maya.md
29. **langfuse/langfuse** — 2,6 · Ровно · Языковые модели · TypeScript · +60 звёзд по замерам 2026-10-29, 00:06–22:10 UTC
   Открытая платформа LLM-инженерии: трейсинг, оценка и отладка AI-приложений с self-hosted развёртыванием и управлением промптами.
   Полная карточка: https://gitnova.dev/r/langfuse/langfuse.md
30. **promptfoo/promptfoo** — 2,6 · Ровно · Языковые модели · TypeScript · +40 звёзд по замерам 2026-10-29, 00:06–22:10 UTC
   CLI и библиотека для оценки и ред-тиминга LLM-приложений: автоматические evals промптов, сравнение моделей и сканирование уязвимостей. Работает локально, интегрируется в CI/CD.
   Полная карточка: https://gitnova.dev/r/promptfoo/promptfoo.md
31. **Tencent-Hunyuan/Hy-SimulMT** — 2,6 · Ранний сигнал · Языковые модели · Python · +10 звёзд по замерам 2026-10-29, 00:03–22:10 UTC
   Модель синхронного перевода речи Tencent Hunyuan для потокового перевода между китайским и английским в реальном времени с клонированием голоса. Репозиторий содержит сервис инференса SimulInfer и инструменты обучения SimulTrain.
   Полная карточка: https://gitnova.dev/r/Tencent-Hunyuan/Hy-SimulMT.md
32. **xai-org/x-algorithm** — 2,5 · Ровно · Языковые модели · Rust · +23 звезды по замерам 2026-10-29, 00:06–22:10 UTC
   Открытый исходный код алгоритма ленты For You в X: объединяет посты от подписок и найденные ML-поиском, фильтрует и ранжирует их трансформерной моделью. Опубликован для прозрачности и изучения того, как формируется лента.
   Полная карточка: https://gitnova.dev/r/xai-org/x-algorithm.md
33. **jaredpalmer/kev** — 2,5 · Ровно · Языковые модели · Python · +30 звёзд по замерам 2026-10-29, 00:06–22:10 UTC
   kev — LoRA-адаптер с небольшим readout-хедом на базе Qwen2.5-0.5B, который за один forward pass отвечает на множество типизированных вопросов по документу, выдавая калиброванные вероятности вместо текста.
   Полная карточка: https://gitnova.dev/r/jaredpalmer/kev.md
34. **microsoft/BitNet** — 2,3 · Ровно · Языковые модели · C++ · +40 звёзд по замерам 2026-10-29, 00:09–22:12 UTC
   Официальный фреймворк инференса для 1-bit LLM (BitNet b1.58) с оптимизированными ядрами для CPU и GPU. Позволяет запускать тернарные модели быстро и без потери качества, в том числе 100B-модель на одном CPU.
   Полная карточка: https://gitnova.dev/r/microsoft/BitNet.md
35. **firecrawl/anydoc** — 2,3 · Ровно · Языковые модели · Rust · +38 звёзд по замерам 2026-10-29, 00:07–22:12 UTC
   Rust-библиотека для конвертации офисных документов (Word, PowerPoint, Excel, OpenDocument, RTF, EPUB, CSV, PDF) в чистый Markdown с привязками для Node.js, Python и браузера. Нужна для подготовки документов к подаче в LLM.
   Полная карточка: https://gitnova.dev/r/firecrawl/anydoc.md
36. **deeplethe/utopia** — 2,2 · Ровно · Языковые модели · Rust · +26 звёзд по замерам 2026-10-29, 00:08–22:12 UTC
   Utopia — открытая платформа для корпоративного управления знаниями: битемпоральный граф знаний, RAG-поиск и агентные сценарии поверх одного Rust-бинарника и PostgreSQL. Разворачивается офлайн, подходит компаниям, которым нужен…
   Полная карточка: https://gitnova.dev/r/deeplethe/utopia.md
37. **Albert-Weasker/niubigeo** — 2,2 · Ровно · Языковые модели · TypeScript · +22 звезды по замерам 2026-10-29, 00:13–22:13 UTC
   Открытый инструмент для отслеживания видимости бренда и конкурентов в ответах AI-моделей: по домену показывает, как модели описывают продукт, кого рекомендуют и на какие источники ссылаются.
   Полная карточка: https://gitnova.dev/r/Albert-Weasker/niubigeo.md
38. **tensorflow/tensorflow** — 2,1 · Ровно · Языковые модели · C++ · +0 звёзд по замерам 2026-10-29, 00:07–22:13 UTC
   Открытая платформа машинного обучения от Google Brain с API на Python и C++ для обучения и развёртывания нейросетей. Используется исследователями и разработчиками ML-приложений.
   Полная карточка: https://gitnova.dev/r/tensorflow/tensorflow.md
39. **kvcache-ai/Mooncake** — 2,1 · Ровно · Языковые модели · C++ · +14 звёзд по замерам 2026-10-29, 00:08–22:13 UTC
   Платформа для обслуживания LLM с KVCache-центричной дезагрегированной архитектурой: разделяет prefill и decode, передаёт KV-кэш между узлами через RDMA. Используется в продакшене Kimi от Moonshot AI.
   Полная карточка: https://gitnova.dev/r/kvcache-ai/Mooncake.md
40. **vllm-project/semantic-router** — 2,1 · Ровно · Языковые модели · Go · +13 звёзд по замерам 2026-10-29, 10:53–22:13 UTC
   Программируемый слой маршрутизации запросов между разными LLM: выбирает или комбинирует модели по сигналам запроса, предпочтениям пользователя и политикам приложения. Помогает управлять качеством, стоимостью, задержкой, приватностью и…
   Полная карточка: https://gitnova.dev/r/vllm-project/semantic-router.md
41. **MemTensor/MemT-1.0** — 2,1 · Остывает · Языковые модели · Python · +16 звёзд по замерам 2026-10-29, 00:09–22:13 UTC
   Семейство моделей с нативной долговременной памятью: динамическая локальная и обучаемая гиперпамять сохраняют историю без обращения к исходному контексту, сокращая хранилище примерно в 66 раз по сравнению с KV-кэшем на 128K.
   Полная карточка: https://gitnova.dev/r/MemTensor/MemT-1.0.md
42. **tesseract-ocr/tesseract** — 2,1 · Ровно · Языковые модели · C++ · +16 звёзд по замерам 2026-10-29, 00:08–22:13 UTC
   Открытый OCR-движок libtesseract и CLI-утилита tesseract для распознавания текста на изображениях. Поддерживает более 100 языков, форматы PNG/JPEG/TIFF и вывод в text, hOCR, PDF, TSV, ALTO.
   Полная карточка: https://gitnova.dev/r/tesseract-ocr/tesseract.md
43. **mudler/LocalAI** — 2,0 · Ровно · Языковые модели · Go · +27 звёзд по замерам 2026-10-29, 00:08–22:13 UTC
   LocalAI — открытый AI-движок, который запускает LLM, vision, голос, изображения и видео на любом железе, включая CPU без GPU, через OpenAI-совместимый API.
   Полная карточка: https://gitnova.dev/r/mudler/LocalAI.md
44. **mistralai/timestral** — 1,9 · Остывает · Языковые модели · Python · +19 звёзд по замерам 2026-10-29, 00:08–22:13 UTC
   Семейство предобученных моделей для вероятностного многомерного прогнозирования временных рядов с поддержкой ковариат. Позволяет делать zero-shot прогнозы на CPU или GPU без обучения.
   Полная карточка: https://gitnova.dev/r/mistralai/timestral.md
45. **google-pytorch/torch_tpu** — 1,9 · Остывает · Языковые модели · C++ · +5 звёзд по замерам 2026-10-29, 00:07–22:13 UTC
   TorchTPU — это бэкенд PyTorch для TPU от Google, позволяющий запускать модели и операции PyTorch на TPU с кастомными ядрами ATen, кэшем компиляции XLA и поддержкой распределённого обучения.
   Полная карточка: https://gitnova.dev/r/google-pytorch/torch_tpu.md
46. **NVIDIA/cutlass** — 1,8 · Ровно · Языковые модели · C++ · +8 звёзд по замерам 2026-10-29, 00:10–22:14 UTC
   CUTLASS — набор CUDA C++ шаблонов и Python DSL (CuTe DSL) для реализации высокопроизводительных операций линейной алгебры, в первую очередь GEMM, на GPU NVIDIA. Проект нужен исследователям и инженерам по производительности, пишущим…
   Полная карточка: https://gitnova.dev/r/NVIDIA/cutlass.md
47. **FareedKhan-dev/kimi-k3-in-c** — 1,8 · Ровно · Языковые модели · C · +13 звёзд по замерам 2026-10-29, 00:09–22:15 UTC
   Инференс-движок на портируемом C99, запускающий 2,78-триллионную модель Kimi K3 на одном CPU в 8,24 ГБ RAM без BLAS, фреймворков и GPU. Модель стримится с диска, объём памяти влияет только на скорость.
   Полная карточка: https://gitnova.dev/r/FareedKhan-dev/kimi-k3-in-c.md
48. **VectifyAI/PageIndex** — 1,8 · Остывает · Языковые модели · Python · +14 звёзд по замерам 2026-10-29, 00:07–22:14 UTC
   Движок RAG без векторной базы: строит иерархический древовидный индекс документа и ищет по нему рассуждениями LLM, как человек по оглавлению. Для длинных профессиональных PDF — финансовых, юридических, технических.
   Полная карточка: https://gitnova.dev/r/VectifyAI/PageIndex.md
49. **microsoft/onnxruntime** — 1,8 · Ровно · Языковые модели · C++ · +2 звезды по замерам 2026-10-29, 00:09–22:14 UTC
   Кроссплатформенный ускоритель инференса и обучения ML-моделей. Запускает модели из PyTorch, TensorFlow, scikit-learn и других через формат ONNX с оптимизацией графа и аппаратным ускорением.
   Полная карточка: https://gitnova.dev/r/microsoft/onnxruntime.md
50. **google-research/kauldron** — 1,7 · Ровно · Языковые модели · Python · +3 звезды по замерам 2026-10-29, 00:05–22:14 UTC
   Модульная библиотека от Google Research для обучения ML-моделей на JAX, ориентированная на скорость исследований и гибкость конфигураций.
   Полная карточка: https://gitnova.dev/r/google-research/kauldron.md
51. **cocoindex-io/cocoindex** — 1,7 · Ровно · Языковые модели · Rust · +9 звёзд по замерам 2026-10-29, 00:10–22:14 UTC
   Инкрементальный движок на Rust для построения и постоянного обновления контекста AI-агентов и RAG-приложений: превращает файлы, PDF, Slack и заметки в живые индексы, пересчитывая только изменения.
   Полная карточка: https://gitnova.dev/r/cocoindex-io/cocoindex.md
52. **mostlygeek/llama-swap** — 1,7 · Ровно · Языковые модели · Go · +9 звёзд по замерам 2026-10-29, 00:10–22:15 UTC
   Прокси-сервер на Go, который запускает несколько локальных моделей и переключает их по требованию, совместим с OpenAI и Anthropic API. Работает с llama.cpp, vllm, stable-diffusion.cpp и другими бэкендами.
   Полная карточка: https://gitnova.dev/r/mostlygeek/llama-swap.md
53. **FlashML-org/FreeToken** — 1,7 · Ровно · Языковые модели · Python · +10 звёзд по замерам 2026-10-29, 00:09–22:15 UTC
   Движок инференса Mixture-of-Experts для запуска крупных открытых MoE-моделей (290B+) на потребительском железе — GPU, CPU и оперативной памяти. Нужен тем, кто хочет гонять фронтирные модели локально.
   Полная карточка: https://gitnova.dev/r/FlashML-org/FreeToken.md
54. **chenglou/handwired** — 1,6 · Остывает · Языковые модели · TypeScript · +11 звёзд по замерам 2026-10-29, 00:09–22:15 UTC
   Преобразует обычный JavaScript-код в дифференцируемую нейросеть: if-else, циклы и состояние компилируются в матричные умножения и ReLU без обучения. Работает на JS или WebGPU.
   Полная карточка: https://gitnova.dev/r/chenglou/handwired.md
55. **drumih/turbo-fieldfare** — 1,6 · Ровно · Языковые модели · Swift · +14 звёзд по замерам 2026-10-29, 00:10–22:15 UTC
   Кастомный рантайм на Swift и Metal для запуска Gemma 4 26B-A4B на Mac с Apple Silicon: держит в памяти ~2 ГБ, а эксперты подгружает с SSD, что позволяет работать даже на 8 ГБ RAM.
   Полная карточка: https://gitnova.dev/r/drumih/turbo-fieldfare.md
56. **cobanov/PS5LM** — 1,6 · Остывает · Языковые модели · C++ · +5 звёзд по замерам 2026-10-29, 00:09–22:15 UTC
   Порт llama.cpp на взломанную PlayStation 5: запускает GGUF-модели прямо на консоли через payload, с браузерной библиотекой моделей и чатом. Пока работают небольшие модели до 1.6 ГБ.
   Полная карточка: https://gitnova.dev/r/cobanov/PS5LM.md
57. **MiaAI-Lab/DeepSeek-v4.1-Flash-1017-2x-DGX-Sparks** — 1,6 · Ровно · Языковые модели · Python · +17 звёзд по замерам 2026-10-29, 00:10–22:15 UTC
   Скрипты для запуска квантованной модели DeepSeek-V4.1-Flash-1017 (EXL3, 2.9 bpw) на паре NVIDIA DGX Sparks через движок TensorFold с OpenAI-совместимым API, окном до 1M токенов и спекулятивным декодированием DSpark.
   Полная карточка: https://gitnova.dev/r/MiaAI-Lab/DeepSeek-v4.1-Flash-1017-2x-DGX-Sparks.md
58. **lemonade-sdk/lemonade** — 1,6 · Ровно · Языковые модели · C++ · +9 звёзд по замерам 2026-10-29, 10:51–22:15 UTC
   Локальный AI-сервер, который запускает оптимизированные LLM, whisper, TTS и генерацию изображений на GPU и NPU пользователя, предоставляя OpenAI-, Anthropic- и Ollama-совместимые API. Доступен как сервис или встраиваемый бинарник для…
   Полная карточка: https://gitnova.dev/r/lemonade-sdk/lemonade.md
59. **NVIDIA/spark-local-inference** — 1,5 · Остывает · Языковые модели · Rust · +3 звезды по замерам 2026-10-29, 00:09–22:15 UTC
   Flare — локальный инференс-сервер для GPU NVIDIA SM120/SM121, рассчитанный на длинные диалоги, кодинг-агентов и повторное использование инструментов. Модели компилируются через PyTorch, а обслуживаются Rust-рантаймом, чтобы эффективнее…
   Полная карточка: https://gitnova.dev/r/NVIDIA/spark-local-inference.md
60. **nace-ai/kapitsa** — 1,5 · Остывает · Языковые модели · C++ · +10 звёзд по замерам 2026-10-29, 00:08–22:15 UTC
   Оптимизированный под Apple Silicon движок инференса для моделей Qwen и Nemotron с OpenAI- и Anthropic-совместимыми API. Запускает локальные LLM на Mac через CLI и веб-чат.
   Полная карточка: https://gitnova.dev/r/nace-ai/kapitsa.md
61. **MoonshotAI/Kimi-K3** — 1,5 · Ровно · Языковые модели · +9 звёзд по замерам 2026-10-29, 00:11–22:15 UTC
   Kimi K3 — открытая мультимодальная агентная языковая модель MoE на 2.8T параметров с контекстом 1M токенов, понимающая текст, изображения и видео. Предназначена для длительного кодинга, агентной работы со знаниями и сложных рассуждений.
   Полная карточка: https://gitnova.dev/r/MoonshotAI/Kimi-K3.md
62. **ml-explore/mlx** — 1,4 · Ровно · Языковые модели · C++ · +6 звёзд по замерам 2026-10-29, 00:08–22:17 UTC
   MLX — фреймворк для массивов и машинного обучения от Apple, оптимизированный под Apple silicon с единой памятью и ленивыми вычислениями. API на Python, C++, C и Swift повторяет NumPy и PyTorch, что упрощает обучение и запуск моделей.
   Полная карточка: https://gitnova.dev/r/ml-explore/mlx.md
63. **routerhubSI/openrouter-alternative** — 1,3 · Тихо · Языковые модели · +0 звёзд по замерам 2026-10-29, 19:09–22:16 UTC
   Шлюз к AI-моделям с одним предоплаченным API-ключом и OpenAI/Anthropic-совместимыми интерфейсами, включая отдельные uncensored и abliterated варианты DeepSeek, GLM и Qwen. Репозиторий — это руководство по миграции с OpenRouter и сравнение…
   Полная карточка: https://gitnova.dev/r/routerhubSI/openrouter-alternative.md
64. **deepseek-ai/FlashMLA** — 1,3 · Ровно · Языковые модели · C++ · +4 звезды по замерам 2026-10-29, 00:09–22:17 UTC
   Библиотека оптимизированных attention-ядер от DeepSeek (sparse и dense) для инференса DeepSeek-V4.1 на NVIDIA GPU и Huawei Ascend NPU с поддержкой FP8/FP4 KV-кэша.
   Полная карточка: https://gitnova.dev/r/deepseek-ai/FlashMLA.md
65. **eagle-hq/EAGLE-4** — 1,2 · Остывает · Языковые модели · Python · +6 звёзд по замерам 2026-10-29, 00:10–22:17 UTC
   Официальный inference-код EAGLE-4: плагин speculative decoding для SGLang, vLLM и TokenSpeed, подстраивающий draft-стратегию под размер батча, железо и нагрузку. Ускоряет инференс LLM вроде Qwen3.8-27B, сохраняя распределение выходов…
   Полная карточка: https://gitnova.dev/r/eagle-hq/EAGLE-4.md
66. **byenzyme/enzyme** — 1,2 · Ровно · Языковые модели · Rust · +3 звезды по замерам 2026-10-29, 00:08–22:17 UTC
   Локальный индексатор Markdown-заметок для кодовых агентов: ранжирует фрагменты по словам и смыслу, работая целиком на вашей машине.
   Полная карточка: https://gitnova.dev/r/byenzyme/enzyme.md
67. **astroautomata/PySR** — 1,2 · Остывает · Языковые модели · Python · +8 звёзд по замерам 2026-10-29, 00:10–22:17 UTC
   PySR — библиотека символьной регрессии на Python и Julia: ищет интерпретируемые аналитические формулы, оптимально описывающие данные, вместо чёрного ящика нейросети.
   Полная карточка: https://gitnova.dev/r/astroautomata/PySR.md
68. **recursive-oss/rec** — 1,1 · Остывает · Языковые модели · Python · +5 звёзд по замерам 2026-10-29, 00:10–22:17 UTC
   Локальный inference-движок для языковых моделей Recursive, оптимизированный под Apple Silicon и работающий быстрее llama.cpp. Запускает модель на вашей машине и отдаёт OpenAI-совместимый API для подключения клиентов.
   Полная карточка: https://gitnova.dev/r/recursive-oss/rec.md
69. **openvinotoolkit/openvino** — 1,1 · Ровно · Языковые модели · C++ · +3 звезды по замерам 2026-10-29, 00:10–22:17 UTC
   OpenVINO — открытый тулкит для оптимизации и развёртывания инференса моделей глубокого обучения на CPU, GPU и NPU Intel. Поддерживает модели из PyTorch, TensorFlow, ONNX, Keras, PaddlePaddle, JAX/Flax и Hugging Face с API на C++, Python,…
   Полная карточка: https://gitnova.dev/r/openvinotoolkit/openvino.md
70. **deepseek-ai/DeepSpec** — 1,0 · Ровно · Языковые модели · Python · +7 звёзд по замерам 2026-10-29, 00:11–22:17 UTC
   Полный пайплайн для обучения и оценки draft-моделей speculative decoding: подготовка данных, обучение против кэша target-модели и замер acceptance на бенчмарках. Поддерживает алгоритмы DSpark, DFlash и Eagle3.
   Полная карточка: https://gitnova.dev/r/deepseek-ai/DeepSpec.md
71. **mizorewww/laya-mlx** — 0,9 · Ровно · Языковые модели · Python · +2 звезды по замерам 2026-10-29, 00:11–22:18 UTC
   Нативный MLX-рантайм для типизированных решающих моделей Laya: возвращает вероятности выбора, оценки или истинности без генерации текста, работает локально на Apple Silicon.
   Полная карточка: https://gitnova.dev/r/mizorewww/laya-mlx.md
72. **BaruqueRodrigues/llm-legislativo** — 0,9 · Остывает · Языковые модели · Python · +1 звезда по замерам 2026-10-29, 00:11–22:18 UTC
   Крупномасштабный корпус бразильских законодательных документов и причинная Transformer-модель, обученная с нуля на чистом PyTorch без предобученных весов и внешних API.
   Полная карточка: https://gitnova.dev/r/BaruqueRodrigues/llm-legislativo.md
73. **ValerioDolci/capy-flash** — 0,9 · Ровно · Языковые модели · C++ · +4 звезды по замерам 2026-10-29, 00:11–22:18 UTC
   Инференс-движок на C++ для запуска большой MoE-модели Qwen3.8-Flash-Next (125B) в NVFP4 на двух потребительских GPU по 16 ГБ: эксперты выгружаются в RAM и считаются на CPU, остальное идёт tensor parallel. Также обслуживает плотную…
   Полная карточка: https://gitnova.dev/r/ValerioDolci/capy-flash.md
74. **h563k/chat-keeper** — 0,9 · Остывает · Языковые модели · CSS · +1 звезда по замерам 2026-10-29, 00:11–22:18 UTC
   Третья сторона предоставляет зеркало веб-интерфейса Claude и API-доступ к Claude, Gemini и OpenAI с прямым подключением из Китая без VPN. Репозиторий служит в основном витриной и точкой входа для платного сервиса.
   Полная карточка: https://gitnova.dev/r/h563k/chat-keeper.md
75. **justxor/deepseek-local-guide-ru** — 0,8 · Ровно · Языковые модели · Shell · +4 звезды по замерам 2026-10-29, 00:11–22:18 UTC
   Гайд на русском по локальному запуску моделей DeepSeek (R1, V4) на ПК, Mac и сервере: Ollama, llama.cpp, LM Studio, vLLM, Open WebUI, API, RAG, агенты и fine-tuning.
   Полная карточка: https://gitnova.dev/r/justxor/deepseek-local-guide-ru.md
76. **apple-aiml-research/ml-rsi-inference-bench** — 0,7 · Ровно · Языковые модели · Python · +1 звезда по замерам 2026-10-29, 00:11–22:18 UTC
   Бенчмарк для оценки кодинг-агентов, которые оптимизируют и чинят стек инференса LLM в реальных движках vLLM и SGLang на настоящих GPU. Агент выполняет задачи на живом движке, а результат оценивается запуском собранного кода.
   Полная карточка: https://gitnova.dev/r/apple-aiml-research/ml-rsi-inference-bench.md
77. **deepopen-com/deepopen** — 0,5 · Остывает · Языковые модели · Python · +5 звёзд по замерам 2026-10-29, 00:12–22:18 UTC · звёзды растут нетипично (эвристика)
   Открытый неавторегрессионный движок принятия решений (System 1) для структурированных типовых задач: за один forward pass выдаёт типизированные ответы (choice, score, noul) на 100+ языках без генерации текста. Подходит для классификации,…
   Полная карточка: https://gitnova.dev/r/deepopen-com/deepopen.md
78. **KohakuBlueleaf/KohakuMossTrainer** — 0,5 · Ровно · Языковые модели · Python · +0 звёзд по замерам 2026-10-29, 00:11–22:18 UTC
   Фреймворк для дообучения MOSS-Image: все алгоритмы LyCORIS и полный файнтюн на текстово-изображенческих данных в нативном разрешении, плюс инференс, на Windows и Linux от 6 ГБ видеопамяти до мульти-GPU.
   Полная карточка: https://gitnova.dev/r/KohakuBlueleaf/KohakuMossTrainer.md
79. **Taichu-AI/ZDTaichu5.0-9B** — 0,5 · Ровно · Языковые модели · Python · +1 звезда по замерам 2026-10-29, 00:12–22:18 UTC · звёзды растут нетипично (эвристика)
   Мультимодальная фундаментальная модель ZDTaichu5.0-9B на базе Qwen3.5-9B и C-RADIOv4-H для понимания изображений, видео, пространственного и embodied-рассуждения, а также агентных задач.
   Полная карточка: https://gitnova.dev/r/Taichu-AI/ZDTaichu5.0-9B.md
80. **7API/glm-5.3-abliterated** — 0,4 · Остывает · Языковые модели · +2 звезды по замерам 2026-10-29, 00:12–22:19 UTC
   Гайд и набор промптов для abliterated/uncensored моделей GLM 5.3: 35 jailbreak-промптов и доступ через один OpenAI- и Anthropic-совместимый ключ 7API.
   Полная карточка: https://gitnova.dev/r/7API/glm-5.3-abliterated.md
81. **strot-ai/STROT-Compiler** — 0,4 · Ровно · Языковые модели · Python · +0 звёзд по замерам 2026-10-29, 00:12–22:19 UTC
   STROT компилирует заданное на естественном языке намерение в замороженный локальный Python-артефакт, который классифицирует, оценивает или маршрутизирует записи без обращения к LLM во время выполнения. Проект для команд, которым нужны…
   Полная карточка: https://gitnova.dev/r/strot-ai/STROT-Compiler.md
82. **heterodoxin/AbliteratedOutTheBox** — 0,4 · Остывает · Языковые модели · C++ · +0 звёзд по замерам 2026-10-29, 00:11–22:19 UTC
   Форк llama.cpp, который выполняет abliteration во время инференса: читает направления отказа прямо из промпта и снимает их в графе, не меняя веса на диске. Позволяет запускать любую поддерживаемую модель без дообучения и дополнительных…
   Полная карточка: https://gitnova.dev/r/heterodoxin/AbliteratedOutTheBox.md
83. **NineAbyss/OR-License** — 0,2 · Тихо · Языковые модели · Python · +0 звёзд по замерам 2026-10-29, 00:12–22:19 UTC
   Бенчмарк из 31 задачи для оценки LLM-агентов в роли специалистов по исследованию операций: агент сам запрашивает данные, пишет оптимизационную программу в изолированной среде и сдаёт решение.
   Полная карточка: https://gitnova.dev/r/NineAbyss/OR-License.md
84. **composo-ai/DishwasherBench** — 0,1 · Тихо · Языковые модели · TypeScript · +0 звёзд по замерам 2026-10-29, 00:12–22:19 UTC
   Браузерная игра по загрузке посудомоечной машины на физической симуляции реальной модели Bosch, созданная для бенчмарка языковых моделей. Игрок загружает посуду, запускает программу Eco 50 и получает баллы за чистые предметы.
   Полная карточка: https://gitnova.dev/r/composo-ai/DishwasherBench.md
85. **rockmatrix-ai/EdgeRock** — 0,0 · Тихо · Языковые модели · Python · Недостаточно замеров за сегодня
   YANchor-4B — рекуррентная языковая модель общего назначения на 4.58B параметров, которая хранит ключевую информацию как «якоря» памяти и обеспечивает длинные рассуждения за O(N) времени и O(1) памяти. Репозиторий содержит код инференса и…
   Полная карточка: https://gitnova.dev/r/rockmatrix-ai/EdgeRock.md
86. **cdcailf/cjkfold** — 0,0 · Ровно · Языковые модели · Python · Недостаточно замеров за сегодня
   Python-библиотека, которая сворачивает похожие CJK-глифы (Kangxi radicals и CJK radical supplements) обратно в те иероглифы, которыми они отображаются, чтобы текст из PDF снова совпадал при поиске и сравнении. Без зависимостей, чистые…
   Полная карточка: https://gitnova.dev/r/cdcailf/cjkfold.md
87. **Augmented-Nature/BioOntology-MCP-Server** — 0,0 · Тихо · Языковые модели · JavaScript · Недостаточно замеров за сегодня
   Неофициальный MCP-сервер для доступа к BioOntology API: поиск, аннотирование и изучение более 1200 биологических онтологий. Нужен для интеграции биомедицинских онтологий в MCP-совместимые клиенты вроде Claude Desktop.
   Полная карточка: https://gitnova.dev/r/Augmented-Nature/BioOntology-MCP-Server.md
88. **7API/uncensored-ai-api** — 0,0 · Остывает · Языковые модели · Недостаточно замеров за сегодня · звёзды растут нетипично (эвристика)
   Шлюз с одним API-ключом к Claude, GPT, Gemini, Grok, DeepSeek, GLM и Kimi, включая uncensored и abliterated варианты. Совместим с OpenAI и Anthropic SDK, оплата за токены.
   Полная карточка: https://gitnova.dev/r/7API/uncensored-ai-api.md
89. **JackWang666666/my-rag** — 0,0 · Ровно · Языковые модели · Java · Недостаточно замеров за сегодня
   Система базы знаний на основе RAG: фронтенд на Next.js и два равноценных бэкенда (FastAPI/LangChain и Spring Boot/Spring AI), использующих общие Milvus, Neo4j и SQLite.
   Полная карточка: https://gitnova.dev/r/JackWang666666/my-rag.md
90. **routerhubSI/uncensored-ai-api** — 0,0 · Остывает · Языковые модели · +0 звёзд по замерам 2026-10-29, 00:13–22:19 UTC
   Шлюз к API и моделям ИИ (Claude, GPT, Gemini, Grok, DeepSeek, GLM, Qwen) с одним ключом, OpenAI- и Anthropic-совместимый, с uncensored и abliterated вариантами и оплатой за токены.
   Полная карточка: https://gitnova.dev/r/routerhubSI/uncensored-ai-api.md
91. **martina9516/uncensored-ai-models** — 0,0 · Остывает · Языковые модели · Недостаточно замеров за сегодня
   Шлюз с одним API-ключом для доступа к Claude, GPT, Gemini, Grok, DeepSeek, GLM и Qwen, включая uncensored и abliterated варианты. Совместим с OpenAI и Anthropic SDK, оплата по токенам.
   Полная карточка: https://gitnova.dev/r/martina9516/uncensored-ai-models.md

Для агентов: https://gitnova.dev/llms.txt · поиск: https://gitnova.dev/api/v1/search?q=…&lang=ru · MCP: https://gitnova.dev/mcp · любая страница в Markdown — добавьте к адресу .md