Mesh-LLM/mesh-llm
Distributed AI/LLM for the people. Share compute privately or publicly to power your agents and chat.
О проекте
Децентрализованная система для запуска LLM: объединяет GPU и память нескольких машин и предоставляет OpenAI-совместимый API на localhost:9337. Модель может выполняться локально, маршрутизироваться на пир или делиться на слои между узлами.
Чем пригодится
- Запустить публичный mesh одной командой mesh-llm serve --auto и получить локальный OpenAI API
- Поднять приватный mesh по invite-токену и обслуживать модель Qwen3-8B для своей команды
- Развернуть большую dense-модель через Skippy stage splits, разбив слои между несколькими машинами
Пересказ README моделью DeepSeek V4.1 Flash. Может ошибаться в деталях.
Почему он в тренде
- Сегодня уже 1 звезда, к концу дня ожидается около 3.
- GitHub Trending Rust за день: #13, +4 звезды.
- Среди свежих форков — заметные разработчики: @benthecarman (580 подп.).
Звёзды по дням
Столбики — звёзды за день, линия — обычный темп. Красным — дни всплесков.
Цифры
- Всего звёзд
- 3 447
- Сегодня
- 1 · к вечеру ≈ 3
- Форков
- 420
- Issues и pull requests
- 1 976
- Наблюдателей
- 17
- Язык
- Rust
- Лицензия
- Apache-2.0
- Последний релиз
- v0.76.2 · 14 сентября 2026
- Создан
- 11 февраля 2026
- Последний коммит
- 24 сентября 2026
Доверие к звёздам
Рост выглядит естественно: форков и обсуждений столько, сколько бывает у живых проектов, а звёзды приходят неровно, как от людей.
Это эвристики, а не приговор: судим по поведению репозитория, а не по списку звездивших.
Где замечен
- 24 сентября 2026GitHub Trending Rust за день: #13, +4 звезды
Ещё в этой категории
-
8,0
jaredpalmer/kev
kev — LoRA-адаптер с небольшим readout-хедом на базе Qwen2.5-0.5B, который за один forward pass отвечает на множество типизированных вопросов по документу, выдавая калиброванные вероятности вместо текста.
-
6,2
deepopen-com/deepopen
Открытый неавторегрессионный движок принятия решений (System 1) для структурированных типовых задач: за один forward pass выдаёт типизированные ответы (choice, score, noul) на 100+ языках без генерации текста. Подходит…
-
6,0
taeold/djev-run
Развёртывание модели DiffusionGemma-Jev (djev) на Google Cloud Run с GPU NVIDIA RTX PRO 6000 и API, совместимым с TypeSafe AI. Включает демо Snake, Dino и Tetris, работающие прямо в браузере.
-
5,9
nokia-applied-research/AnyJev
Превращает любую LLM в модель принятия решений с типизированными вопросами (выбор, да/нет, оценка), возвращающую реальные вероятности из распределения следующего токена, без обучения. L0 убирает позиционное и априорное…
-
5,5
mizorewww/laya-mlx
Нативный MLX-рантайм для типизированных решающих моделей Laya: возвращает вероятности выбора, оценки или истинности без генерации текста, работает локально на Apple Silicon.
-
4,9
volotat/mini-AGI
Байтовая языковая модель непрерывного обучения, которая сама собирает архитектуру, тренируется с нуля на одной GPU с 8 ГБ VRAM и продолжает учиться на всём, что читает. Эксперимент, показывающий, что continual learning…