magnitudedev/magnitude
Open source inference engine optimized for consumer hardware. Profiles your machine, recommends the best models for it, then downloads, tunes, and runs them. Works on Apple Silicon, NVIDIA, AMD, or nothing but a CPU.
О проекте
Открытый inference-движок для потребительского железа: профилирует машину, подбирает лучшие локальные модели, скачивает, настраивает и запускает их, а также подключает вашего агента в один клик.
Чем пригодится
- Узнать, какие локальные модели потянет ваше железо, через профилирование до скачивания
- Скачать и запустить рекомендованную модель офлайн и подключить Claude Code или Cline в один клик
- Сравнить ожидаемые tok/s у моделей и квантизаций, чтобы выбрать самую быструю по объёму памяти
Пересказ README моделью DeepSeek V4.1 Flash. Может ошибаться в деталях.
Почему он в тренде
- Сегодня уже 9 звёзд, к концу дня ожидается около 18.
- Интерес спадает: темп за двое суток — 35% от уровня предыдущих полутора недель.
- GitHub Trending за месяц: #12, +3 298 звёзд.
Звёзды по дням
Столбики — звёзды за день, линия — обычный темп. Красным — дни всплесков.
Цифры
- Всего звёзд
- 4 740
- Звёзд за сутки
- 18
- Форков
- 367
- Issues и pull requests
- 117
- Наблюдателей
- 20
- Язык
- TypeScript
- Лицензия
- Apache-2.0
- Последний релиз
- @magnitudedev/[email protected] · 18 сентября 2026
- Создан
- 12 июня 2026
- Последний коммит
- 20 сентября 2026
Доверие к звёздам
Рост выглядит естественно: форков и обсуждений столько, сколько бывает у живых проектов, а звёзды приходят неровно, как от людей.
Это эвристики, а не приговор: судим по поведению репозитория, а не по списку звездивших.
Где замечен
- 21 сентября 2026GitHub Trending за месяц: #12, +3 298 звёзд
Похожие проекты
-
9,1
mizorewww/laya-mlx
Нативный MLX-рантайм для типизированных решающих моделей Laya: возвращает вероятности выбора, оценки или истинности без генерации текста, работает локально на Apple Silicon.
-
8,3
jaredpalmer/kev
kev — LoRA-адаптер с небольшим readout-хедом на базе Qwen2.5-0.5B, который за один forward pass отвечает на множество типизированных вопросов по документу, выдавая калиброванные вероятности вместо текста.
-
7,2
mizorewww/laya-coreml
Локальный порт модели Laya на Apple Core ML и Neural Engine: возвращает типизированные решения (выбор, оценка, да/нет) без генерации токенов, с бенчмарками скорости и энергопотребления.
-
7,2
bespokelabsai/nimble
Nimble — модель и рецепт обучения для быстрых типизированных решений по тексту: по схеме из enum- и boolean-полей она выбирает ответ и возвращает вероятности каждого варианта. Нужна для маршрутизации, проверки условий…
-
7,1
TheoLeeCJ/SemIf
Открытая реализация интерфейса семантических решений в стиле Jev: читает вероятности типизированных опций напрямую из логитов 4B-модели без генерации текста. Работает на одной RTX 3090.
-
7,0
FareedKhan-dev/train-llm-from-scratch
Учебный проект: реализация Transformer с нуля на PyTorch и полный пайплайн обучения LLM — от сырого текста до SFT, reward model, PPO/DPO/GRPO и чата, без transformers, trl и peft.