incoai/splash
A local inference engine for Apple silicon, built around the model.
О проекте
Локальный движок инференса LLM для Apple silicon, оптимизированный под конкретные модели: обслуживает OpenAI- и Anthropic-совместимые API для кодинг-агентов на одном Mac.
Чем пригодится
- Запустить локальный сервер Qwen3.8-27B и подключить к нему coding-агент через splash opencode
- Отправить запрос к /v1/chat/completions из скрипта, используя OpenAI-совместимый API
- Ограничить потребление памяти Metal флагом --max-memory при нехватке unified memory
Пересказ README моделью DeepSeek V4.1 Flash. Может ошибаться в деталях.
Почему он в тренде
- Сегодня уже 0 звёзд, к концу дня ожидается около 55.
- Всплеск держится 2 дня подряд — это не случайный выброс.
- Репозиторию 1 день, а у него уже 77 звёзд.
- Топ новых репозиториев за неделю: #141.
Звёзды по дням
Столбики — звёзды за день, линия — обычный темп. Красным — дни всплесков.
Цифры
- Всего звёзд
- 77
- Звёзд за сутки
- 55
- Форков
- 3
- Issues и pull requests
- 3
- Наблюдателей
- 2
- Язык
- Python
- Лицензия
- Apache-2.0
- Последний релиз
- 1.0 · 18 сентября 2026
- Создан
- 18 сентября 2026
- Последний коммит
- 19 сентября 2026
Доверие к звёздам
Рост выглядит естественно: форков и обсуждений столько, сколько бывает у живых проектов, а звёзды приходят неровно, как от людей.
Это эвристики, а не приговор: судим по поведению репозитория, а не по списку звездивших.
Где замечен
- 19 сентября 2026Топ новых репозиториев за неделю: #141
Похожие проекты
-
8,0
TheoLeeCJ/SemIf
Открытая реализация интерфейса семантических решений в стиле Jev: читает вероятности типизированных опций напрямую из логитов 4B-модели без генерации текста. Работает на одной RTX 3090.
-
6,9
TianyuCodings/NanoJev
Реплика модели Jev на базе Qwen3-0.6B: выдаёт распределения вероятностей по кандидатам за один forward-проход без декодирования токенов, с пайплайном обучения и демо на играх (лабиринт, Snake).
-
6,7
Continuum-AI-Corp/OrcaBonsai-27B-Uncensored
Инструмент для отключения отказов у сжатой LLM Ternary Bonsai 2 27B во время инференса: проекция residual-потока убирает направление отказа без изменения или переквантования весов. Работает на Apple Silicon через MLX.
-
6,0
jaredpalmer/kev
kev — LoRA-адаптер с небольшим readout-хедом на базе Qwen2.5-0.5B, который за один forward pass отвечает на множество типизированных вопросов по документу, выдавая калиброванные вероятности вместо текста.
-
5,4
vinnylarouge/jevlike
Небольшая обучаемая модель, выбирающая один вариант из меняющегося списка текстовых опций за один проход — открытая альтернатива коммерческой Jev от TypeSafe. Для разработчиков, кому нужна быстрая классификация или…
-
5,4
zhengkid/Dream-RSI
Исследовательский проект о рекурсивном самоулучшении: история прошлых циклов поиска превращается в replay-симулятор, по которому оценивают и улучшают стратегии исследования. Код ещё готовится к публикации, доступны…