PrismML-Eng/Bonsai-demo
Bonsai Demo
О проекте
Демо-набор скриптов для локального запуска тернарной модели Bonsai 2 27B (5.9 ГБ) через форк llama.cpp или MLX: чат, зрение, вызов инструментов и контекст 262K на ноутбуке или одной GPU.
Чем пригодится
- Запустить локальный чат с Bonsai 2 27B на Mac или Linux одной командой setup.sh
- Отправить модели скриншот или PDF и задать вопрос по содержимому
- Подключить MCP-серверы и OpenAI-style tool_calls для агентных сценариев
Пересказ README моделью DeepSeek V4.1 Flash. Может ошибаться в деталях.
Почему он в тренде
- Сегодня уже 9 звёзд, к концу дня ожидается около 18.
- Интерес спадает: темп за двое суток — 25% от уровня предыдущих полутора недель.
- GitHub Trending за неделю: #16, +243 звезды.
Звёзды по дням
Столбики — звёзды за день, линия — обычный темп. Красным — дни всплесков.
Цифры
- Всего звёзд
- 3 194
- Сегодня
- 9 · к вечеру ≈ 18
- Форков
- 347
- Issues и pull requests
- 245
- Наблюдателей
- 30
- Язык
- Shell
- Лицензия
- Apache-2.0
- Создан
- 25 марта 2026
- Последний коммит
- 28 сентября 2026
Доверие к звёздам
Рост выглядит естественно: форков и обсуждений столько, сколько бывает у живых проектов, а звёзды приходят неровно, как от людей.
Это эвристики, а не приговор: судим по поведению репозитория, а не по списку звездивших.
Где замечен
- 29 сентября 2026GitHub Trending за неделю: #16, +243 звезды
Ещё в этой категории
-
8,2
firelex/jeff
Небольшие дообученные модели Qwen3.5 и Gemma 4 для zero-shot классификации: по описанию ситуации и списку вариантов возвращают калиброванную вероятность для каждого варианта за один forward pass.
-
7,4
VectifyAI/PageIndex
Движок RAG без векторной базы: строит иерархический древовидный индекс документа и ищет по нему рассуждениями LLM, как человек по оглавлению. Для длинных профессиональных PDF — финансовых, юридических, технических.
-
7,2
Niko1221/Strata
Локальный движок инференса на C++, запускающий 125B MoE-модель Qwen3.8-Flash-Next на обычном ПК с одной NVIDIA GPU (12–24 ГБ) и 64 ГБ RAM, с OpenAI/Anthropic-совместимым API на localhost.
-
5,6
ollaya-dev/ollaya
Локальный рантайм для decision-моделей: скачивает и обслуживает модели классификации и маршрутизации через API, совместимый с TypeSafe. Аналог Ollama, но для моделей, возвращающих вероятности, а не текст.
-
5,3
PostHog/jeeves
Jeeves — это reasoning-модель на базе Qwen3.5-9B (LoRA + pointer head), обученная через SFT и CISPO, которая перед ответом рассуждает и выдаёт калиброванные вероятности для yes/no, multiple-choice и rating вопросов…
-
4,9
deepfates/imp
Порт DSPy на BEAM: декларативные LM-программы на Elixir с сигнатурами, оптимизаторами и агентами, работающими как OTP-процессы.