Tencent-Hunyuan/Simple-Attention-Sparsification
- Всего звёзд
- 60
- Сегодня
- +0
Другие действия
Code for our resarch paper "SAS: Simple Attention Sparsification via End-to-End Optimization of Context Ranking"
Сохрани в «Мои находки», чтобы следить за релизами и ростом звёзд. Сохраняется в этом браузере.
О проекте
SAS — механизм разреженного внимания с обучаемыми гейтами: для каждого запроса выбираются блоки контекста, а ранжирование оптимизируется end-to-end по лоссу языковой модели. Репозиторий содержит код обучения и оценки из статьи.
Чем пригодится
- Обучить разреженное внимание на Qwen3-4B/8B/14B с датасетом OpenR1-Math-220k
- Оценить модель на MATH, GPQA-Diamond, AIME24/25 и LongBench-E через sglang-blocksparse
- Прогнать бенчмарки function-calling BFCL и tool-use VitaBench с разреженным вниманием
Пересказ README моделью DeepSeek V4.1 Flash. Может ошибаться в деталях. Оригинал README →
Рост звёзд выглядит естественно. Данные на 26 сентября 2026, 10:16 UTC.
Оценка роста звёзд не подтверждает безопасность запуска.
Звёзды по дням
Столбики — звёзды за день UTC; линия — скользящее среднее доступной истории. Пропуски означают отсутствие данных, а не нулевой рост. Сегодняшний столбик неполный. Красным — дни всплесков.
Почему он в тренде
- Репозиторию 16 дней, а у него уже 60 звёзд.
Замеры роста: последние 7 полных дней
Нет данных за все 7 дней: недельный итог и сравнение не рассчитываются.
Замеры по дням · UTC
- 26 октября 2026
- —
- 27 октября 2026
- —
- 28 октября 2026
- —
- 29 октября 2026
- —
- 30 октября 2026
- —
- 31 октября 2026
- —
- 1 ноября 2026
- —
Полные дни — из истории звёзд GitHub; сегодня и прогнозы исключены из сравнения. История проверена: 21 сентября 2026, 00:18 UTC. Источники и ограничения замеров →
Три GitHub-находки в каждом выпуске
Что делают, почему набирают интерес и что проверить перед использованием.
Выпуски в 10:00, 16:00, 22:00 МСК.
Цифры
- Всего звёзд
- 60
- Сегодня
- +0 звёзд за 2026-09-26 (UTC), к вечеру ≈ 0
- Форков
- 1
- Issues и pull requests
- 0
- Наблюдателей
- 0
- Язык
- Python
- Создан
- 10 сентября 2026
- Последний коммит
- 14 сентября 2026
Доверие к звёздам
Рост выглядит естественно: форков и обсуждений столько, сколько бывает у живых проектов, а звёзды приходят неровно, как от людей.
Это эвристики, а не приговор: судим по поведению репозитория, а не по списку звездивших.
Где замечен
- 16 сентября 2026Топ новых репозиториев за неделю: #184
Бейдж для README
Вставьте в README — бейдж сам показывает свежую магнитуду и ведёт на эту страницу.
[](https://gitnova.dev/r/Tencent-Hunyuan/Simple-Attention-Sparsification)