# FareedKhan-dev/train-llm-from-scratch > Учебный проект: реализация Transformer с нуля на PyTorch и полный пайплайн обучения LLM — от сырого текста до SFT, reward model, PPO/DPO/GRPO и чата, без transformers, trl и peft. - Магнитуда: 1,4 из 10 — Остывает - Звёзды: 11 931 всего · +3 звезды за 2026-10-03 (UTC), к вечеру ≈ 11 - Доверие к звёздам: рост звёзд выглядит естественно - Категория: Языковые модели · Язык: Python · Лицензия: MIT · Создан: 2025-01-12 · Последний коммит: 2026-10-02 - GitHub: https://github.com/FareedKhan-dev/train-llm-from-scratch · Сайт: https://fareedkhan-dev.github.io/train-llm-from-scratch/ · Страница: https://gitnova.dev/r/FareedKhan-dev/train-llm-from-scratch ## Чем пригодится - Обучить небольшой LLM на одном GPU по шагам из README - Разобрать устройство attention и Transformer по исходникам - Проверить этапы post-training: SFT, reward model, DPO, PPO, GRPO ## Как начать ```sh git clone https://github.com/FareedKhan-dev/train-llm-from-scratch.git cd train-llm-from-scratch pip install -e . ``` Дословно из раздела README «setup». GitNova эти команды не запускал: перед запуском сверьте с оригиналом: https://github.com/FareedKhan-dev/train-llm-from-scratch#readme ## Почему он здесь - Сегодня уже 3 звезды, к концу дня ожидается около 11. - Интерес спадает: темп за двое суток — 9% от уровня предыдущих полутора недель. ## Доверие к звёздам Рост звёзд выглядит естественно. Метки доверия к звёздам — эвристики по поведению репозитория, а не проверка каждого, кто поставил звезду. ## Цифры - Форков: 1 642 - Issues и pull requests: 41 - Наблюдателей: 87 - В среднем за неделю: 96 в день - Обычный темп: 104 в день ## Звёзды по дням за 30 дней (от старых к новым, сегодня — неполный день) 2026-10-18 … 2026-11-16: None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None, None ## Магнитуда по дням за 14 дней 09-20 6,8, 09-21 7,1, 09-22 6,3, 09-23 4,1, 09-24 2,7, 09-25 3,7, 09-26 3,7, 09-27 3,5, 09-28 3,7, 09-29 3,6, 09-30 3,1, 10-01 2,3, 10-02 1,9, 10-03 1,5 --- Магнитуда (0–10) — насколько быстро и необычно сейчас растёт интерес к репозиторию. Это не оценка качества. Дни — по UTC. «Уже сегодня» — факт, «к вечеру ≈» — прогноз. Описания и сценарии пишет модель (DeepSeek V4.1 Flash) по README, в деталях возможны ошибки: конкретные утверждения (замеры, скорость, железо) проверяйте в самом репозитории. Данные на 2026-10-03 10:57 UTC, обновление каждые 30 минут.