GitNova

Сейсмограф GitHub — находки и рост интереса

FareedKhan-dev/train-llm-from-scratch

Языковые моделиPython#gemini#large-language-models#llm#openai#training
Всего звёзд
11 931
Сегодня
+3
Открыть на GitHub Мои находки →
Другие действия

A straightforward method for training your LLM, from downloading data to generating text.

Сохрани в «Мои находки», чтобы следить за релизами и ростом звёзд. Сохраняется в этом браузере.

О проекте

Учебный проект: реализация Transformer с нуля на PyTorch и полный пайплайн обучения LLM — от сырого текста до SFT, reward model, PPO/DPO/GRPO и чата, без transformers, trl и peft.

Чем пригодится
  • Обучить небольшой LLM на одном GPU по шагам из README
  • Разобрать устройство attention и Transformer по исходникам
  • Проверить этапы post-training: SFT, reward model, DPO, PPO, GRPO

Пересказ README моделью DeepSeek V4.1 Flash. Может ошибаться в деталях. Оригинал README →

Как начать

git clone https://github.com/FareedKhan-dev/train-llm-from-scratch.git
cd train-llm-from-scratch
pip install -e .

Дословно из раздела README «setup». GitNova эти команды не запускал: перед запуском сверьте с оригиналом. Полная инструкция →

1,4 Остывает Магнитуда из 10 — скорость роста интереса, а не оценка качества.

Рост звёзд выглядит естественно. Данные на 3 октября 2026, 10:57 UTC.

Оценка роста звёзд не подтверждает безопасность запуска.

Звёзды по дням

030060019 августа 202616 ноября 2026

Столбики — звёзды за день UTC; линия — скользящее среднее доступной истории. Пропуски означают отсутствие данных, а не нулевой рост. Сегодняшний столбик неполный. Красным — дни всплесков.

Почему он в тренде

  • Сегодня уже 3 звезды, к концу дня ожидается около 11.
  • Интерес спадает: темп за двое суток — 9% от уровня предыдущих полутора недель.

Замеры роста: последние 7 полных дней

Нет данных за все 7 дней: недельный итог и сравнение не рассчитываются.

Замеры по дням · UTC
9 ноября 2026
—
10 ноября 2026
—
11 ноября 2026
—
12 ноября 2026
—
13 ноября 2026
—
14 ноября 2026
—
15 ноября 2026
—

Полные дни — из истории звёзд GitHub; сегодня и прогнозы исключены из сравнения. История проверена: 3 октября 2026, 10:56 UTC. Источники и ограничения замеров →

Три GitHub-находки в каждом выпуске

Что делают, почему набирают интерес и что проверить перед использованием.

Выпуски в 10:00, 16:00, 22:00 МСК.

Поделиться в X Telegram

Цифры

Всего звёзд
11 931
Сегодня
+3 звезды за 2026-10-03 (UTC), к вечеру ≈ 11
Форков
1 642
Issues и pull requests
41
Наблюдателей
87
Язык
Python
Лицензия
MIT
Создан
12 января 2025
Последний коммит
2 октября 2026

Доверие к звёздам

Рост выглядит естественно: форков и обсуждений столько, сколько бывает у живых проектов, а звёзды приходят неровно, как от людей.

Это эвристики, а не приговор: судим по поведению репозитория, а не по списку звездивших.

Где замечен
Бейдж для README

Вставьте в README — бейдж сам показывает свежую магнитуду и ведёт на эту страницу.

GitNova: 1,4
[![GitNova](https://gitnova.dev/badge/FareedKhan-dev/train-llm-from-scratch.svg)](https://gitnova.dev/r/FareedKhan-dev/train-llm-from-scratch)