Себастьян Рашка открыл бесплатный курс по созданию reasoning-моделей на базе Qwen3-0.6B.
Себастьян Рашка выпустил полностью бесплатный курс и открыл исходный код всех материалов. На примере небольшой модели Qwen3-0.6B он показывает, как на самом деле обучаются reasoning-модели и из каких этапов складывается этот процесс.
В ходе курса можно разобраться, как:
- научить модель искать разные пути решения одной задачи;
- автоматически проверять правильность полученных ответов;
- улучшать её поведение с помощью обучения по вознаграждению и GRPO;
- наблюдать за тем, как модель порой находит способы обойти саму систему вознаграждений;
- обучать более компактную модель на данных рассуждений DeepSeek-R1.
Весь код можно запускать самостоятельно, наблюдая за ходом обучения и постепенно замечая, как меняется поведение модели. Начинать с нуля не придётся: в качестве исходной точки используется уже готовая небольшая модель, а не фундаментальная модель, которую пришлось бы обучать с нуля.
Если давно хотелось понять, как устроены модели вроде DeepSeek-R1, этот курс даёт редкую возможность не просто прочитать об этом, а пройти весь путь собственными руками.
Ещё новости:
