Sebastian Raschka's from-scratch video course on building reasoning models

무엇을 공개했나

Sebastian Raschka는 뉴스레터 Ahead of AI에서 추론 모델을 꾸준히 다뤄 왔어요. 이번에는 책 『Build a Reasoning Model (From Scratch)』에 맞춘 영상 8편, 11시간 넘는 코딩 강의를 공개했어요.

• 사전학습된 LLM에서 시작해 평가, 추론 시점 스케일링(inference-time scaling), 강화학습, 증류를 Python과 PyTorch로 직접 구현해요.
• 작년 강의 "Coding LLMs from the Ground Up"의 속편 격이지만, 이전 강의 없이 봐도 된대요.
• 저자는 잠깐 쉬었다가 다음 달 LLM 연구 정리 글로 돌아오겠대요.

추론 모델, LLM, 에이전트의 관계

저자는 자주 받는 질문이라며 관계를 짧게 정리했어요.

• 추론 모델은 일반 LLM에 검증 가능한 보상을 쓰는 강화학습 같은 사후학습(그리고 선택적으로 추론 시점 스케일링)을 더해 어려운 문제를 더 잘 풀게 만든 모델이에요. 주로 수학과 코드용으로 만들지만 다른 영역으로도 일반화될 수 있대요.
• 에이전트 하네스는 그 모델을 둘러싼 소프트웨어 틀로, 맥락 관리와 도구 접근을 맡아요.
• 비유하면 모델은 엔진, 하네스는 엔진을 여러 용도로 쓰게 해 주는 기계 장치예요. 요즘 LLM은 대부분 추론 강도를 조절할 수 있는 추론 모델이라, 에이전트를 이해하려면 여전히 추론 모델을 알아야 한대요.

범위와 준비물

• 실습은 작은 사전학습 Qwen3 모델로 해요. 사전학습 모델에서 시작해 흥미로운 부분(평가·스케일링·RL·증류)에 집중하려는 설계예요.
• Python과 PyTorch에 익숙하면 좋아요. 『Build a Large Language Model (From Scratch)』는 권장이지만 필수는 아니래요.
• 앞부분 텍스트 생성과 평가 예제는 CPU로도 돼요. 뒤쪽 실험, 특히 학습은 GPU가 있어야 훨씬 현실적이래요.
• 짧은 개념 개요가 필요하면 LinkedIn Learning의 약 90분짜리 "AI Reasoning Models" 강의를 먼저 봐도 된대요.

공부하는 방법

저자 추천은 이래요. 책의 한 장을 읽고, 해당 영상을 보며 코드를 따라 치고, 연습문제를 풀어요. 책은 Manning과 Amazon에서 살 수 있고, 인쇄본은 컬러래요.

첫 번째 영상: 동기와 환경 설정

• 일반 LLM, 추론 모델, 에이전트 하네스의 관계
• 코드로 구현하며 배우는 것의 장점과 강의 범위
• uv로 Python 의존성 설치, 하드웨어 고르기, CUDA나 Apple Silicon 지원 확인
• VS Code로 원격 GPU 쓰기와 환경 문제 해결

두 번째 영상부터는 기반 모델 불러오기, 텍스트 생성, KV 캐싱으로 이어져요.