Exploring Next-Concept Modeling (NCM) & Transformer Interpretability: Repository of 20 Exploratory Studies & Controls [P]

Reddit이 자동 수집을 막아 RSS에 실린 본문을 기준으로 옮겼어요. 원문 자체가 짧은 소개 글이에요.

무엇인가

r/MachineLearning의 u/BedFalse6021이 탐색적 연구 20개를 모은 저장소 Quantix-eng/ncm-experiment-notes를 공유했어요. 개인이 독립적으로 진행한 프로젝트로, 트랜스포머가 내부 특징을 어떻게 처리하고 편집하는지에 대한 실험을 기록했대요.

다루는 주제

• 스도쿠 같은 구조화 과제에서의 Next-Concept Modeling(NCM)
• GPT-2의 IOI(Indirect Object Identification) 같은 기계적 해석 가능성
• 장난감 수준의 병렬 모델
• 각 실험의 대조군(control)

공개 방식

• "성능 돌파는 없다"고 먼저 밝혀요. 엄격한 대조와 함께 관찰을 정직하게 기록하는 게 목적이래요.
• 모든 실행의 소스 코드, 저장된 결과, 해석을 넣었어요.
• 투명성을 위해 엇갈린 결과와 완전히 부정적인 결과까지 분류해 두었대요.
• 계획과 코딩 단계에서 AI 도구를 많이 썼다고 밝혀요.

작성자는 실험 설정과 해석의 한계에 대한 피드백을 구해요.