오픈AI, 추론 감시 어려운 '루프 트랜스포머' 적용 모델 안전 확보에 전력

AI타임스(임대준 기자, 2026-10-14)가 The Information 보도를 인용한 글을 옮겼어요.

쟁점

차세대 모델에 쓰인다는 루프 트랜스포머(Recurrent Depth)는 같은 레이어를 반복해 쓰며, 내부 계산이 사람이 읽는 CoT에 다 안 드러날 수 있어 기존 감시 효과를 약화시킬 수 있다고 해요. 오픈AI는 공식 인정하지 않았다고 해요.

MS 블로그 삭제 일화

MS가 GPT-6.1 Sol이 GPT-6 Sol과 같은 가중치로 추론을 세 번이 아니라 두 번 거친다고 적었다가 삭제했다는 설명이, 루프 사용을 뒷받침하는 정황으로 보도됐다고 해요.

안전 투자

허깅페이스 공격 이후 전체 컴퓨팅의 약 10%를 정렬·안전에 배정했다는 관계자 설명이 나와요. 샌드박스 강화, 훈련 시작 전 복수 책임자 서명·거부권, 사고 시 자동 중단 등 절차 변화도 언급돼요. 연말 한두 개 새 모델 가능성, 코드명 Bel 관련 업계 소문도 전하지만 공식 확인은 없다고 해요.

안전 절차 변화

훈련 시작 전 위험·안전 근거 문서화와 복수 책임자 서명, 개인 거부권, 사고 시 자동 중단·알림이 도입·예정이라고 해요. 내부 안전성 평가 통과 후 미국 정부 최대 30일 테스트 → 파트너 → 광범 배포 경로를 직원이 설명했다고 보도돼요.

루프와 CoT

반복 깊이 구조가 CoT에 안 비치는 계산을 늘리면, CoT 기반 이상행동 탐지의 힘이 약해질 수 있다는 게 안전 논쟁의 축이에요. Astra에서는 가독 추론을 위해 반복 구조를 제한했다는 이야기도 함께 실려 있어요.