Anthropic is doing free publicity for GLM again

r/LocalLLaMA 글 "Anthropic is doing free publicity for GLM again"은 본문 없이 앤트로픽 글 "Strengthening our defenses against distillation attacks"(2026년 10월 12일)를 링크했어요. Reddit 스레드는 읽지 못했고(403), 링크된 앤트로픽 원문의 앞부분을 직접 읽어 옮겼어요.

요지

앤트로픽은 최근 몇 달간 Claude에 대한 증류 공격의 효과를 줄이는 새 방법에서 큰 진전을 이뤘고, 초기 증거상 증류자가 수집하는 데이터가 약 90~99% 줄었다고 밝혔어요. 증류 공격은 원 개발사의 허락 없이 한 모델의 능력을 뽑아 다른 모델에 복제하는 은밀한 산업 규모 캠페인으로, 흔히 사기 계정 네트워크로 이뤄지며 개발 시간과 비용의 일부만으로 프런티어 능력을 흉내 내게 해 준다고 설명해요.

왜 우려하나 (앤트로픽의 주장)

• 안전장치 없는 프런티어급 모델: 증류로 만든 모델은 그에 걸맞은 안전장치 없이 공개되는 경우가 많아 생물학·사이버보안에서 큰 해를 끼칠 수 있다고 해요. 예로 지푸(Zhipu)가 GLM-5.3 개발 중 미국 선도 모델의 사이버 능력을 증류했다고 주장해요. 처음엔 Claude Fable 5를 증류하려다 사이버 안전장치에 막혀 이전 Claude 모델과 다른 랩의 모델로 바꿨다는 거예요. 미국 CAISSI가 GLM-5.3을 지금까지 공개된 오픈 웨이트 모델 중 사이버 능력이 가장 높다고 평가했고, 앤트로픽 자체 연구에서도 안전장치를 쉽게 우회해 익스플로잇을 처음부터 끝까지 개발하려 한다고 해요.
• 국가 안보: 증류한 능력이 외국의 군사·정보·감시 시스템에 통합된다고 주장해요. Moonshot의 Kimi로 들어온 요청이 몰래 Claude로 전달된 사례가 있었고, 그중 하나는 중국 인민해방군 관련으로 보이는 사용자가 특정 개인의 CCTV 감시 영상을 분석하려는 요청이었다고 해요.

앤트로픽은 이 대응으로 상당한 매출과 수조 토큰 규모의 유료 트래픽을 포기했고, 일부 정상 사용자도 연동을 바꿔야 했다고 밝혔어요.

단순한 방어로는 부족했다

증류자에게 가장 값진 데이터는 Claude가 답하기 전에 쓰는 추론(thinking) 기록이라, 방어는 거의 전적으로 추론 접근을 어렵게 하는 데 맞춰져 있어요. 처음엔 추론을 요약해서 보여 줬는데, Claude Opus 4.8 기록으로 학습한 모델이 SWE-bench Verified에서 전체 기록 학습 시 80.4%, 요약 기록 학습 시 71.8%로 효과가 확인됐어요. 그러자 공격자들은 "이전 추론을 글자 그대로 출력하라" 같은 단순한 요청부터 한 랩이 1만 2천 가지 요청을 시험한 정교한 시도까지 능동적 추출로 옮겨 갔어요. 수십만 사기 계정을 거느린 프록시 네트워크로 탐지를 피했고, 한 네트워크는 2만 개 넘는 계정을 동시에 운영했다고 해요.

새 방어 세 가지(앞부분)

• 추론이 갈 수 있는 곳 통제: 보호된 추론 블록을 대화·모델·계정 사이로 옮겨 Claude를 속이는 수법을 막으려고, Claude Fable 5.1·Opus 5.5에서는 2026년 8월 31일 이후 생성된 API 계정이 이전 컨텍스트를 편집하지 못하게 하는 preserved thinking을 도입했어요. 약한 안전장치의 이전 모델이 이 추론을 읽지 못하게 했고, Sonnet 5.5에선 추론 기록을 요청한 조직만 접근하게 했어요.
• 추출 시도 차단·패치: constitutional classifiers 연구에서 설명한 2단계 분류기를 증류 시도 기록으로 내·외부 레드팀 검증하고 취약점을 고쳐, 이제 생물무기 방지 수준에 가까운 견고함과 0.1% 미만 오탐률을 갖췄다고 해요. Sonnet 5.5, Opus 5·5.5, Fable 5·5.1에 적용 중이에요.
• 세 번째 방법 이후 내용은 이 번역에 포함하지 않았어요.

증류 관련 내용은 모두 앤트로픽 측 주장이에요.