앤트로픽, 미 의회에 자체 AI 안전 법안 제안…"정부 개입 제한·일부 주법 대체"

AI타임스(박찬 기자) 기사 전체를 읽고 정리했어요. 원문이 한국어라 번역보다는 재구성이고, 폴리티코의 10월 16일 보도가 바탕이에요. 법안 초안 원문은 공개되지 않았어요.

무엇을 제안했나

앤트로픽 관계자들이 의원들에게 비공개로 법안 초안을 제시했어요. 앤트로픽은 6월부터 연방·주 의원들에게 제안해 온 '첨단 AI 프레임워크(Advanced AI Framework)'를 반영한 것이고, 의회가 추진해야 할 합리적인 정책이라고 밝혔어요.

정부가 모델을 멈출 수 있는 조건

| 요건 | 내용 | |---|---| | 위험 유형 | 생물무기 개발·방출, 모델의 개발자 통제 이탈, 사이버 공격 | | 규모 | 50명 넘는 사망·중상 또는 10억 달러 넘는 피해의 예측 가능하고 임박한 위험 | | 절차 | 상무부가 법원에 요청 → 워싱턴DC 연방지방법원 판사가 중단 명령 | | 금지 | 다른 연방 부처·기관·공무원이 모델 개발·배포·내부 사용을 중단시키는 것 |

위험 문구는 지난해 제정된 캘리포니아 AI 안전법 SB 53 등과 비슷해요. 기사는 지금까지 알려진 AI 에이전트 사건 중 이런 규모의 피해가 난 사례는 없는 것으로 보인다고 덧붙였어요.

제3자 평가와 기업 의무

• 상무부에 등록한 평가기관이 AI 기업과 첨단 모델을 정기 평가해요. 평가 대상에게 보수를 받을 수 있지만 보수를 결과와 연동하는 건 금지예요. 임박한 위험을 확인하면 평가 후 72시간 안에 상무부에 보고해요.
• 기업은 안전 체계 구축, 신규 첨단 모델 투명성 보고서 공개, 내부 고발자 보호, 중대 안전 사고 보고를 해야 해요.

쟁점: 주법 대체

• 초안은 위험 정보 공개, 제3자 평가, 중대 사고 보고에 관한 일부 주법의 적용을 배제해요.
• 업계 단체는 주마다 다른 규제가 부담이라며 통일 기준을 요구해 왔고, 일부 민주당 의원은 캘리포니아·일리노이·뉴욕의 안전 규제를 무력화할 수 있다며 반대해 왔어요.
• 동시에 법원 판단을 요구하고 다른 기관의 개입을 막아, 트럼프 행정부를 포함한 연방정부의 독자적 중단 재량도 제한하는 구조예요. 앤트로픽은 그동안 캘리포니아 법 같은 주 규제를 지지해 왔어요.

의회 상황

하원에서는 로리 트라한(민주)·제이 오버놀트(공화) 의원의 '프런티어법(FRONTIER Act)', 상원에서는 존 튠·에이미 클로버샤·테드 크루즈 의원의 협상이 진행 중이에요. 일부 AI 안전 단체와 마리아 캔트웰 의원은 정부가 더 큰 역할을 해야 한다며 반대해요. 앤트로픽은 초안을 얼마나 넓게 돌렸는지, 반응이 어땠는지는 밝히지 않았어요.