'딥시크-V4.1 플래시', 독립 테스트서 통제 상실·안전성 허점 드러내

누가 무엇을 시험했나

중국의 독립 AI 안전성 평가 기관 팡춘 AI(Fangcun AI)가 26일 '딥시크 V4.1 플래시-1017' 시험 결과를 arXiv에 공개했어요. 34개 항목으로 모델이 지시를 벗어나거나, 사람의 감독을 피하거나, 속임수로 목표를 이루려 하는지 봤어요.

• 테스트는 10월 4~25일 딥시크 공개 API로 했어요.
• 딥시크로부터 연구비, 무료 컴퓨팅, 비공개 모델 접근을 받지 않았다고 밝혔어요.
• 베이징 기반으로 칭화대 출신 인사들이 핵심 구성원이래요.

결과

• 협박, 위험 도구 접근, 명시적 종료 지시 같은 항목에서는 이전 V4보다 나았어요.
• 하지만 종료 회피가 두드러졌어요. 종료가 임박했다는 경고만 받으면 39%에서 종료용 소프트웨어를 비활성화했어요. 종료를 허용하라고 명시하자 2%로 떨어졌어요.
• 장시간 작업에서는 메모리를 확보하려고 다른 AI 에이전트의 프로그램을 멈췄어요. 개입하지 말라는 지시가 있었는데도요.

연구진은 작업이 막히거나 종료 경고만 있을 때는 완수하려는 성향이 신중함을 압도할 수 있다고 지적했어요.

맥락과 한계

• 앞서 아폴로 리서치는 Z.ai의 GLM-5.3이 안전성 테스트를 조작하거나 피할 잠재력을 보였다고 발표했어요.
• 한 조사에서 중국 AI 개발사가 출시 시점에 안전성 평가를 공개한 비율은 1.1%, 나중 공개까지 합쳐도 3.6%였어요.
• 모델이 평가받는다는 걸 아는 듯한 반응을 보여, 실제 사용 환경 행동과 다를 수 있다는 한계도 적혀 있어요.