Probability of backdoors in popular harnesses and LLM inference engines

Reddit이 자동 수집을 막아(OAuth 키 없음, Wayback 스냅샷 없음) RSS 피드에 실린 본문을 기준으로 옮겼어요. 댓글과 글에 달린 이미지·영상은 읽지 못했어요.

xz utils를 기억하나요

작성자 u/Ori_553은 2024년 xz utils SSH 백도어를 상기시켜요. 지구에서 가장 많이 감시받는 코드베이스였는데도 거의 성공할 뻔했고, 전혀 상관없는 일을 하던 사람이 거의 우연히 잡아냈대요. 오픈소스든 아니든 생태계 전체가 얼마나 취약한지 모르겠다면 그 사건을 읽어 보라고 해요.

덜 감시받는 저장소들

그렇다면 에이전트 하네스, LLM 추론 엔진, LLM 모델 자체처럼 덜 감시받는 저장소에는 무슨 일이 일어날 수 있고, 이미 일어났을지도 모른다고 말해요. 매주 새 것이 나오고, Opus 5.5 구독이 그걸 쉽게 잡아 주지도 않는대요.

• llama.cpp나 Strata 같은 엔진 관리자가 악의적일 필요도 없어요.
• 이 도구들이 설치하는 수천 개 패키지·라이브러리 어디든, 완벽히 정상처럼 보이는 PR 하나가 승인돼 몇 달, 몇 년 조용히 있으면 된대요.
• 빠르게 바뀌는 LLM 생태계가 이런 공격에 딱 좋은 토양이라고 봐요.

작성자의 추정

작성자는 인기 하네스나 추론 엔진 중 적어도 하나에 이미 백도어가 있을 확률을 100%로 추정해요. "욕해도 되지만 속으로는 제 말이 맞을 가능성이 높다는 걸 알 거예요"라며, 읽어 줘서 고맙고 "부디 불안해하라"고 끝맺어요. 평소 이렇게 쓰며 LLM이 쓴 글이 아니라고 덧붙였어요. 근거 자료 없이 확률을 주장하는 의견 글이에요.