인공지능은 자본주의의 최종 목적지다

EQUATOR에 실린 아룬다티 로이의 에세이 "Apocalypse Now and Then"은 매우 길어요. 수집 도구로 읽은 앞부분(약 1만 4천 자)만 옮겼고, GeekNews 제목처럼 "AI는 자본주의의 최종 목적지"라는 결론부는 직접 읽지 못했어요. 아래는 필자의 주장 정리예요.

언어를 잃는다는 두려움

• 글은 "생각하거나 가라앉거나, 따르거나 죽거나"라는 위협으로 시작해, AI를 "실제 바보짓(Actual Idiocy)"이라고 비꼬아요. 첫 문단에 줄표(—)를 두 번 썼으니 AI가 쓴 글로 의심받을 거라는 농담도 해요. "이제 본능이 아니라 앱으로 판별해야 한다"는 거예요.
• 요한복음 첫 구절 "태초에 말씀이 계시니라"를 믿는다며, 인간과 언어의 근본적 관계를 무너뜨리면 사회적 결속이 무너질 것이라고 봐요.
• 교수는 과제를 의심하고, 출판사는 신인 작가를 범죄 현장 감식하듯 봐요. 진짜와 가짜, 과거와 현재를 구분하지 못하게 된 사회가 "집단 정신병"으로 가는 건 아닌지 묻고, 이것이 산업혁명 때와 같은 도덕적 공황일 뿐인지 진짜 파열인지 질문해요.

멸종 서사와 억만장자들

• 지난달 Anthropic 직원 제이콥 콕슨이 양심상 인류를 절멸시킬 수 있는 프로젝트에 일할 수 없다며 퇴사했고, 이후 AI 기업 CEO들이 앞다퉈 "문명 종말 가능성"을 말하며 규제를 요청했다고 써요. 필자는 이를 탐욕 앞의 무력함, 혹은 자본주의의 본성으로 봐요.
• 그들은 멸종을 믿어 지구 끝에 벙커를 지으면서도, 대중에게는 진보와 인류의 이익을 판다고 비판해요. 피터 틸이 규제론자를 "적그리스도"라 부른 일도 언급해요.

외면받는 구체적 비판

• 군용 드론 비전 계약을 비판하고 2019년 구글을 떠난 메러디스 휘태커, LLM의 환경 비용과 편향 증폭을 지적한 논문으로 2020년 해고된 팀닛 게브루, "데이터 늪의 혐오 스케일링 법칙"을 쓴 아베바 비르하네에게는 억만장자들의 지지가 없었다고 짚어요.
• 필자는 힌턴이나 콕슨의 멸종 경고는 불꽃놀이처럼 분위기를 띄워 상장을 앞둔 기업 가치에 도움이 되지만, 구체적 고발은 그렇지 않기 때문이라고 해석해요. AI와 무기 산업의 결합 사례로 이란 미납 학교 공격, 가자지구의 Lavender·Gospel 시스템을 들어요.
• 이어 이 억만장자들을 그리스 신화의 외눈박이 거인 키클롭스에 빗대는 대목으로 넘어가는데, 그 이후는 읽지 못했어요.