AI is a tool and using it well takes skill

Datalevin 개발자 블로그(yyhh.org)의 글로, Rich Hickey가 2026년 10월 11일에 쓴 "'AI' is Not a Tool"에 대한 반론이에요.

Hickey의 주장과 반박의 출발점

Hickey는 LLM이 "휘두를(wield) 수 없기" 때문에 도구가 아니라 자동화(automation)라고 주장했어요. 작성자는 일을 외주화하면 배울 기회를 잃을 수 있다는 점에는 동의하지만, 결론은 따라 나오지 않는다고 봐요. Hickey 자신의 정의로도 LLM은 사람이 휘두르는 무언가일 수 있고, 다른 도구처럼 잘 쓰려면 기술이 필요하다는 거예요.

도구는 원래 쓰는 사람을 탄다

톱을 든다고 곧게 잘리지 않고, 끌을 쥔다고 조각가가 되지 않아요. 도구는 좋은 판단만큼 나쁜 판단도 증폭해요. 쓸모는 사용자가 방향을 잡고, 피드백을 해석하고, 실수를 알아보고, 고치는 능력에 달려 있고, 이 요구는 LLM에도 똑같이 적용돼요. LLM의 예측 불가능성은 의미 있는 한계지만, 예측 가능성·신뢰성·단순성·제한된 기능은 도구를 평가하는 기준이지 도구라는 범주에 들어가는 자격 조건이 아니라고 해요. 다루기 어렵거나 오용하기 쉽다고 도구가 아니게 되지는 않아요.

도구 vs 자동화는 잘못된 구분

자동화는 도구의 한 기능일 수 있어요. 컴파일러는 프로그래머가 연산 하나하나를 지시하지 않아도 많은 일을 하고, 스프레드시트는 사람이 계산하지 않아도 결과를 다시 계산해요. 그래도 우리는 입력을 정하고 결과를 살피고 다음 행동을 결정하며 이 시스템을 다뤄요. 코드를 번역하거나 숫자를 계산하는 자동화는 괜찮은데 왜 텍스트 생성만 도구 자격을 잃느냐는 물음이에요.

의도·피드백·전문성이 없다는 주장

프로그래머는 LLM에게 낯선 코드를 설명해 달라고 하고, 그 설명에 이의를 제기하고, 소스를 직접 보고, 제안된 변경을 테스트하고, 거절하고, 요청을 다듬을 수 있어요. 목적을 가진 사람이 이끄는 피드백 루프이고, 무엇을 묻고 어떤 근거가 중요하며 언제 답이 틀렸는지 아는 전문성이 있을수록 더 쓸모 있어져요.

읽기에 대한 Hickey의 걱정은 특정 용법에는 타당해요. 논문을 읽는 대신 요약을 받아들이면 읽기가 가르쳐 주는 것을 많이 잃어요. 하지만 논문을 읽고 나서 LLM으로 자기 해석을 검증하거나 반론을 탐색할 수도 있어요. 지적 노동을 피할 가능성이 있다고 모든 사용이 그렇다는 뜻은 아니며, 중요한 건 실제로 무엇을 하느냐예요.

의인화 어휘에 대한 실망

작성자가 가장 실망한 건 "go rogue", "escape containment", "conspire" 같은 AI 업계의 의인화 표현을 그대로 쓴 점이에요. 이런 말은 시스템을 독립적인 존재처럼 들리게 하는 프레임을 받아들이게 해요. 소프트웨어가 예상 밖 출력을 내거나 지시를 따르지 않거나 중대한 권한을 받았을 때 해를 끼치는 건 실제 엔지니어링 문제지만, "음모"라고 부르면 근거 없이 인간적 동기를 덧씌우게 돼요.

결론

LLM이 늘 시키는 대로 한다는 건 아니에요. 분명히 실패할 수 있어요. 하지만 완벽히 따르지 않는다고 도구가 아니게 되는 것도, 잘 쓴다고 사용자가 판단을 포기한 것도 아니에요. 쓸모 있는 구분은 "도구를 기술 있게 다루는 것"과 "충분한 이해나 감독 없이 일을 위임하는 것" 사이에 있고, 이 구분이 한 종류의 소프트웨어 전체를 도구가 아니라고 선언하는 것보다 실용적이라는 결론이에요.