Learn what's inside AI Agent Interactively in 3D [P]

Reddit 게시물은 링크 한 줄("여기서 해 보세요")뿐이라, 링크된 aiengineeringfromscratch.com의 "Inside an AI Agent" 페이지를 직접 읽고 옮겼어요. 인터랙티브 페이지라 설명 텍스트가 짧아 sourceShort로 표시했어요.

무엇인가

"AI 에이전트는 LLM 호출 하나 이상이다. 기계를 고장 내 보면 이유를 안다"는 문구의 시뮬레이션이에요. 예시 요청은 "4월과 5월 클라우드 청구서를 비교해 지출이 얼마나 늘었나?"예요. 모델 단계는 정해진 스크립트이고 브라우저에서 실제 모델은 돌지 않지만, 청구서·계산·점검은 진짜라고 밝혀요.

기계의 부품

요청 투입구, 메모리 드럼, 검색(서류 캐비닛), 밀봉된 모델 하우징, 도구 베이, 검증기 게이지, 출력 트레이, 추적 프린터, 런타임 컨트롤러(루프), 컨텍스트 카드 운반대로 나뉘어요.

고장 내 보기 시나리오

| 설정 | 결과 | |---|---| | 정상 | 검색 → 계산 → 검증 | | 검색 없음 | 모델에 청구서가 없음 | | 검색·검증기 없음 | 추측이 점검 없이 나감 | | 도구가 한 번 시간 초과 | 재시도로 회복 | | 도구가 계속 시간 초과 | 대체 경로 후 검증기가 잡음 | | 시간 초과 + 검증기 없음 | 틀린 답이 나감 | | 잘못된 도구 호출 | 스키마 게이지가 거부 | | 도구 권한 없음 | 권한 볼트가 막음 |

보여 주는 원리

• 모델은 제안만 해요. 주어진 카드를 읽고 쪽지를 낼 뿐, 캐비닛을 열거나 계산기를 돌리는 건 런타임이고, 할지 말지도 런타임이 정해요.
• 지식은 세 곳에서 와요. 학습된 것(밀봉 드럼), 시스템이 사용자에 대해 저장한 것(메모리), 개인 문서(캐비닛). 운반대에 올라간 카드만 모델에 닿아요.
• 도구 호출은 신뢰할 수 없는 입력이라 스키마 검사, 권한, 타이머로 통제해요.
• 점검은 모델 밖에 있어요. 검증기를 끄면 틀린 답이 맞는 답과 똑같아 보일 수 있어요.