New paper from Stanford, Together AI, UIUC, and Meta introduces Hybrid Reasoning Agents. These AI models think mostly in a hidden internal way (faster and cheaper), and only use normal text when they need tools or give the final answer.

Reddit 글은 API 키가 없어 RSS 본문만 확인했고, 글이 링크한 arXiv 초록(2610.18861)을 읽고 옮겼어요. 45쪽 본문은 읽지 않아 partial이에요.

문제의식

"사람 언어를 넘어 생각하면서도, 외부 환경에서는 언어로 행동하는 에이전트를 만들 수 있을까?"에서 출발해요. 지금 LLM 에이전트는 텍스트로 추론하고 상호작용해요. 잠재(latent) 추론은 효율적인 내부 매체지만 도구를 바로 쓸 수 없고 추론 과정이 투명하지 않다는 한계가 있어요.

HybridAgent 구조

• 하나의 생성 과정 안에서 잠재 추론과 텍스트 상호작용을 동적으로 오가요.
• 가벼운 HybridLink가 텍스트 모드와 잠재 모드 사이 전환을 이어 줘요.
• 연속 작업 메모리가 여러 턴에 걸쳐 손실 없는 하이브리드 컨텍스트를 유지해요.
• 도구 통합 에이전트 능력을 유지하면서 잠재 생각을 직접 들여다볼 수 있게 했다고 해요.

학습

• HybridSFT: 백본이 HybridLink와 협응하도록 가르쳐 도구 통합 하이브리드 생성을 안정화해요.
• HybridRL: 언제 잠재 공간에서 생각하고 언제 텍스트로 행동할지 학습해 추론을 확장해요.

결과

3개 모델 규모, 수학·과학·의학·검색·에이전트 추론 11개 벤치마크에서 텍스트 기반·잠재 기반 프런티어 에이전트와 프레임워크와 비교했어요.

| 지표 | 결과 | |---|---| | 성능 | 평균 10.4% 향상 | | 토큰 | 35.5–54.7% 감소 | | 추론 속도 | 1.8–2.6배 | | 비용 | 2.7–3.7배 절감 |

저자는 Jiaru Zou, James Zou 등 8명이고 코드와 데이터를 공개했어요. Reddit 모더레이터는 기존 단어 공간 추론 LLM에 맞춘 방법이라 모델을 신뢰할 때 쓰고 새 모델에는 피하라는 덧붙임을 남겼어요.