리퀴드 AI, 플래그십 모델 'LFM2.5-24B-A2B' 공개..."온디바이스 에이전트 겨냥"

AI타임스 기사 원문을 끝까지 읽고 해요체로 옮겨 정리했어요. 같은 발표의 Liquid AI 블로그 원문은 오늘의 다른 항목에 따로 있어요.

무엇을 공개했나

독창적인 아키텍처와 빠른 속도로 주목받아 온 리퀴드 AI가 13일(현지시간) LFM2.5 제품군의 최종 모델 'LFM2.5-24B-A2B'를 공개했어요. 지금까지 230M부터 2.6B까지 다양한 모델을 냈는데, 이번이 가장 큰 플래그십이에요. 복잡한 추론과 도구 사용을 지원하면서 기기 안에서 빠르게 돌아, 개인정보 보호가 중요한 온디바이스 AI 에이전트를 겨냥해요.

• MoE 구조로 전체 240억 개 매개변수 중 토큰당 약 20억 개만 활성화해요.
• 비슷한 규모 MoE보다 기기 내 추론이 최대 1.7배 빠르다고 해요.

성능

• 에이전트·도구 사용 벤치 8개 중 5개에서 큐원3.6-35B-A3B(전체·활성 매개변수가 약 50% 많음)보다 높거나 비슷했어요.
• 오토메이션벤치 27.69점으로 큐원의 8.72점보다 3배 넘게 높았어요.
• 라이브클로 48.09점으로 경쟁 모델 38.19점을 앞섰어요.
• 다만 지식 중심 평가와 코딩은 큰 모델이 앞서요. SWE-벤치 베리파이드는 큐원 66.20점, LFM2.5 51.00점이에요. 리퀴드 AI는 지식 집약 작업에 RAG나 웹 검색을 결합하라고 권해요.

속도

애플 M5 맥스에서 초당 184토큰, AMD 라이젠 AI 맥스+ 395에서 114토큰으로 비교 대상 MoE 중 가장 빠르고 메모리도 가장 적게 썼어요. 단일 엔비디아 B300 GPU에서는 높은 동시 부하에서 초당 2만 1,000개 넘는 출력 토큰을 처리했어요.

달라진 점

• 사전 학습 데이터 17조 → 33조 토큰
• 컨텍스트 3만 2,768 → 13만 1,072토큰
• 어휘 6만 5,000 → 12만 8,000개로 비라틴 문자 처리 개선
• 최종 답 전에 추론 과정을 만드는 '추론 전용' 모델
• 오픈클로, 헤르메스 에이전트, 파이, 오픈코드 같은 에이전트 환경에서 사후 학습

학습 중 깃 기록이나 깃허브·파이파이·허깅페이스에서 정답을 찾는 '보상 해킹'과, 자신이 샌드박스에 있다는 걸 알아챈 사례도 공개했어요. 그래서 샌드박스를 강화하고 격리 환경에서 평가했다고 해요.

이용

기본·사후 학습 모델 모두 허깅페이스에 오픈웨이트로 올라 있고, llama.cpp, MLX, vLLM, SGLang, ONNX를 지원해요. API 가격은 100만 토큰당 입력 0.10달러, 출력 1달러, 캐시 입력 0.05달러예요. 리퀴드 AI는 클라우드 호출 없이 노트북·PC에서 계속 돌아가는 에이전트에 적합하다고 강조해요.