IBM CEO, “오픈 웨이트 모델은 이제 온프레미스에서 성능도 좋고 비용도 저렴하다”

IBM CEO Arvind Krishna가 회사 3분기 실적 설명회에서 오픈 웨이트 모델이 이제 기업의 온프레미스 활용에 잘 맞는다고 말했어요. The Register가 보도했어요.

• 2024년에는 넓은 벤치마크에서 최상위 폐쇄 모델이 70점대, 오픈 모델이 20~30점대였대요.
• 2025년 말에는 그 간격이 70 대 50 정도로 줄었대요.
• 지금은 오픈 웨이트가 최첨단 대비 "90%만큼 효과적"이면서 토큰 비용은 "10~25%" 수준이래요.

기업에 던지는 질문은 단순해요. 최고 대비 90% 성능에 비용이 10%인 것을 원하세요, 아니면 10배 비싼 비용을 내시겠어요?

어디에 쓰나

최고 성능이 필요한 작업도 있지만, 대부분은 오픈 웨이트로도 된다고 봤어요.

• 이메일 요약·작성
• 계약서 검토
• 고객 전화 응대

그래서 온프레미스 AI 인프라에 대한 관심이 커지고 있다고 했어요. 유용한 AI 인프라는 랙 두세 개로도 만들 수 있지만, 커널 엔지니어·네트워크·GPU 근접 배치·캐싱을 누가 하느냐가 기업의 고민이라며 IBM이 배포를 쉽게 하는 소프트웨어를 내놓겠대요. 온프레미스 수요가 Spyre 메인프레임 가속기 카드 판매도 자극할 거라고 했어요.

같은 콜의 숫자 (참고)

• z17 메인프레임이 이전 어떤 모델보다 매출이 10억 달러 더 나왔대요. 다만 메인프레임 매출은 출시 18개월이 지나 20% 감소.
• 인프라 매출 37억 달러(+5%), 소프트웨어 78억 달러(+9%), Red Hat +11%(연간 반복 매출 +30%).
• Red Hat 가상화 제품이 이미 8억 달러 계약을 따냈고 파이프라인 7.5억 달러가 더 있대요.
• 분기 총매출 171억 달러(+5%). 시간외 주가는 소폭 하락.

기사 말미에는 IBM Cloud에서 긴급 점검으로 신규 리소스·VPC를 90분간 못 만들게 된 severity 1 사고도 짧게 언급했어요.