오픈AI, 분류·선택 특화 ‘디시전스 API’ 정식 출시…최대 10배 빠르게

무엇이 나왔나요

OpenAI가 22일(현지시간) 디시전스 API(Decisions API)를 모든 고객에게 정식 제공한다고 밝혔어요. 입력을 분류하거나 다음 행동을 고르는 것처럼 반복되는 작은 판단을 빠르고 싸게 처리하는 API예요. 개발자가 정한 답 범위 안에서 고르거나 확률·점수를 돌려줘, AI 에이전트와 앱의 지연 시간과 비용을 줄이는 데 초점을 맞췄어요.

• 기반 모델은 GPT-6 Luna예요.
• Responses API로 GPT-6 Luna를 쓸 때보다 특정 판단 작업을 최대 10배 빨리 처리해요.

왜 만들었나요

판단 하나하나는 간단하지만 큰 서비스에서 반복되면 지연과 비용이 쌓여요. API 제품 책임자 Nikunj Handa는 TechCrunch 인터뷰에서 경쟁사의 의사결정 모델을 보고 "우리에게도 쓰임새가 무수히 많다"고 생각했대요. 전용 모델을 새로 학습하지 않고 GPT-6 Luna의 추론 과정을 최적화했고, "가장 큰 돌파구는 속도"로 1~3초 걸리던 작업을 100~180ms로 줄였대요. 앞으로 특화 학습을 더할 가능성도 열어 뒀어요.

쓰는 법

질문과 허용 답을 정의하고 텍스트, 이미지, 구조화된 JSON을 넣으면 확률, 선택지, 점수 세 형태로 결과가 와요. 공개 베타 동안 이런 것이 더해졌어요.

• GPT-Live 기본 통합
• 반복 문맥을 위한 프롬프트 캐싱
• 이미지 질문과 네이티브 JSON 입력
• 요청당 질문 한도 두 배(최대 400개)
• 미국·EU 내 추론 처리 설정

GPT-Live와 묶으면 음성 서비스가 대화 중 실시간으로 판단해요. 상담 에이전트가 추가 질문을 할지 담당자에게 넘길지 정하거나, 가상 아바타가 말에 맞춰 표정을 바꾸는 식이에요.

사용 사례

• OpenAI 내부: 음성 비서 Dots의 응답 속도 개선, 개인 금융팀의 거래 분류, 커뮤니케이션팀의 언론 보도 주제 분류
• Speak: GPT-Live에 붙인 시험에서 다음 행동까지 시간이 1.4초→0.13초로 줄었대요.
• Box, Datadog, Ramp 등이 초기 시험에 참여했어요.

가격

입력 100만 토큰당 0.10달러, 캐시된 입력은 0.01달러이고 출력 토큰 요금은 없어요. 자격을 갖춘 고객은 Zero Data Retention도 쓸 수 있어요.