오픈AI가 정식 출시한 디시전스 API는 고객 문의 분류처럼 ‘짧고 일관된 판단’에 특화된 서비스입니다.
텍스트·이미지·JSON을 평가해 확률, 선택지, 점수 형태로 결과를 돌려주며 속도는 작업 유형 기준 약 10배 빠르다고 합니다.
핵심은 자동화 자체가 아니라, 확신이 낮을 때 사람에게 넘기는 기준과 검토 흐름을 함께 설계하는 일입니다.

안녕하세요. 디지털에이전시 이앤아이입니다.

고객 문의가 들어왔을 때 ‘어느 부서로 보내야 하지?’, 상담 중에 ‘지금은 사람이 확인해야 할까?’ 같은 질문은 길게 설명하는 답변보다 짧고 일관된 판단이 더 중요하죠. 오픈AI가 정식 출시한 ‘디시전스(Decisions) API’는 바로 이런 선택과 분류를 빠르게 처리하는 데 초점을 맞춘 서비스입니다. 대화형 AI를 단순히 더 빠르게 만드는 것과는 용도가 조금 달라요.

ZDNet Korea 보도와 오픈AI 개발자 문서에 따르면, 디시전스 API는 GPT-6 루나 기반으로 텍스트와 이미지, JSON 데이터를 평가합니다. 결과는 ‘조건이 참일 확률’, ‘개발자가 정한 선택지 중 하나’, ‘기준에 따른 점수’ 같은 형태로 받게 되는데요. 예를 들어 고객 문의를 ‘학사/입학/홍보/전산’ 중 어디로 보낼지 고르거나, 제품 사진을 보고 손상 가능성을 점수로 매기는 식의 활용을 상상해볼 수 있습니다.

오픈AI는 같은 모델을 리스폰스 API에서 사용할 때와 비교해 이런 판단 결과를 약 10배 빠르게 제공한다고 설명합니다. 다만 이건 ‘해당 작업 유형’에서의 속도 비교라는 점을 분명히 해둘 필요가 있어요. 모든 AI 업무가 무조건 10분의 1 시간으로 줄거나, 정확도가 자동으로 올라간다는 뜻은 아닙니다. 실제 속도와 품질은 입력 구성, 질문 설계, 운영 환경에서 검증이 필요하겠죠.

운영 측면에서 눈에 띄는 변화도 있습니다. 한 번의 요청으로 처리할 수 있는 질문 수가 공개 베타 200개에서 최대 400개로 늘었고, 공통 입력을 여러 질문이 함께 평가하도록 구성할 수 있습니다. JSON 자료를 직접 전달하는 것도 지원하고요. 질문별 지침에 이미지를 넣어 공통 증거와 비교하는 기능도 제공된다고 합니다. ‘같은 민원 내용으로 여러 기준을 동시에 체크’하는 업무에 맞춰진 느낌입니다.

반복되는 맥락을 재사용하는 프롬프트 캐싱도 추가됐습니다. 문서에는 공통 입력의 동일한 앞부분을 재활용할 수 있고, 캐시 적용에는 최소 길이 같은 조건이 있다고 안내돼요. 그래서 “같은 질문이니까 항상 캐시가 먹겠지”처럼 단정하면 운영에서 예상이 어긋날 수 있습니다.

요금은 일반 입력 100만 토큰당 0.10달러이며 출력 토큰에는 과금하지 않는다고 안내돼 있습니다. 다만 캐시 읽기·쓰기, 지역별 처리, 긴 입력 등은 적용 조건이 달라질 수 있어 도입 전 최신 요금표 확인이 필요합니다. 데이터 보관 제한 옵션도 자격과 계약 조건에 따라 제공될 수 있다고 하니, 모든 고객에게 기본 적용된다고 단정하긴 어렵습니다.

중요한 포인트는 이 API의 ‘답’이 곧바로 업무 실행은 아니라는 점입니다. 디시전스 API가 선택이나 점수를 반환하면, 실제로 티켓을 생성하거나 담당자에게 넘기는 행동은 이를 연결한 애플리케이션이 수행합니다. 그래서 개발자는 업무별 정답 사례로 기준을 검증하고, 확신이 낮을 때 검토 대상으로 보내는 임계값을 정해야 합니다. 선택지에 ‘기타’를 두는 등 예외 처리도 함께요.

오픈AI는 실시간 음성 서비스 GPT-라이브와의 연동도 공개했는데요. 상담 도중 추가 질문을 할지, 담당자 연결로 넘길지 판단하는 식입니다. 결국 기업·대학·공공기관이 주목할 지점은 ‘속도’만이 아니라, 어디까지 자동 처리하고 어떤 경우 사람에게 넘길지 운영 설계를 어떻게 하느냐입니다.

이앤아이 관점에서 보면, 디시전스 API 같은 ‘판단형 AI’는 웹사이트 운영과 민원/문의 프로세스에서 특히 효과가 날 수 있습니다. 다만 성패는 모델이 아니라 기준표와 검토 흐름에 달려 있어요. 분류 기준을 문서로 정리하고, 낮은 확신 구간을 사람 검토로 연결하고, 결과를 다시 학습용 사례로 축적하는 구조까지 갖춰야 “빠른 판단”이 “운영 개선”으로 이어집니다.

이앤아이와 함께 더 나은 웹 환경을 만들어 나가요!

#디시전스API #OpenAI #GPT6 #문의분류 #업무자동화 #AI에이전트 #프롬프트캐싱 #콜센터AI #이앤아이 #디지털에이전시 #ENIMedia #AI전문기업