OpenAI가 음성 모델 GPT-Live에 의사 결정 API Decisions를 직접 호출하는 기능을 넣었다. 앱이 요청을 대신 넘겨주던 단계가 사라져 처리 경로가 짧아졌다. 음성 앱은 지금까지 대화가 끝난 뒤에야 반응했지만, 이제는 대화가 이어지는 동안 동작을 미리 준비하고 실행할 수 있다.
이 기능은 개발자 몫이다. OpenAI가 15일(현지시간) 내놓은 개발자 업데이트에 담겼고, ChatGPT 이용자를 위한 새 음성 기능은 발표에 없었다. Decisions API는 별도 베타 기능이어서, 이를 실제 서비스에 넣으려는 개발자는 사용 조건과 비용을 먼저 살펴야 한다.
Decisions API는 텍스트와 이미지를 입력받아 미리 정한 틀에 맞춘 답을 내놓는다. OpenAI는 범용 Responses API보다 약 10배 빠르다고 설명했다. 아래 호출 방식에 따라 사용자가 말을 마치기 전에도 그때까지의 대화 내용을 분석해 판단할 수 있다.
호출 방법은 둘이다. 하나는 GPT-Live가 특정 요청을 알아보면 Decisions를 부르도록 정해 두는 방식이다. 다른 하나는 사용자 발화나 AI 응답이 문자로 옮겨지는 중간에 일정 구간이 잡히면 판단이 돌아가게 짜는 방식이다.
차량 음성 비서에서는 운전자가 "조금 추운데"라고 하면 말이 끝나기 전에 실내 온도를 올릴지 따져 볼 수 있다. 운전자가 가고 싶은 지역을 언급하면 차량 설정과 목적지 정보를 살펴 다음 작업을 준비한다. 가상 캐릭터에서는 사용자가 "취업에 성공했어"라고 말하는 중간에 기쁨이 읽히면 캐릭터가 미소 짓고 고개를 끄덕인다. AI가 답하는 동안에도 내용에 따라 표정과 몸짓이 계속 달라진다.
위험도 있다. 사용자의 말을 잘못 알아들으면 같은 동작이 되풀이될 수 있다. 개발자는 같은 동작이 겹쳐 실행되지 않게 막고, 허용할 동작의 범위를 좁히는 장치를 직접 마련해야 한다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.
- 오픈AI, ‘GPT-라이브’에 의사 결정 API 연결..."말 끝나기 전 판단" aitimes.com