카카오가 확률·선택·점수 형태로 판단 결과를 내놓는 모델 Kanana-2-v-decide를 11월 6일 Hugging Face에 오픈소스로 공개했다. 글과 이미지를 함께 입력받는 의사결정 모델이다. 라이선스는 Kanana Open License라서 연구뿐 아니라 상업 서비스에도 쓸 수 있다.
국내외 연구자와 기업이 AI 에이전트 서비스를 개발하는 데 활용할 수 있다. 모델은 문장을 쓰지 않고 확률, 선택, 점수 같은 정해진 형식으로 답한다. 생성형 LLM과 다른 점이다. 카카오는 자연어 답변에서 결론을 다시 뽑는 단계가 줄고 결과를 다음 동작에 곧바로 넘길 수 있다고 설명했다.
모델은 결과를 확률, 선택, 점수의 세 형식으로 제공한다. 확률은 특정 조건이 참일 확률을, 선택은 여러 선택지별 확률과 최적의 선택지를 나타낸다. 점수는 평가 단계별 확률을 반영한 정밀한 점수를 제공한다.
활용 예로는 고객 문의 분류, 에이전트의 도구 선택, 상품 이미지 판단이 있다. 예를 들어 고객이 파손된 상품 사진과 함께 교환을 요청하면 모델이 파손 여부, 문의 유형, 고객의 감정 상태 등을 확률이나 점수로 판단한다. 서비스는 이 결과를 정해진 처리 기준과 결합해 상담 채널로 연결하거나 교환 절차를 안내할 수 있다.
기반은 카카오가 직접 만든 멀티모달 모델 Kanana-2-v-3b이다. TypeSafe AI의 모델 Jev와 같은 판단 형식도 지원한다. 질문과 선택지를 각각 벡터로 바꿔 서로 얼마나 가까운지 견주는 임베딩 방식이어서, 분류 항목이 많은 환경에서도 유연하게 활용할 수 있다. 같은 선택지의 벡터는 저장해 두고 다시 쓸 수 있어 반복 요청 시 연산 부담과 응답 지연을 줄일 수 있다.
카카오는 GPU H200 1장에서 평균 응답 시간이 0.04초 이내라고 밝혔다. GPT-6 Luna보다 43배 빠르며, 실시간 처리가 필요한 서비스에서 활용할 가능성을 확인했다고 설명했다.
성능은 두 평가셋으로 쟀다. 하나는 카카오가 만든 Kanana Decision Bench(한국어 1만 5,909문항)이고, 다른 하나는 공개 평가셋 Decision Index다. 카카오에 따르면 두 평가셋 모두에서 비교 대상 모델 가운데 가장 높은 성능을 기록했다. 비교 모델에는 Microsoft의 Decision-1, TypeSafe AI의 Jev, Perplexity의 pplx-decider-v1.1-27B, 업스테이지의 Solar Decide 등이 들어 있다.
에이전트는 요청을 파악한 뒤 쓸 도구, 참고할 정보, 실행 순서를 이어서 정해야 한다. 이런 반복 판단을 빠르고 효율적으로 맡는 의사결정 모델이 관심을 받고 있다. 지난 9월 미국 스타트업 TypeSafe AI가 Jev를 선보인 데 이어 판단 특화 모델 개발이 계속되는 중이다.
카카오는 웹 검색과 상품 카테고리 자동 분류 등 사내 프로젝트에 이 모델을 우선 투입하고, 실서비스에서 성능을 끌어올릴 계획이다. 이후에는 검색과 판단을 하나의 모델로 통합하는 방향으로 기술을 고도화할 방침이다. 카카오 최동진 어플라이드 AI 모델 성과리더는 최신 기술을 실제 서비스에 쓸 기반을 넓힌다는 데 의미가 있다고 했다. 기술을 높이고 공개하는 일을 이어 가겠다는 입장이다.
출처
이 기사는 아래 자료를 바탕으로 정리했습니다. 제목을 누르면 원문이 새 창으로 열립니다.
- 카카오, 에이전트의 판단과 선택 돕는 모델 ‘Kanana-2-v-decide’ 오픈소스 공개 kakaocorp.com
