카카오, AI 판단 특화 모델 공개…GPT-6보다 43배 빨라

[헤럴드경제=김광우 기자] 카카오가 인공지능(AI) 에이전트의 의사결정을 돕는 새로운 AI 모델을 공개했다. 기존 AI 모델보다 빠른 처리 속도를 구현해 업무 효율성을 높인 것이 특징이다.

카카오는 자체 개발한 멀티모달 AI 모델 ‘카나나-2-v-디사이드(Kanana-2-v-decide)’를 글로벌 AI 플랫폼 허깅페이스에 오픈소스로 공개했다고 6일 밝혔다.

이번 모델은 AI 에이전트가 업무를 수행하는 과정에서 필요한 판단을 빠르게 처리할 수 있도록 개발됐다. 일반적인 거대언어모델(LLM)이 이용자의 질문에 문장으로 답변하는 것과 달리, 규격화된 형태로 판단 결과를 제공하는 방식이다.

AI 에이전트는 이용자의 요청에 따라 어떤 도구를 사용하고, 어떤 정보를 참고할지 등을 연속적으로 판단해야 한다. 이번 모델은 각 단계에서 필요한 판단 결과를 제공해 다음 작업으로 빠르게 연결되도록 지원한다.

카카오는 기존에 개발한 멀티모달 언어모델 ‘Kanana-2-v-3b’를 기반으로 이번 모델을 개발했다. 텍스트와 이미지를 함께 분석할 수 있어 고객 문의 분류, AI 에이전트의 도구 선택, 상품 이미지 판단 등 다양한 업무에 활용할 수 있다.

모델은 입력된 정보를 분석해 확률, 선택, 점수 등 세 가지 형태로 결과를 제공한다. 확률은 특정 조건이 참일 가능성을 나타내며, 선택은 여러 후보 가운데 적합한 항목을 제시한다. 점수는 평가 단계별 확률을 반영한 수치로 제공된다.

처리 속도도 높였다. 카카오는 입력된 질문과 선택지를 숫자들의 묶음인 벡터로 표현해 유사도를 비교하는 기술을 적용했다.

이번 모델은 엔비디아 H200 그래픽처리장치(GPU) 1장 기준 평균 0.04초 이내의 응답 속도를 기록했다. 이는 GPT-6 루나(Luna) 대비 약 43배 빠른 수준이다.

성능 평가에서도 경쟁력을 확인했다. 카카오가 한국어 1만5909개 문항으로 구성한 자체 평가 데이터셋 ‘카나나 디시전 벤치(Kanana Decision Bench)’와 공개 평가 데이터셋 ‘디시전 인덱스(Decision Index)’를 활용한 평가에서 비교 대상 모델 가운데 가장 높은 성능을 기록했다.

비교 대상에는 마이크로소프트의 ‘Decision-1’, 타입세이프 AI의 ‘Jev’, 퍼플렉시티의 ‘pplx-decider-v1.1-27B’, 업스테이지의 ‘Solar Decide’ 등이 포함됐다.

카카오는 이번 모델에 연구뿐 아니라 상업적 활용도 가능한 ‘카나나 오픈 라이선스(Kanana Open License)’를 적용했다. 국내외 연구자와 기업들이 AI 에이전트 서비스 개발에 활용할 수 있도록 지원한다는 취지다.

향후 카카오는 웹 검색과 상품 카테고리 자동 분류 등 내부 프로젝트에 해당 모델을 우선 적용할 계획이다. 실제 서비스 환경에서 성능을 개선하고, 장기적으로 검색과 판단을 하나의 모델로 통합하는 기술을 개발할 방침이다.

최동진 카카오 어플라이드 AI 모델 성과리더는 “이번 모델 공개는 최신 AI 기술의 발전을 실제 서비스에 활용할 수 있는 기반을 넓힌다는 점에서 의미가 있다”며 “앞으로도 기술 고도화와 공개를 통해 이용자가 일상에서 체감할 수 있는 AI 경험을 제공해 나가겠다”고 말했다.

한편, 카카오는 지난달 29일 개인화 AI 에이전트의 기반 기술인 임베딩 모델 ‘Kanana-2-embedding’ 2종을 오픈소스로 공개했다. 이용자의 질문과 정보 사이의 의미적 유사성을 분석해 필요한 정보를 찾아주는 기술로, 한국어 검색 성능과 처리 효율을 높이는 데 초점을 맞췄다.

Google News 에서 헤럴드경제 팔로우