글로벌 모델 대비 한국어 성능·추론 효율 우수

카카오가 공개한 임베딩 모델 2종의 성능 소개 이미지 [카카오]
카카오가 공개한 임베딩 모델 2종의 성능 소개 이미지 [카카오]

[헤럴드경제=차민주 기자] 카카오가 이용자의 질문 의도를 파악해 정보를 찾아주는 인공지능(AI) 모델 2종을 공개했다. 자사 모델 성능을 지속해서 고도화해 개인화 AI 에이전트의 검색 성능을 강화하겠다는 방침이다.

29일 카카오는 개인화 AI 에이전트의 기반 기술인 임베딩 모델 ‘카나나-2-임베딩(Kanana-2-embedding)’ 2종을 허깅페이스에 오픈소스로 공개했다고 밝혔다.

이번에 공개한 모델은 30억 파라미터 규모의 ▷Kanana-2-3b-embedding과 13억 파라미터 규모의 ▷Kanana-2-1.3b-embedding이다. 지난 7월 카나나 소형 언어모델(SLM) 4종에 이은 추가 오픈소스 공개다.

임베딩 모델은 텍스트의 의미를 수치로 표현해 이용자의 질문과 관련된 정보를 찾는 기술이다. 일반 언어모델이 질문을 이해하고 답변을 생성한다면, 임베딩 모델은 질문과 정보 사이의 의미적 유사성을 바탕으로 답변에 필요한 정보를 찾아준다. 이용자가 정확한 단어를 기억하지 못하더라도 표현의 의미가 가까운 정보를 검색할 수 있다는 점이 특징이다.

카카오는 임베딩 모델이 개인화 AI 에이전트 개발을 위한 핵심 기술로 꼽힌다고 설명했다. 예를 들어 이용자가 “전에 이야기했던 조용한 식당”을 찾을 때, 해당 모델을 활용하면 식당 이름을 입력하지 않아도 ‘대화하기 좋은 곳’처럼 비슷한 의미로 남아 있는 과거 정보를 찾아낼 수 있다.

공개한 임베딩 모델 2종은 유사 규모인 ‘라마 네모트론 임베드(llama-nemotron-embed)-1b-v2’와 ‘큐원3 임베딩(Qwen3-Embedding)-4B’ 등 글로벌 모델과 비교한 평가에서 가장 높은 한국어 성능을 보였다. 영어 성능도 유사한 수준이었다. 또 큐원3 임베딩 대비 높은 추론 효율을 기록했다.

아울러 기존 카나나 임베딩 모델 시리즈보다 검색 성능을 개선하고, 메모리 사용과 추론 속도 측면에서 수십배 이상의 효율성 향상을 확인했다.

이와 함께 카카오는 자체 소형 언어모델 ‘Kanana-2-SLM’의 언어 이해 능력을 정보 검색에 활용할 수 있도록 학습시켜 3B 모델을 개발했다. 큰 모델이 학습한 정보를 작은 모델에 전달하는 지식 증류 기법을 적용해 1.3B 모델도 구축했다.

서비스 운영 환경에 맞춰 효율을 조정할 수 있는 기술도 탑재했다. 텍스트의 의미를 숫자들의 묶음으로 표현한 ‘임베딩 벡터’에서 사용하는 숫자의 개수를 조절할 수 있는 ‘MRL’ 기법을 도입했다.

두 모델에는 라이선스 조건에 따른 상업적 활용도 가능한 ‘카나나 오픈 라이선스(Kanana Open License)’를 적용했다. 이로써 국내외 연구자와 기업은 공개된 모델을 직접 검증하고, 개인화 기반의 AI 에이전트와 의미 기반 검색 서비스 개발에 활용할 수 있다.

노병석 카카오 유니파이드 파운데이션 모델 성과리더는 “AI 에이전트가 이용자에게 도움을 제공하려면 질문에 답하는 능력과 함께, 여러 정보 속에서 필요한 정보를 찾아내는 기술이 중요하다”며 “이번 공개를 통해 연구자와 개발자가 한국어에 강점을 가진 임베딩 기술을 서비스에 활용할 수 있도록 돕고, 검색 성능과 효율을 높이는 연구를 이어갈 것”이라고 말했다.


chami@heraldcorp.com