“한 번 배운 문제, 다시 안 묻는다”…KAIST, 지식 재사용 스마트폰 AI 개발

[헤럴드경제=구본혁 기자] 스마트폰 인공지능(AI)이 한 번 배운 지식을 기억해 비슷한 문제를 스스로 해결하는 기술이 개발됐다. 복잡한 문제를 풀 때마다 고성능 서버에 도움을 요청하는 대신, 이전에 얻은 지식을 재활용해 서버 호출을 절반 이상 줄이고 처리 속도는 최대 3.67배 높였다.

KAIST는 전산학부 이재길 교수 연구팀이 스마트폰 등 기기의 소형 AI와 서버의 대형 AI를 효율적으로 연결하는 협업 기술 ‘CURE(누적 지식 재사용)’를 개발했다고 21일 밝혔다.

스마트폰에 탑재된 소형 AI는 연산 능력과 메모리 제약으로 복잡한 문제를 처리하는 데 한계가 있다. 이를 보완하기 위해 어려운 문제만 고성능 서버에 맡기는 협업 방식이 활용되지만, 기존 기술은 서버에서 받은 답을 일회성으로 사용한다는 문제가 있었다. 비슷한 문제가 반복돼도 매번 서버에 도움을 요청해야 해 통신량과 처리 시간이 늘어나는 것이다.

연구팀은 서버에서 얻은 지식을 기기에 축적하고 재사용하는 방식으로 이 문제를 해결했다.

CURE는 소형 AI가 먼저 문제 해결 가능 여부를 판단한 뒤, 어려운 문제는 기기에 저장된 지식을 활용한다. 저장된 지식으로도 해결하지 못할 때만 서버에 도움을 요청하는 3단계 구조다.

연구팀은 이미지와 글을 함께 이해하는 비전·언어 모델을 활용해 성능을 검증했다. 기기용 소형 모델에는 ‘MobileCLIP2’, 서버용 대형 모델에는 180억개 매개변수를 가진 ‘EVA-CLIP’을 사용했다.

실험 결과 CURE는 모든 입력을 대형 서버 모델로 처리하는 방식에 근접한 정확도를 유지하면서도 기존 기기·서버 협업 방식보다 서버 호출 횟수를 평균 55.61% 줄였다.

처리 속도 역시 기존 협업 방식보다 최대 2.80배, 모든 입력을 서버로 보내는 방식보다 최대 3.67배 빨랐다.

기존 AI 모델을 별도로 재학습하지 않고도 적용할 수 있다는 점도 특징이다. 서버에서 얻은 지식을 저장하는 별도 공간만 추가하면 돼 다양한 AI 모델과 서비스에 활용할 수 있다.

연구팀은 이번 기술이 스마트폰 사진 검색과 개인형 AI 비서뿐 아니라 로봇, 웨어러블 기기 등으로 확대될 것으로 기대하고 있다. 특히 통신이 불안정한 환경에서도 로봇이 이전에 축적한 지식을 활용해 주변 상황을 스스로 판단하는 데 도움이 될 전망이다. 다만 실제 성능은 기기 사양과 통신 환경 등에 따라 달라질 수 있어 추가 검증이 필요하다.

이재길 교수는 “CURE는 기기의 소형 AI가 서버에 같은 문제를 반복해서 묻지 않고, 한 번 얻은 지식을 기억해 다시 활용하도록 한 기술”이라며 “높은 정확도를 유지하면서 통신 부담과 응답 시간을 줄여 다양한 기기에서 고성능 AI를 효율적으로 활용하는 기반이 될 것”이라고 말했다.