• - 과학기술데이터 특화 생성형 언어모델, 과학기술정보 서비스 분야 선도
  

생성형 언어모델 KONI(한글명 고니).[KISTI 제공]

[헤럴드경제=구본혁 기자] 한국과학기술정보연구원(KISTI)은 과학기술데이터에 특화되고, 출연연, 공공기관에서 활용이 쉬운 생성형 거대 언어 모델(이하 LLM) KONI(KISTI Open Natural Intelligence, 한글명 고니) 13b를 개발했다고 20일 밝혔다.

ChatGPT와 같은 LLM 기술은 다양한 사용자의 질의에 대하여 풍부한 답변을 할 수 있다는 장점으로 작년 11월 출시부터 많은 관심을 받아 왔고, 국내에서도 네이버, KT, LG AI 연구원 같은 대기업들을 중심으로 여러 LLM들이 개발됐다.

하지만 민감 정보나 보안 등의 문제를 중요시하는 출연연 및 공공기관이나 비용 문제로 도입을 망설이던 중소기업은 이들을 활용하는데 문제점을 보여왔다. 이러한 문제점을 해결하기 위해 KISTI는 보안이나 정보 유출에 안전하면서도, 기존 LLM이 갖는 환각 현상을 최소화하고, 다양한 과학기술·산업 분야에 특화된 모델 개발이 쉬운 KONI를 개발했다.

KONI는 LLM에서 일반적으로 발생하는 환각 현상을 최소화하기 위해 기존 정보 서비스 시스템이 보유한 데이터를 답변 제공에 활용하는 검색 증강 생성 기술의 적용이 쉽도록 고안됐다. KISTI는 KONI 모델의 보급을 통해 보안 및 정보 유출이 염려되거나, 비용이나 전산 자원 부족의 문제로 LLM 도입·활용을 주저했던 수요에 대응할 수 있다고 설명했다. 특히 출연연, 국회나 육군 군수사와 같이 LLM 도입을 고려하고 있으나, 전산 비용, 보안, 정보 유출 등을 이유로 LLM 도입이 어려웠던 출연연, 공공기관, 중소기업에 대한 LLM 지원을 할 예정이다. 또한, 모델 성능도 현재 130억 개 파라미터 수준의 모델 크기를 늘리고, 학습 데이터 또한 추가로 확보함으로써 지속적으로 향상시킬 계획이다.

김재수 KISTI 원장은“이번 KONI 13b의 개발을 통해 KISTI는 출연연, 공공기관, 중소기업을 포함하여 다양한 과학기술·산업 분야의 LLM 수요에 대응하고, 외부 기관들과의 협력 체계 구축을 통해 지속적인 학습 데이터 확보 및 모델의 보급을 꾀하고, 사용자 피드백을 반영하여 KONI 모델의 성능을 지속적으로 개선할 예정”이라고 밝혔다.