• 엑사원 3.0, 엔비디아 H100 GPU·네모 프레임워크 기반 구축

배경훈 LG AI연구원장이 지난해 열린 LG AI 토크 콘서트에서 발표하는 모습 [LG 제공]

[LG 제공]

[헤럴드경제=김민지 기자] LG AI연구원이 개발한 인공지능 모델 ‘엑사원(EXAONE) 3.0’에 엔비디아의 그래픽처리장치(GPU)와 AI 인프라 기술이 활용된 것으로 나타났다. 글로벌 기업이 만든 AI 서비스보다 엑사원 3.0이 우수한 성능을 갖춘 가운데, LG와 글로벌 빅테크 협력이 한층 주목받고 있다.

24일 엔비디아와 LG AI연구원에 따르면, 엑사원 3.0에는 엔비디아 H100 GPU와 네모(NeMo) 프레임워크가 활용됐다. 엑사원 3.0은 네모 프레임워크 위에서 LG AI연구원의 독자 기술로 개발되고 학습됐다. 엔비디아 네모는 어디서든 생성형 AI 모델을 구축, 맞춤화, 배포할 수 있는 엔드 투 엔드 프레임워크다. 데이터 처리, 훈련에서 생성형 AI 모델의 추론에 이르는 거대 언어 모델(LLM) 개발 전반의 솔루션을 제공해 구축 시간을 단축하고 멀티 노드, 멀티 GPU 훈련과 추론을 통해 처리량을 극대화한다.

LG AI연구원은 지난 8월 최신 AI 서비스인 엑사원 3.0을 발표했다. 한국어와 영어, 코딩 등 13개 벤치마크 점수 순위에서 1위를 차지했다. 특히 메타(Meta)의 라마(Llama) 등 글로벌 동급 규모의 오픈소스 AI 모델 대비 한국어와 영어에서 더 뛰어난 성능을 가진 것으로 조사됐다.

엑사원 3.0은 오픈소스로 공개돼 연구 목적으로 누구나 자유롭게 활용할 수 있다. 엔비디아의 텐서RT-LLM(TensorRT-LLM) SDK를 기반으로 효율적인 비용으로 모델을 배포할 수 있다.

한편 엑사원 3.0에는 구글 클라우드의 GPU를 추가 도입해 학습과 추론을 위한 호환성을 높였다. 향후 구글 클라우드 AI 마켓플레이스에 엑사원 3.0을 제공하는 등 사업 협력을 더욱 확대할 계획이다.