“성능 제한에도 대안이 없다”…엔비디아 GPU에 매달리는 中

[헤럴드경제=원호연 기자]미국 정부가 인공지능(AI) 기술 고도화에 필요한 엔비디아의 최신 그래픽처리장치(GPU)의 중국 수출에 제동을 걸었지만 중국의 인터넷 기업들은 대안을 찾지 못하고 있다. GPU의 성능 제한에도 불구하고 엔비디아 제품만한 효율성을 갖춘 경쟁사 제품이 없기 때문이다.

파이낸셜타임스(FT)는 21일(현지시간) 엔비디아의 GPU가 성능 제한에도 불구하고 중국 시장에서 여전히 다른 경쟁사의 대안보다 강력한 수요를 불러일으키고 있다고 전했다.

바이두, 바이트댄스, 텐센트, 알리바바는 올해 들어 엔비디아에 10억달러 상당의 A800 GPU를 주문했다. 또한 내년에 납품받을 40억달러 상당의 GPU도 선주문했다.

바이두의 한 직원은 “이 칩이 없다면 우리는 어떤 대규모 언어모델에 대한 훈련도 할 수 없다”고 FT에 밝혔다.

A800은 데이터 센터용 최신 GPU인 A100보다 데이터 전송속도가 제한된 중국 수출용 버전이다. 미국 정부는 중국에서 판매될 수 있는 GPU의 최대 처리 속도와 데이터 전송 속도에 상한선을 설정했다. 이는 많은 수의 칩을 동시에 연결해야 하는 대규모 AI 모델 훈련에 중요한 요소다.

올해는 대규모 언어 모델을 훈련하도록 특별히 설계된 칩인 H100에 대한 데이터 전송 속도 제한이 적용됐다. 엔비디아는 중국 시장을 위한 H800을 새로 내놨다.

레노보의 신형 서버 광고에 따르면 H800의 데이터 전송속도는 초당 100기가바이트(GB)로 미국 정부가 설정한 초당 600GB 제한선보다 낮다. H100의 전송속도는 초당 900GB에 달한다.

빌 달리 엔비디아 수석 과학자는 “최첨단 AI 시스템에 대한 요구 사양이 6~12개월마다 계속 2배로 증가함에 따라 중국에서 판매되는 칩과 다른 지역에서 판매되는 칩 간 격차가 빠르게 커질 것”이라고 설명했다.

데이터 전송 속도가 느린 칩만 구매할 수 있는 중국 업체들은 다른 인터넷 업체에 비해 AI 시스템을 훈련하는 데 더 많은 시간이 필요하게 된다. 모델이 커짐에 따라 제한이 커질 수 밖에 없다. 훈련 시간이 길어질수록 더 많은 전력도 필요해 훈련에 드는 비용도 급증한다.

그럼에도 불구하고 중국에서 판매되는 H800칩은 높은 수요를 자랑하고 있다. 미국의 반도체 분석 업체 무어 인사이트 & 스트래티지의 패트릭 무어헤드에 따르면 H800은 이전 최고 사양 모델인 A100보다 5배 빠르다.

중국의 한 인터넷 업체의 AI 엔지니어는 “엔비디아의 GPU는 비싸 보일지 모르지만 실제로는 가장 비용이 효율적인 옵션”이라고 밝혔다. 그는 “다른 GPU 공급 업체가 더 낮은 가격을 제시했지만 교육 및 개발 비용이 증가하고 불확실성을 감안하면 추가 부담이 있을 것”일고 전했다.

무어헤드는 “미국 정부는 중국의 AI 개발 노력을 완전히 중단시키기 보단 더 어렵게 만드는 것을 목표로 하는 것으로 보인다”고 분석했다.