삼성전자, 메모리 신기술로 초거대 AI 선도

삼성전자가 프로세싱인메모리(PIM)를 세계적인 반도체 업체인 AMD의 그래픽처리장치(GPU) 가속기 카드에 탑재해 성능을 입증하는 데 성공했다. 차세대 기술로 주목받는 초거대 인공지능(AI)의 성능을 개선하는 데 기여할 것으로 전망된다.

20일 삼성전자는 기존에 상용화된 AMD의 GPU인 ‘MI-100’ 가속기 카드에 고대역폭 메모리(HBM)-PIM 메모리를 탑재해 가동시키는 데 성공했다고 밝혔다. PIM은 컴퓨터 프로세서가 수행하는 데이터 연산 기능을 기억장치 내부에 구현한 칩을 뜻한다.

HBM-PIM을 AMD의 GPU 가속기 카드에 탑재한 결과, HBM-PIM을 활용하지 않은 기존 GPU 가속기보다, 평균적으로 성능이 약 2배 증가하고 에너지 소모는 약 50%가 감소했다고 삼성전자 측은 밝혔다. 실제 HBM-PIM을 탑재한 GPU 가속기가 단순 HBM만을 탑재한 GPU 가속기보다 1년 동안 사용하는 에너지가 약 2100GWh(기가와트시) 가량 절감되는 것으로 나타났다.

삼성전자 관계자는 “현재 데이터센터들이 초거대 AI와 관련해 직면하고 있는 메모리 용량과 대역폭 한계로 인한 병목현상을 효율적으로 개선하고 전력량 절감에도 기여할 수 있을 것”이라고 밝혔다. 김지헌 기자