SK하이닉스 “구리 대신 빛으로 병목 해소”

SK하이닉스가 대규모 인공지능(AI) 시스템의 난제로 지목된 ‘데이터 이동 병목’을 해소할 차세대 광(光)기술을 제시하며 향후 상용화를 예고했다.

기존 구리선 대신 빛으로 데이터를 옮기는 신기술을 적용하면 이른바 ‘대역폭 장벽(Bandwidth Wall)’ 문제를 해결할 수 있어 차세대 초대형 AI 인프라에서 각광받을 것으로 기대하고 있다.

SK하이닉스는 20일 이 같은 내용이 담긴 ‘고성능 컴퓨팅 및 인공지능을 위한 CPO(Co-Packaged Optics) 기술’ 논문이 국제 학술지 ‘네이처 일렉트로닉스’에 게재됐다고 밝혔다.

이번 논문은 홍승훈 SK하이닉스 AI 인프라 팀장과 이규상 버지니아대학교 전기컴퓨터공학과 교수가 교신저자로 참여했다. 일리노이대학교 어바나-샴페인(UIUC), 난양공과대학교(NTU), 매사추세츠공과대학교(MIT), 연세대학교 연구진도 공동으로 연구를 수행했다.

현재 AI 시스템 내에서 칩끼리 데이터를 주고받을 때 긴 구리 배선이 사용되지만 연구진은 빛으로 데이터를 옮기는 차세대 광 인터커넥트 기술 CPO를 대안으로 제시했다.

구리의 경우 거리가 멀어질수록 신호는 줄어들고 데이터 전송지연 시간과 전력 소모는 급증한다. 최근 연산 성능은 2년마다 3배씩 폭발적으로 늘어나지만, 데이터 전송 대역폭은 약 1.4배 증가하는 데 그쳐 ‘대역폭 장벽’이 새로운 문제로 떠올랐다.

연구진은 대역폭 장벽을 해소하기 위한 핵심 기술로 CPO를 제시했다. 홍승훈 팀장은 “칩과 칩이 긴 전기 배선 대신 빛으로 데이터를 주고받을 수 있도록, 광 송수신기(TRx)를 프로세서와 한 패키지 안에 넣는 기술”이라고 설명했다.

광 엔진이 프로세서와 가까워질수록 전기 신호의 이동 거리가 줄어 대역폭과 에너지 효율이 향상된다. 칩과 칩 사이 뿐 아니라 서버 랙과 랙, 포드까지도 빠르게 데이터를 주고 받는 만큼 전자기 간섭에 강한 신호 무결성까지 유지할 수 있다.

초거대 AI 모델은 수천 개의 AI 가속기와 고대역폭메모리(HBM)가 여러 서버와 랙, 포드에 나뉘어 연결돼 함께 연산을 수행한다. 이에 따라 개별 HBM 성능을 넘어 칩과 칩, 서버와 서버, 랙과 랙 사이에서 데이터를 얼마나 빠르게 옮길 수 있는지가 전체 AI 시스템 성능을 결정하게 됐다.

연구진은 논문에서 차세대 AI 인프라가 갖춰야 할 목표로 1초당 100Tb(테라비트) 이상의 대역폭, 비트당 1pJ(피코줄) 미만의 에너지 소비, 10ns(나노초) 미만의 칩 간 지연시간 등을 제시했다. 또한 기존 2차원(2D) 패키징에서 2.5차원(2.5D) 인터포저, 3차원(3D) 이종집적으로 발전하는 기술 경로와 상용화를 핵심 과제로 규정했다.

장기적으로 빛을 이용한 연결을 ‘메모리 인터페이스’까지 확장하는 것이 목표다. 프로세서와 메모리는 주로 전기 신호를 통해 데이터를 주고 받았지만, 향후 ‘광 인터포저’를 통해 빛으로 직접 연결하겠다는 계획이다. 이를 통해 패키징 공간의 제약을 줄이고 데이터 이동 속도와 효율을 높일 수 있을 것으로 보고 있다.

홍 팀장은 “고객의 AI 시스템이 대형화될수록 광 인터커넥트의 중요성은 더욱 커질 것”이라며 “메모리 기업의 역할도 단순히 제품을 공급하는 데서 벗어나 고객의 시스템 전체 경쟁력을 함께 높이는 방향으로 진화하고 있다”고 말했다.

이 교수는 “광 연결을 메모리까지 확장하면 연산 칩 주변의 물리적 공간 제약을 줄여 메모리 용량과 배선 수의 한계를 극복할 수 있다”며 “여러 가속기가 거대한 메모리 풀을 공유할 수 있어 AI 모델이 커지는데도 보다 유연하게 대응하게 된다”고 짚었다.

HBM을 통해 혁신을 선보인 SK하이닉스가 단일 제품을 넘어 시스템 전체를 아우르는 차세대 AI 인프라 청사진을 선제적으로 제시했다는 점에서 이번 논문이 시사하는 바가 크다는 평가가 나온다. SK하이닉스는 “단순한 신기술 소개에 그치지 않고 메모리·패키징·광 인터커넥트가 어떻게 융합하고 진화해야 하는지 종합적인 기술 로드맵을 체계화했다는데 의의가 있다”고 설명했다. 박지영 기자