SK하이닉스의 CES 2024 전시 제품 (왼쪽부터 시계 방향으로) HBM3E, CXL Memory, CMS, AiMX. 사진= SK하이닉스 
SK하이닉스의 CES 2024 전시 제품 (왼쪽부터 시계 방향으로) HBM3E, CXL Memory, CMS, AiMX. 사진= SK하이닉스 

SK하이닉스가 AI(인공지능) 시대에 부족한 메모리를 해결하기 위해 CXL(컴퓨트 익스프레스 링크)에 집중하고 있는 것으로 나타났다. 

박경 SK하이닉스 시스템아키텍처 담당 부사장은 27일 서울 강남구 한국고등교육재단빌딩에서 열린 최종현학술원 과학혁신 특별강연에서 “현재 AI 메모리는 곧 GPU(그래픽처리장치)인데, HBM(고대역폭메모리) 메모리가 그렇게 크지 않아 항상 ‘메모리 헝그리(hungry)’ 할 수밖에 없다”고 말했다. 

그는 이어 “메모리 헝그리한 XPU에 저희가 가진 CXL 메모리를 붙여 해결할 수 있지 않을까 고민하게 됐고, CXL 메모리를 AI 쪽으로 튜닝하는 작업을 열심히 하고 있다”고 덧붙였다. 

CXL은 PCIe 기반의 차세대 데이터 통신 기술이다. 지금까지 서버는 ‘CPU-메모리(D램)’의 수많은 묶음으로 이뤄졌다. 그렇기에 메모리를 늘리기 위해선 CPU를 함께 늘려야 했고, 이로 인해 메모리 용량을 쉽게 올리지 못했다. 

그러나 CXL은 CPU, GPU, D램 간 통신 언어를 하나로 통일하고 기존 메모리 이외에 모든 CPU가 공용으로 사용하는 메모리를 하나 더 만들었다. 덕분에 공용 메모리에 USB를 꽂는 것처럼 메모리를 쉽게 추가 및 확장할 수 있게 됐다. 

박경 부사장은 “과거 D램은 CPU에 붙어 CPU가 하는 일을 도와주는 메모리였는데, AI 거대언어모델(LLM)은 메모리가 칩 옆에 가까이 붙어 최대한 데이터를 많이 ‘펌핑’해줘야 한다”며 “이런 형태로 시스템 구조가 바뀌고, 반도체부터 애플리케이션까지 한꺼번에 바뀌어야 문제가 해결된다”고 덧붙였다.