SK하이닉스가 7세대 HBM(고대역폭메모리)인 HBM4E부터 커스텀(고객 맞춤형) HBM을 생산하기 위해 고객의 IP(설계재산)를 사용한다. 또 HBM4부터는 TSMC의 최선단 공정을 사용할 방침이다.

최선단 공정 사용해 美 빅테크 노린다

6일 업계에 따르면 SK하이닉스는 HBM4부터 커스텀 HBM을 공급할 계획이며, 전력 효율을 높이기 위해 TSMC와 협업한다.

현재 AI 업계의 최대 화두는 전력 효율이다. AI 서버를 가동하기 위해 엄청난 전기가 사용되는 만큼, AI 칩의 전력효율을 끌어올리는 방향으로 연구개발이 진행 중이다.

그중에서도 메모리는 전력을 많이 잡아먹는 주범이며, HBM 중에서도 베이스다이는 전력손실의 많은 부분을 차지한다. 이 때문에 SK하이닉스는 HBM4부터 베이스다이를 TSMC의 로직공정을 활용하기로 했다.

HBM은 베이스다이 위에 D램 단품 칩인 코어 다이를 쌓아 올린 뒤 이를 수직 연결해 만든다. 베이스다이는 HBM을 컨트롤하는 역할을 수행한다.

박문필 SK하이닉스 부사장은 6일 서울 관악구 서울대학교에서 열린 ‘AI 이피션시 워크숍 2024’에서 “HBM3E까지는 D램 공정으로 베이스다이를 만들었다. 그러나 HBM4부터는 파워가 중요해지면서 로직 파운드리를 도입했다. SK하이닉스, 삼성전자, 마이크론 모두 로직 파운드리 방향으로 가고 있다”고 밝혔다.

이어 박 부사장은 “다만 여기서 두 가지 방향으로 나뉘고 있다”며 “하나는 제덱(JEDEC) 스탠다드이고, 다른 하나는 커스텀 HBM인데, 둘 다 로직 파운드리를 사용하지만 커스텀 HBM의 경우 각 기업들이 원하는 게 너무 많다”고 설명했다. 제덱은 반도체 표준 규격을 제정하는 민간표준기구다.

박 부사장은 “엔비디아, AMD, 브로드컴, 마벨, 구글, 테슬라 등 10개 업체들이 쫙 와서 커스텀 HBM을 하자고 얘기하고 있다”며 “파운드리의 최선단 공정을 사용해야 고객들의 니즈를 맞출 수 있을 것으로 보인다”고 말했다. 엔비디아뿐만 아니라 미국 주요 빅테크들에게는 TSMC의 3나노 공정 기반의 HBM4를 제공하고, 범용 HBM4에는 12나노 공정을 채택할 것으로 보인다.

4E부터는 더욱 맞춤형으로 간다

SK하이닉스는 HBM4E부터는 베이스다이에 고객 IP를 사용해 연산 효율성을 더욱 높일 계획이다.

박 부사장은 “커스텀 HBM을 사용하게 되면 GPU‧NPU는 온전히 AI 연산을 위해서만 사용되고, 메모리 컨트롤 등 나머지 연산은 베이스 다이에서 이뤄질 것”이라며 이에따라 “I/O(입출력) 수가 조정될 것”이라고 전망했다.

또한 그는 “현재 2K(2000)개의 I/O는 GPU의 땅을 거의 다 쓴다”며 “이제 메모리만 해서는 안 되고, 로직을 하는 메모리가 돼야할 것으로 보인다”고 말했다. I/O는 데이터 입출력 통로로, HBM4는 데이터 통로를 넓히기 위해 2048개의 I/O핀을 사용한다.

그러면서 박 부사장은 “HBM4까지는 로직다이에 하이닉스 스탠다드 IP가 들어가지만, 이후에는 고객 IP가 들어갈 것”이라고 말했다.

SK하이닉스는 HBM4E부터 고객의 IP를 활용하기 위해 다양한 방식으로 연구를 진행 중이다. 고객사로부터 IP를 넘겨받아 SK하이닉스가 설계하는 방법과 SK하이닉스가 처음부터 고객의 요청에 맞게 설계하는 방식 등 다양한 방법으로 얘기가 오가고 있다.

커스텀 HBM을 위해서는 TSMC와의 협력이 절대적으로 필요한 만큼, SK하이닉스는 TSMC와 더욱 돈독한 관계를 이어나갈 것으로 전망된다.

박 부사장은 “커스텀하고 있는 많은 기업들이 GPU에서는 TSMC를 사용할 것”이라며 “TSMC와 관계를 강하게 갖고가야 한다고 생각한다”고 강조했다.