GDDR, 그래픽을 넘어 AI로 나아가는 D램

 AI(인공지능)의 발전은 반도체 시장에 많은 변화를 불러왔다. 반도체 집적회로의 성능이 24개월마다 2배로 증가한다는 '무어의 법칙'은 AI 반도체 시장에서는 더 이상 통하지 않는 분위기다. 누군가는 외면했던 값비싼 HBM(고대역폭메모리)은 이례적으로 시장의 대세가 됐다. 이에 반도체 업계에서는 '넥스트 HBM' 기술을 선점하기 위한 움직임이 한창이다. 차세대 기술을 우선 확보해 예측하기 어려운 AI 시장에 빠르게 대응하고, 수위를 차지하기 위한 노력이다.

 

1. 그래픽 특화된 D램

 기술의 발전으로 CPU(중앙처리장치) 속도가 비약적으로 빨라지면서 메모리도 이에 걸맞게 진화하고 있다. 연산 장치가 제대로 능력을 발휘하기 위해서는 저장 자치가 필수적 이어서다. 그중 대표정인게 'DDR(더블데이터레이트)'이다.

 

 DDR은 데이터를 저장할 수 있는 메모리인 D램 종류 중 하나다. 시계가 시, 분, 초 단위로 움직이듯 D램은 '클럭' 단위로 동작한다. 클럭은 전압이 왔다 갔다 하는 한 사이클을 뜻한다. DDR은 한 번의 클럭 신호에 데이터 두 개를 처리한다는 의미이다.

 

 DDR은 데이터 전송 속도와 동작 전압에 따라 DDR2-DDR3-DDR4-DDR5로 진화해 왔다. 숫자가 높아질수록 데이터 처리 속도는 빨라지고, 동작 전압과 소비 전력도 낮아진다. 또 DDR은 사용처에 따라 분류할 수도 있다. 안정성, 저전력, 속도 등 저장 장치가 주력하는 분야에 따라 사용처별로 제품을 달리 사용하기 때문이다.

 

 대표적으로 컴퓨터에 들어가는 CPU는 안정성이 높은 DDR이 적합하고, 부피가 작고 발열에 예민한 스마트폰에는 저전력 제품인 LDDR이 들어간다. GDDR은 GPU(그래픽처리장치)에 주로 사용되는 D램 제품을 말한다.

 

 GDDR은 그래픽을 빠르게 처리하는 데 특화된 그래픽 D램의 표준 규격이다. 데이터를 순차적으로 직렬 처리하는 CPU가 아닌, 병렬 처리하는 GPU를 보조하는 역할이다. GDDR이 병렬 연산에 최적화될 수밖에 없는 이유이다. 또 일반 DDR 대비 데이터 전송을 위한 채널이 많고 대역폭도 높다.

 

2. HBM보다 빠른 GDDR?

 특히 GDDR은 HBM을 제외하고는 현존하는 메모리 중 가장 빠른 제품으로 꼽힌다. HBM은 D램 중간에 '데이터 도로' 역할을 하는 실리콘 관통 전극 'TSV'를 뚫어 데이터 전송 속도를 높인 제품이다. TSV는 여러 개의 D램 칩에 수천 개의 구멍(I/O, 데이터 입출력 통로)을 뚫고 이를 수직 관통 전극으로 연결한 기술이다. D램의 층과 층 사이를 엘리베이터처럼 연결한 셈이다.

 

 HBM은 TSV 공정을 도입해 I/O 수가 1024개에 달한다. 이는 GDDR(64개)에 비하면 16배 많은 수준이다. 데이터가 이동하는 도로가 1024개로 일반 D램 대비 많기 때문에 데이터 병목 현상을 최소화할 수 있다. 아울러 HBM은 GPU나 AI 반도체 바로 옆에 배치되어 함께 패키징(포장) 되는 메모리이기 때문에, 연산 장치와 메모리 사이의 물리적 거리가 가깝다는 장점도 있다.

 

 하지만 전송 속도로만 보면 GDDR은 HBM보다 빠르다. SK하이닉스의 제품으로 예를 들면, 최근 공개한 GDDR7은 초당 1.5TB(테라바이트) 이상의 데이터를 처리할 수 있다. 이에 비해 HBM3E는 초당 최대 1.18TB의 데이터를 처리한다. 삼성전자의 제품 역시 GDDR7은 최대 초당 1.5TB의 데이터를 처리할 수 있고, HBM3E 12단 제품은 초당 1.25TB를 처리할 수 있다. GDDR이 HBM에 비해 GPU와의 물리적인 거리가 멀고 도로 폭이 좁지만, 단순히 전송 속도만 놓고 보면 더 빠른 셈이다.

 

 GDDR은 HBM에 비해 상대적으로 제조 비용도 낮은 편이다. HBM의 경우 TSV 공정을 통해 GPU와 함께 패키징해 탑재돼야 하는 것에 비해, GDDR은 패키징 없이 단품을 넣어도 되기 때문이다. 현재까지 고성능 AI 서버에는 GPU와 HBM이 들어간 AI 가속기를 사용하지만, 모든 AI 가속기에 HBM을 사용하기에는 가격 부담이 큰 게 사실이다. 실제 HBM의 가격은 일반 D램 대비 3배 이상인 것으로 알려져 있다.

 

출처: 그래픽더블데이터레이트(GDDR) 시장 전망과 점유율 추이 <매경DB>