AI 시장에서 CPU, GPU보다 중요해지는 것
코로나 19 팬데믹으로 인해 열린 디지털 세상은 우리의 일상을 바꾸어 놓았습니다. 거대 플랫폼들이 지배하는 세상으로 급격하게 이행되었고요. 메타버스 등 고사양의 그래픽을 필수적으로 필요로 하는 새로운 세상이 대안으로 떠오르기 시작했습니다.
재택근무의 발전은 좀 더 쉬운 방식의 일처리를 원하는 방향으로 흘러갔고, 이는 곧 현재 급격하게 발전하고 있는 AI 산업의 발전을 불러왔습니다. 구글, MS, 아마존 등 클라우드 기반 사업을 키워오던 빅테크들이 급격한 발전을 이루었고요. 이들이 구축한 데이터센터를 활용한 여러 플랫폼 사업들에 AI 가 접목되기 시작하면서 데이터센터의 규모와 성능 또한 계속적으로 업그레이드 되었습니다.
이러한 그들의 급격한 시설 투자는 정부에서 푼 엄청난 자금을 바탕으로 이루어졌습니다. 시장에 돈에 풀리자 자산시장은 급격히 성장했고, 기업들은 넘쳐나는 돈의 홍수 속에서 대규모 투자를 공격적으로 이어갔습니다. 하지만 코로나 19 팬데믹이 종료되고, 세상은 다시 오프라인 사회로 빠르게 복귀하였습니다. 이후 터진 우크라이나 전쟁과 미중패권 전쟁의 심화는 급격한 경기의 침체로 돌아왔습니다.
시장에 풀렸던 엄청난 자금들은 인플레이션 압력으로 작용했고, 이는 급격한 물가 상승으로 이어졌습니다. 각국의 중앙은행들은 약속이나 한 듯 기준 금리를 급격하게 올렸지만 시중에 풀린 자금 유동성이 엄청났기 때문에 단기간에 인플레이션을 방어하기란 불가능에 가까웠습니다. 각국은 더욱 가파르게 기준금리를 인상했고, 이는 더욱 심한 경기 침체로 돌아왔습니다.
하지만 물가는 쉽사리 잡히지 않았죠. 소비는 위축되었고, 산업 팽창기에 적극적인 투자로 케펙스를 늘려 놓았던 전자업계와 반도체 업계의 물량은 고스란히 재고 누적으로 이어졌습니다. 특히 메모리 반도체 같은 경우 IT 시장이 급격히 냉각되면서 악성재고가 누적되었고, 고정거래가가 끝도 없이 내려가는 극심한 불황을 맛보아야 했습니다.
그런데 이러한 위기의 상황에서 반도체 시장의 일대 폭풍을 예견하는 사건이 발생하죠. 바로 챗GPT의 등장으로 비롯한 생성형 AI 시장이 본격적으로 개화하기 시작한 것이었습니다. 생성형 AI는 기존 AI에 비해 월등한 매개변수량을 자랑합니다. 이 매개변수를 제대로 활용하기 위해선 엄청난 컴퓨팅 파워가 필수적이죠.
당연히 구글, MS 등 생성형 AI 시장의 선두주자들은 엄청난 투자를 예고하고 있습니다. 지난 1월 엔비디아는 TSMC에 초 고성능 GPU H100 1만 개를 긴급 주문하였습니다. 모두 챗 GPT를 활용하는 데이터센터에 긴급 투입되는 물량들이었습니다. 이로 인해 가동률이 떨어지던 TSMC는 뜻밖의 호재를 맞이했죠.
하지만 삼성과 SK 하이닉스의 상황은 매우 심각했습니다. 계속된 메모리 반도체 가격 하락으로 인해 엄청난 적자를 기록할 것이 예상되었죠. 2023년 1분기 삼성전자는 4조 5800억 원 적자가 발생했고, SK 하이닉스는 3조 4023억 원 적자를 기록하면서 메모리 반도체 중심 기업의 한계를 여실하게 드러냈습니다. 반면 TSMC는 불황에도 불구하고 훨훨 날아올랐죠. 그런데 이제는 삼성과 SK 하이닉스에게도 반격의 기회가 찾아왔습니다.
바로 인텔의 차세대 서버용 CPU인 사파이어 래피즈가 대량생산되면서 2분기에서 3분기에 대량으로 시장에 공급을 시작할 것이기 때문입니다. 사파이어 래피즈는 인텔에서 DDR 5를 지원하는 최초의 서버용 CPU입니다. 사파이어 래피즈가 시장에 본격적으로 공급되기 시작하는 2분기 말 3분기가 되면 서버향 메모리 교체 수요가 폭증하기 시작하면서 본격적으로 메모리 업황이 나아지게 될 것이라는 기대가 시장에 흐르고 있습니다.
특히 생성형 AI는 고성능의 컴퓨팅 파워가 최우선 순위이기 때문에 메모리도 초 고대역폭 메모리 HBM을 사용하게 될 것입니다. HBM은 D램 여러 개를 수직으로 붙이고 전송속도를 높인 데이터센터용 메모리 반도체입니다. HBM은 넓은 대역폭을 자랑하기 때문에 한 번에 CPU로 보내는 데이터의 양이 대폭 향상되면서 폰 노이만 병목을 해결하는 데에 도움을 줄 수 있습니다. 최근 SK 하이닉스는 세계 최초로 D램을 12단으로 쌓아 올린 24GB HBM3의 개발을 마쳤습니다. 이는 기존 8단으로 적층 했던 D램을 12단으로 늘려 용량을 늘린 제품입니다.
삼성전자도 HBM 3의 양산준비를 마쳤습니다. 특히 삼성전자는 HBM 3의 브랜드명을 스노우볼트로 정했습니다. 스노우볼트는 클라우드 서버, 고성능 컴퓨팅, 생성형 AI 사업에 쓰이게 될 것으로 보입니다.
생성형 AI의 활성화와 함께 HBM을 주도적으로 공급하는 삼성과 SK 하이닉스가 직접적인 수혜를 입을 것으로 기대하고 있습니다. 특히 소비자 시장의 D램과 HBM은 주요 고객층이 다릅니다. 소비자 시장의 PC용 D램의 경우 IT 시장의 불황과 함께 가격 하락을 피할 수 없지만 기업을 주요 고객으로 하는 HBM의 경우 기업이 투자를 시작하면 대단위로 공급이 이루어지기 때문에 PC용 D램보다 가격 민감성이 상대적으로 적습니다. 게다가 생성형 AI 시장이 폭발하면서 기업은 데이터 센터에 대한 대규모 투자 압박을 받고 있는 상황입니다.
시장이 아직도 침체되어 있는 것은 사실이지만 더 이상 불황기라고 하여 투자를 지연하긴 어려운 상황이 되었습니다. 따라서 사파이어 래피즈 CPU의 교체가 이루어지기 시작하면서 삼성과 SK 하이닉스의 HBM 판매량이 회복될 것이고, 이를 기점으로 메모리 시장도 점진적으로 살아날 것으로 기대됩니다. 전문가들은 이 시기를 올해 3분기로 보고 있죠. 게다가 신개념의 메모리들도 각광을 받고 있습니다. 예를 들자면 삼성전자의 HBM PIM을 들 수 있겠는데요. 이는 고대역 메모리에 연산 기능을 추가한 반도체라고 보시면 됩니다.
고객사들은 점점 고사양의 반도체를 필요로 하는데, 프로세서를 만드는 기업들의 경우 공정을 미세화 하여 고사양의 반도체를 원하는 고객들의 요구에 응해 왔었습니다. 하지만 미세 공정이 한계에 다다랐다고 생각되는 현시점에서는 아무리 최선단공정을 사용한다고 하더라도 만족할 만한 성능향상이 이루어지지 않는 상황입니다. 이런 상황에서 프로세서 기업들은 여러 반도체들과의 조합을 통해 성능 향상 한계를 뛰어넘고자 애쓰고 있습니다. 특히 CPU와 메모리의 조합을 통해 성능 한계를 뛰어넘고자 애쓰고 있는데요. 일례로 최근 삼성전자와 AMD와의 협력이 두드러지고 있습니다. 지난 2022년 10월 삼성전자는 amd와 차세대 AI 반도체 기술 개발을 선언합니다.
삼성전자는 AMD의 GPU인 MI-100에 자사의 인공지능 메모리인 HBM – PIM을 조합하는 방식의 새로운 AI 반도체 개발에 성공했습니다. HBM-PIM은 메모리에 연산처리 성능을 부여하여 CPU나 GPU의 연산 부담을 줄여주는 신개념의 메모리입니다. 즉 AMD의 GPU에 삼성전자의 HBM-PIM을 조합함을 통하여 소비 전력은 줄이면서도 연산 성능을 끌어올릴 수 있게 된 것입니다.
이외에도 삼성전자는 현재 인텔과의 DDR5 인증은 진행하고 있고, 엔비디아의 GPU에도 삼성의 고성능 메모리를 조합하여 최고의 성능을 이끌어내도록 하는 데에 협력하고 있습니다. 이 같은 움직임은 SK 하이닉스에서도 동일하게 일어나고 있는데요. SK 하이닉스는 작년 4분기 메모리 기업 중 최초로 인텔의 DDR5 인증을 통과했습니다. 이로서 인텔의 CPU와 자사의 DDR5D램을 조합할 수 있는 길을 최초로 열었습니다. 이 외에도 SK 하이닉스는 삼성보다 한 발 앞서 기업향 메모리 시장을 적극적으로 노크합니다. 그 결과 HBM에서는 삼성의 점유율을 넘어서는 쾌거를 이룹니다.
현재 HBM 시장에서 SK 하이닉스는 50% 정도의 점유율을 가집니다. 반면 삼성전자는 40% 정도를 점유하는 형국이죠. 소비자 향의 D램 시장에서 삼성에게 뒤지는 SK는 기업향 메모리에 사활을 걺을 통해 삼성의 아성에 도전하고 있습니다.
결국 중요한 것은 AI가 고도화 되고, 고객사들이 고성능의 프로세서를 원하는 만큼 메모리의 중요성도 함께 증대한다는 점입니다. 프로세서 단일 성능 만으로는 방대한 AI 연산에서 제대로 된 실력을 발휘할 수 없습니다.
바야흐로 조합의 시대가 도래했습니다. 지금까지 매만 맞고 있었던 메모리 반도체 회사들도 이젠 바뀐 기류를 배경으로 대반격을 준비하고 있습니다. 경기가 안정되려면 아직 갈 길이 멀지만 기업들이 언제까지 경기 침체를 이유로 데이터센터 투자를 늦출 수 없는 상황으로 내몰리고 있는 만큼 대규모 투자의 시간이 얼마 남지 않았다는 데에는 이견의 여지가 없습니다. 이젠 하락을 멈추고, 도약의 계기를 엿보고 있는 메모리반도체, 그리고 제대로 된 성능을 내기 위해선 고성능의 메모리 반도체가 절대적으로 필요한 프로세서 업계. 둘 간의 공생관계는 더욱 공고해지면서 삼성과 하이닉스의 가치도 상승할 것으로 예상됩니다.
강성모 님이 브런치에 게재한 글을 편집한 뒤 모비인사이드에서 한 번 더 소개합니다.
