반도체 시장의 착각: AI 칩 전쟁의 판도를 뒤흔드는 5가지 반전

AI 시대, 우리가 알던 반도체의 법칙이 깨지고 있다

인공지능(AI) 시대의 막이 올랐습니다. 기술의 폭발적인 성장과 함께 시장의 모든 시선은 엔비디아의 최신 GPU와 그 심장이라 할 수 있는 HBM(고대역폭 메모리)에 쏠려 있습니다. 마치 이 두 가지가 AI 반도체 전쟁의 전부인 것처럼 보입니다. 하지만 수면 아래에서는 우리가 알던 반도체 시장의 공식을 송두리째 뒤흔드는 거대한 조류가 형성되고 있습니다. 시장의 통념을 깨는 이 놀라운 반전들은 무엇일까요? 지금부터 AI 칩 전쟁의 판도를 바꾸고 있는 5가지 거대한 착각과 그 이면의 진실을 파헤쳐 보겠습니다.

​1. 진짜 수요는 '토큰'이 만든다: AI의 메모리 폭식, 예상과 달랐다

첫 번째 반전은 AI의 메모리 수요를 이끄는 진짜 동인이 모델의 크기를 나타내는 '매개변수(parameter)'가 아니라, 처리 단위인 '토큰(token)'이라는 점입니다. 초기 시장은 AI 모델의 매개변수가 클수록 더 많은 메모리가 필요하다고 단순하게 생각했습니다. 그러나 IBK투자증권의 분석에 따르면, 매개변수가 늘어날 때 메모리 소요량은 비례해서 증가하지만, AI가 처리하는 토큰 수가 2배 증가하면 필요한 HBM은 4배로 폭증합니다. 이는 AI가 단순 텍스트 완성을 넘어 더 긴 대화의 문맥을 이해하고(Long Context), 스스로 계획하고 행동하며(Agent), 이미지·음성·영상까지 처리(멀티모달)하면서 토큰 처리량이 기하급수적으로 늘어나고 있기 때문입니다. 텍스트 질의가 수천 개의 토큰을 사용하는 반면, 영상 하나는 10만 개 이상의 토큰을 요구할 수 있어 메모리 수요가 폭발하는 것입니다.

과거에는 학습(Training) 시장이 성숙하면 추론(Inference) 시장이 커지면서 HBM 수요가 줄어들 것이라는 예상이 지배적이었습니다. 추론에는 상대적으로 저사양 칩이 쓰일 것이라 봤기 때문이죠. 하지만 AI 모델이 고도화되면서 추론 영역에서도 더 빠르고 정확한 응답을 위해 고성능 AI 칩과 HBM을 요구하는 역설적인 상황이 벌어지고 있습니다. AI의 진화가 오히려 메모리 수요를 더욱 가속화시키는 예상 밖의 전개입니다.

​2. 공급 대란의 역설: 모두가 HBM만 외칠 때, 범용 D램이 멈춰 섰다

두 번째 반전은 공급망에서 나타나고 있습니다. AI 서버 투자가 폭발하며 서버용 범용 D램 수요가 급증하고 있지만, 정작 메모리 공급 업체들은 HBM 생산에 모든 역량을 집중하고 있습니다. 이로 인해 범용 D램 증설은 사실상 멈춰 섰습니다.

BNK투자증권에 따르면, 하이퍼스케일러(대규모 데이터센터 운영사)들은 내년 서버 D램 주문량을 평소의 2배 수준으로 요구하고 있습니다. 하지만 SK하이닉스와 마이크론은 HBM 생산만으로도 생산 여력이 부족한 상황입니다. 유일하게 증설 여력이 있는 삼성전자마저 평택 P4 공장의 첫 번째 라인(Phase 1)을 차세대 HBM인 HBM4 양산에 집중할 계획이어서, 범용 D램 증설에는 소극적입니다.

결과적으로 시장은 심각한 아이러니에 직면했습니다. 모두가 고부가가치 제품인 HBM에만 집중하는 사이, 반도체 시장의 근간을 이루는 범용 D램 시장이 극심한 공급 부족과 가격 폭등을 예고하고 있는 것입니다.

​3. 수익성의 역전: 범용 D램이 HBM의 왕좌를 넘본다

세 번째 반전은 '수익성'에 대한 충격적인 전망입니다. 지금까지 HBM은 범용 D램보다 월등히 높은 가격과 마진을 자랑하는 '왕'과 같은 존재였습니다. 하지만 KB증권과 BNK투자증권의 분석에 따르면, 2026년에는 범용 D램인 DDR5의 마진이 HBM3E를 넘어설 것이라는 '수익성 역전' 현상이 예고되고 있습니다.

이러한 전망이 나오는 이유는 명확합니다. 앞서 언급한 범용 D램의 극심한 공급 부족이 가격 폭등으로 이어져 마진율을 끌어올리는 반면, HBM은 경쟁 심화와 차세대 제품(HBM4) 개발에 따른 원가 상승 부담이 커지기 때문입니다.

이것은 단순한 전망이 아닌, 삼성전자가 손에 쥔 강력한 전략적 무기입니다. 수익성이 더 높은 DDR5로 생산을 전환할 수 있는 선택권을 가짐으로써, 삼성전자는 이전에는 갖지 못했던 엔비디아와 같은 고객과의 HBM 가격 협상에서 막대한 지렛대를 확보하게 됩니다.

​4. 절대강자는 없다: HBM 시장의 지각변동

네 번째 반전은 HBM 시장의 경쟁 구도 변화입니다. 얼마 전까지만 해도 HBM 시장은 엔비디아의 선택을 등에 업은 SK하이닉스의 독주 체제였습니다. 하지만 이제 시장은 빠르게 과점 체제로 재편되고 있습니다.

물론 SK하이닉스는 여전히 기술력과 시장 점유율에서 선두를 유지하고 있습니다. 그러나 마이크론이 엔비디아의 HBM3E 공급망에 성공적으로 진입했고, 삼성전자는 HBM4를 통해 엔비디아 시장에 본격 진입하며 공격적인 추격을 시작했습니다.

더 중요한 변화는 수요처의 다변화입니다. IBK투자증권의 데이터는 이 변화를 명확히 보여줍니다. 2025년 엔비디아는 전체 HBM의 75%를 소비하고 구글(TPU)은 9.5%에 그칠 것으로 예상됩니다. 하지만 불과 1년 뒤인 2026년, 엔비디아의 비중은 64%로 하락하는 반면, 구글과 브로드컴을 포함한 TPU 진영의 점유율은 19%로 두 배 이상 급증할 전망입니다. 구글, 아마존 등 자체 AI 칩(ASIC)을 개발하는 빅테크들이 새로운 큰손으로 부상하며 시장의 구조를 바꾸고 있는 것입니다. 이는 특정 GPU 제조사에 대한 의존도를 낮추고, 메모리 제조사들에게 더 많은 기회와 협상력을 제공하는 시장의 구조적 변화를 의미합니다.

​5. "2018년의 유령은 없다": 이번 호황은 다르다고 말하는 이유

마지막 반전은 시장의 '데자뷰' 우려를 정면으로 반박합니다. 많은 투자자들이 현재의 반도체 호황이 2018년 서버 수요 버블 붕괴와 같은 급격한 침체로 이어질 것을 우려하고 있습니다. 하지만 IBK투자증권의 분석에 따르면, 지금은 2018년과 근본적으로 다른 세 가지 이유가 존재합니다.

1. 제한된 공급: 2018년에는 공급사들이 수요에 맞춰 공격적으로 생산능력을 늘렸지만, 지금은 투자가 HBM으로 쏠리면서 범용 메모리의 생산 확대가 극히 제한적입니다. 이러한 공급 제약은 전략적인 선택 이전에 물리적인 한계에 가깝습니다. HBM은 제조 공정상 범용 D램에 비해 웨이퍼 한 장당 생산량이 1/3에 불과할 정도로 비효율적입니다. 즉, HBM에 대한 모든 투자는 필연적으로 범용 메모리의 잠재적 공급량을 줄이는 결과를 낳습니다.
2. 견고한 수요: 2018년의 서버 수요는 일부 클라우드 업체의 재고 축적에 기댄 측면이 있었지만, 현재의 AI 수요는 전 산업에 걸친 거대한 패러다임 전환에 기반한 훨씬 더 견고하고 안정적인 수요입니다.
3. 건전한 재고: 공급 부족이 지속되면서 고객사와 제조사 모두의 재고 수준이 이례적으로 낮게 유지되고 있습니다. 과거와 같은 재고 부담으로 인한 수요 붕괴 가능성이 현저히 낮습니다.

이 세 가지 요인은 이번 상승 사이클이 과거의 버블과는 질적으로 다르며, 훨씬 더 길고 강력할 수 있음을 시사합니다.

​결론: 새로운 규칙이 지배하는 반도체 전쟁

우리가 살펴본 5가지 반전은 AI가 촉발한 반도체 시장이 과거의 공식이 더는 통하지 않는 완전히 새로운 국면에 접어들었음을 보여줍니다. AI의 심장은 HBM이지만, 그 동력은 범용 D램에서 나오고 있으며, 수익성과 시장 지배력의 규칙도 새롭게 쓰이고 있습니다.

기술의 진화와 시장 참여자들의 복잡한 역학 관계는 앞으로도 우리가 예상치 못한 변수들을 계속해서 만들어낼 것입니다. 시장의 표면적인 현상 너머, 구조적인 변화의 흐름을 읽는 자만이 이 거대한 패러다임 전환의 승자가 될 수 있을 것입니다.

수익성과 기술 리더십의 균형 속에서, 이 거대한 패러다임 전환의 최종 승자는 과연 누가 될 것인가? 그 답은 이미 새로운 규칙 속에 숨어있을지 모릅니다.

 

 

Copyright 2025. 코드폴릭스 All rights reserved.