AI 투자 사이클이 끝나면 메모리 반도체는 뭐 다 끝인가?

끝을 모르고 폭등하기만 할 것 같은 메모리 산업에 드리워진 피크아웃의 그림자, 그리고 그걸 바라보려다 태양에 눈뽕을 당하고 아무것도 못 하는 한 개미의 처절한 몸부림이 하찮기만 한 스펙터클한 세상이 눈앞에 있다.

최근에는 좀 복구되긴 했지만 얼마 전까지 국장 반도체 주식을 들고 있었다면 상당히 가슴이 철렁했던 순간이 많았을 것 같다. 최근 글로벌 금융시장과 반도체 업계에는 짙은 긴장감이 감돌았었는데 AI 투자 경쟁에 힘입어 전례 없는 가격 상승세를 이어가던 메모리 반도체 시장에 '투자 피크아웃(Peak-out)'을 경고하는 부정적 보고서들이 잇달아 등장했기 때문이다. 물론 여기에는 순환출자와 비슷한 방식의 자금 조달이라거나 CDS 프리미엄 상승에 따른 파산 걱정이 좀 더 직접적인 경우도 있었지만 말이다. 하여간 이에 따라 한국의 대표 메모리 반도체 기업들을 비롯한 글로벌 AI 밸류체인 기업들의 주가는 적지 않은 (솔직히 좀 많이 미친 듯한) 조정을 겪었다.

비관론자들의 핵심 논리는 명확하다. 마이크로소프트, 구글, 메타 등 빅테크 하이퍼스케일러들이 연간 수천억 달러에 달하는 설비투자(CapEx)를 집행하고 있으나, 그에 비해 실제 AI 서비스로 벌어들이는 단기 수익성이 기대에 못 미친다는 지적이다. 여기에 전력망 부족과 변압기 수급난 등 데이터센터 증설의 물리적 한계까지 겹치며 "AI 데이터센터 투자가 정점을 찍고 꺾이는 것이 아니냐"는 불안감이 확산되었다.

그런데 그게 정말이라면 이 글은 여기서 끊어져야 한다. 하지만 여기서 본질적인 질문을 던져볼까 한다.

"현재의 AI 투자는 데이터센터 하나만으로 끝나는 일회성 이벤트인가?"
"단기적인 CapEx 속도 조절이 곧 메모리 반도체 슈퍼사이클의 종말을 의미하는가?"

결론부터 짚자면 현재의 국면은 AI 투자의 '종말'이 아니라 중앙집중형 데이터센터에서 도메인 온프레미스, 피지컬 AI, 온디바이스로 시장의 외연이 넓어지는 2차 구조적 확장기의 돌입을 준비하는 단계로 보는 게 타당하다고 본다.

인프라의 한계: '학습' 중심 데이터센터 투자의 본질

지금까지 진행된 빅테크 중심의 공격적인 투자는 거대 언어 모델(LLM)과 멀티모달 모델을 만들기 위한 '사전 학습(Pre-training)' 기반 공사에 해당한다.

학습 단계에서는 수만 대의 고성능 GPU와 최고 사양의 HBM 등을 한 곳에 집약한 초대형 데이터센터가 필수적이다. 하지만 파운데이션 모델의 초기 학습 인프라가 어느 정도 갖춰진 이후에는 패러다임이 '추론'으로 전환된다.

추론 생태계의 메모리 소모성은 어떨까. 모델을 한 번 학습시키는 것은 일회성 고정비에 가깝지만, 완성된 모델을 전 세계 수억 명의 사용자와 기업이 실시간으로 활용하는 추론은 트래픽과 작업량에 비례해 끊임없이 컴퓨팅 파워와 메모리를 소모한다.

중앙집중화의 물리적 한계도 생각해야 할 요소다. 모든 AI 요청을 중앙 데이터센터로 전송해 처리하는 방식은 네트워크 레이턴시, 막대한 데이터 전송 비용, 전력 그리드의 한계에 직면한다.

결국 AI 컴퓨팅은 중앙 데이터센터 너머로 분산될 수밖에 없으며, 이는 새로운 투자 사이클을 촉발하는 기폭제가 될 수 있다.

전문 영역의 인프라 침투: 보안, 규제, 그리고 자체 구축(On-Premise)

AI가 실질적인 생산성 도구로 자리 잡으면서, 제약 및 바이오, 법률, 금융, 국방 등 전문화된 도메인에서는 퍼블릭 클라우드 의존도를 낮추고 '자체 온프레미스(On-premise) 인프라' 또는 '전용 프라이빗 클라우드'를 구축하는 흐름도 뚜렷해지고 있다.

제약 및 바이오 등 신약 개발 분야에서 미공개 임상 데이터, 분자 구조, 단백질 결합 시뮬레이션 데이터는 기업의 존폐가 걸린 핵심 지식재산권이다. 따라서 외부 퍼블릭 API로 유출될 위험을 원천 차단하기 위해 제약사 내부 연구소 단위로 고성능 AI 추론 서버 클러스터를 직접 구축하는 게 합리성을 가질 수 있다.

법률 및 특허 분야에서 의뢰인의 비밀유지의무와 기업 M&A 실사 자료 등은 폐쇄망에서 다뤄져야 한다. 이 경우 사내 판례와 계약 문서를 기반으로 경량화 모델과 검색 증강 생성 시스템을 자체 서버에서 구동해야 할 필요성이 있다.

금융 및 소버린 AI 쪽에서는 엄격한 망분리 규제를 준수해야 하는 금융기관은 물론 국가 차원의 데이터 주권과 문화적 안보를 지키기 위해 유럽, 중동, 아시아 각국 정부가 독자적인 AI 데이터센터를 세우고 있다.

이러한 흐름은 AI 투자의 주체가 소수 빅테크에서 수많은 일반 기업과 정부기관으로 다변화되고 있음을 보여준다. 이 단계에서는 초고가 HBM뿐만 아니라 고용량 서버용 RDIMM DDR5, 저전력 LPDDR, 초고속 eSSD 등 메모리 전 라인업에 걸친 광범위한 수요가 창출될 수도 있다.

피지컬 AI와 온디바이스: 물리 세계로 확장되는 2차 파동

AI의 궁극적인 지향점은 모니터 안의 텍스트 생성을 넘어 현실 세계의 물리적 실체와 상호작용하는 '피지컬 AI(Physical AI)'를 꼽을 수 있다.

휴머노이드 로봇과 스마트 팩토리 등에서 쓰일 스스로 판단하고 움직이는 휴머노이드 로봇은 3D 비전 인지, 센서 퓨전, 모션 제어를 밀리초(ms) 단위로 처리해야 한다. 통신 지연이 발생하면 사고로 이어지기 때문에 로봇 두뇌 자체에 탑재되는 초고속 저전력 메모리(LPDDR5X/6, LLW, PIM) 수요가 폭발적으로 늘어날 가능성이 있다.

SDV(소프트웨어 중심 자동차)와 미래 지향 자동차에는 완전자율주행(FSD)과 시각-언어-행동(VLA) 모델이 차량에 기본 탑재되면서, 차량 1대당 요구되는 DRAM과 저장공간(Auto-SSD)의 용량은 과거 일반 내연기관차와는 비교할 수 없을 정도로 상향 평준화되고 있다.

온디바이스 AI 기기 (스마트폰, AI PC, XR)는 인터넷 연결 없이 개인화된 비서 기능을 수행하기 위해 모바일 디바이스의 기본 DRAM 탑재량이 8GB 수준에서 12~16GB, PC는 32GB 이상으로 상향 표준화되는 추세다. 그리고 새로운 폼팩터인 LPCAMM2 모듈 도입 등 차세대 메모리 규격으로의 전환이 가속화되고 있다.

메모리 반도체 산업의 질적 체질 개선

과거 메모리 반도체는 공급 과잉과 부족에 따라 가격이 급등락 하던 대표적인 '원자재형 경기순환(Commodity Cycle)' 산업이었다. 그러나 AI 시대의 메모리는 완전히 다른 산업으로 진화하고 있다는 이야기가 많다.

'메모리 월(Memory Wall)' 병목으로 인한 중요성의 상승은 지금 일어나고 있는 일이다. AI 시스템에서는 연산 장치(GPU/NPU)의 속도보다 프로세서와 메모리 간의 대역폭 및 용량이 전체 성능의 병목을 결정한다. 메모리가 단순 보조 장치가 아니라 핵심 성능 결정 요소 그 자체가 된 것이다.

스페셜티(Specialty) 수주형 산업으로의 전환도 이전과는 확실히 다른 부분이다. HBM4, CXL(컴퓨트 익스프레스 링크), PIM(지능형 메모리), 고객 맞춤형 커스텀 LPDDR 등은 고객사와의 공동 개발 및 장기 선주문을 통해 생산된다. 이는 과거처럼 재고가 쌓여 가격이 폭락하던 시클리컬 위험을 대폭 낮춰준다. 이미 LTA 물량은 3년 이상 수준으로 쌓여있다고 알려지기도 하고 있고 말이다.

다이 페널티(Die Penalty)에 따른 공급 제약도 중요한 변수다. HBM과 같은 고성능 적층 메모리는 일반 D램 대비 웨이퍼 면적을 몇 배 더 소모한다. 메모리 제조사들이 HBM 생산 라인을 확장할수록 범용 D램의 생산 여력이 자연스럽게 줄어들어 시장 전반의 D램 공급 과잉을 구조적으로 억제하고 단가 하방을 견고하게 지지할 수 있다.

그래도 남아있는 경계해야 할 변수들

물론 구조적 성장이 장기화된다고 해서 단기적 리스크가 전혀 없는 것은 아니다. 다음과 같은 리스크 요인은 면밀히 주시해야 할 것이다:

• CapEx 소화 불량 기간(Digestion Period): 기업들이 공격적으로 인프라를 확충한 뒤, 이를 실제 비즈니스 모델과 결합해 수익성을 검증하는 과정에서 일시적인 발주 지연이나 숨 고르기 국면이 나타날 수 있다.
• 인프라 물리 병목: 글로벌 전력망 증설 지연, 냉각 설비 부족 등 물리적 인프라 한계가 데이터센터 확장 속도를 일시적으로 제한할 수 있다. 요즘은 여기에 정치적 그리고 지역민의 반대 여론 등도 병목 요인으로 추가되고 있기도 하다.
• 전통 소비재 경기: 고물가와 고금리 여파로 스마트폰이나 일반 PC 등 레거시 IT 기기의 완제품 출하량 회복이 지연될 경우 범용 메모리 수요에 단기 부담 요인이 될 수 있다.

그러니까 끝이 아니라 거대한 전환의 시작이다

결국 '메모리 반도체 호황의 끝은 정말 오는가'라는 질문에 대한 답은 "단기적인 파동은 있을지언정 사이클의 구조적 끝은 아니다"라고 생각한다.

지금 시장이 겪고 있는 조정은 1단계 중앙 데이터센터 구축 과정에서 발생한 기대치와 단기 수익성 간의 괴리를 좁혀가는 '건전한 숨 고르기'에 가깝다. 데이터센터를 넘어 기업들의 사내 폐쇄망, 각국 정부의 소버린 AI, 그리고 로보틱스와 자율주행 등 피지컬 AI로 확산되는 거대한 패러다임 전환은 이제 막 서막을 열었을 뿐이다.

원자재형 범용 메모리에서 고부가가치 스페셜티 반도체로 체질을 개선한 메모리 산업은 앞으로 전개될 2차 AI 확장기에서도 기술 혁신과 인프라의 핵심 심장으로 기능할 것이다.

자 그래서 반도체는 롱이냐라고 묻느냐면 사실 이 글은 그런 류의 이야기가 아니다고 답해야 할 것 같다. 그저 메모리 산업이 이전과는 좀 달라졌으니 투자도 계속될 수 있을 것이다는 게 이 글의 결론이다. 당연하지만 주가는 이것과는 전혀 다른 이야기인 게 주가를 움직이는 동력의 절반은 투자자들의 심리 상태이기 때문이다. 단순 CDS 프리미엄의 증가가 한국 증시에 어떤 폭탄을 가져왔는가가 적절한 예이다. 물론 거기에는 레버리지를 적극적으로 활용한 펀드와 이 구조적 취약점을 잘 이용해서 뜯어먹은 어떤 대형 금융사의 치사하지만 대단한 돈벌이 작전이 크게 관여되어 있다는 설도 많지만 말이다.

그나저나 이 글을 쓰는데 너무 오래 걸린 듯하다. 자료를 준비하는 단계에서는 한창 한국 증시에 비명이 계속 울리고 피가 낭자하는 끔찍한 세상이었는데 이 글을 어느 정도 마무리한 단계에서는 주가가 꽤나 회복되었기 때문이다. 거기다 요즘은 CAPEX 뿐만 아니라 금리까지 심리에 큰 영향을 주고 있는 상황이다. 어쨌든 그렇다고 해도 이 글의 흐름과 결론이 바뀌지는 않겠지만 말이다.

여담으로 재미있는 사실이 하나 있다. 바로 현시점에서 AI Agent의 실제 업무 성공률은 여전히 낮다는 점이다. 사실상 코딩이나 단순 정보 질의를 제외하고 AI는 아직도 많은 발전이 필요하다. 그 발전 과도기에 얼마나 많은 HBM이나 DRAM, NAND 등이 더 필요할지는 아직 잘 모르겠다. 그래서 '반도체 사이클의 끝이 올 것이라는 비관론'은 수많은 설 중 하나로 치고 그냥 넘어가도 되지 않나 생각되기도 한다.