싸진 건 연료였지, 엔진이 아니었다

딥시크가 학습 비용을 557만 달러로 끝냈다. 그런데 GPU 값도, HBM 값도, 데이터센터 투자도 전부 올랐다. 이 모순이 2026년 반도체 시장의 전부다.

시장은 "AI가 싸졌다"고 읽었다

숫자만 보면 틀린 말이 아니다.

• 딥시크 V3 — 671B 파라미터를 H800 2,048대로, GPU 시간 278.8만, 약 557만 달러에 학습 완료
• MLA(다중 헤드 잠재 주의집중) — KV 캐시 메모리를 약 93% 압축
• MoE — 671B 중 토큰당 실제 활성화는 37B(약 5.5%)
• API 출력 단가 — 100만 토큰당 $0.28, 캐시 적중 시 $0.014. 통상 $15~$30 대비 두 자릿수 배 저렴
• 키미 K2.5 — 262,144 토큰 초장문 맥락을 입력 100만 토큰당 $0.375

효율이 이 정도로 뛰면 하드웨어 수요는 줄어야 정상이다. 그게 상식이다.

그런데 청구서는 반대로 왔다

같은 기간 하드웨어 값은 이렇게 움직였다.

• B200 제조원가 — H100 $3,320 → $6,400(+93%). 이 중 HBM이 $2,900, 원가의 45%
• CoWoS-L 패키징 — $750 → $1,100(+47%)
• B200 렌탈료 — 2026년 3월 한 달 만에 시간당 $4.40 → 최고 $6.11(+24%)
• HBM 시장 — 2026년 546억 달러, 전년 대비 +58% (BofA 추정)

토큰 하나 만드는 값은 1/10로 떨어졌는데, 그 토큰을 만드는 기계값은 두 배가 됐다.

이유는 단순하다. 모델이 싸지자 사람들이 더 많이 생각시키기 시작했다. 예전엔 질문 하나에 500토큰짜리 답을 받았다. 지금 R1이나 o3 같은 추론 모델은 답을 내놓기 전에 내부적으로 수천에서 수십만 토큰짜리 '사고의 사슬'을 쓴다. 단가가 1/10이 되고 소비량이 100배가 되면, 청구서는 10배가 된다.

경제학에 이름이 있다. 제본스의 역설. 19세기에 석탄 엔진 효율이 오르자 석탄 소비가 폭증했다. 2026년 AI 시장은 그 교과서를 그대로 다시 쓰고 있다.

병목이 연산에서 메모리로 옮겨갔다

이게 한국 투자자에게 중요한 이유다.

GPU 연산 코어는 이미 충분히 빠르다. 지금 속도를 결정하는 건 메모리에서 코어로 데이터를 퍼 나르는 대역폭이다. MLA도 MTP도 결국 메모리 병목을 우회하려는 기술이고, 우회에 성공할수록 더 넓은 대역폭을 요구한다.

그래서 B200 원가의 45%가 HBM이 됐다. 값이 붙는 자리가 로직 다이에서 메모리로 넘어간 것이다.

문제는 그다음이다. HBM 1GB를 만드는 데 들어가는 웨이퍼는 일반 DDR5의 3~4배다. 8단, 16단으로 쌓고 TSV로 뚫는 공정이라 그렇다. HBM용 웨이퍼 한 장이 팹에 들어갈 때마다 일반 D램 세 장이 시장에서 사라진다. 제로섬이다.

• 한때 전 세계 D램 생산의 5% 미만이던 HBM이 2026년 4월 기준 30%까지 올라왔다
• 삼성은 HBM·LPDDR5X 전환으로 기존 DRAM 캐파를 20% 이상 감축
• HBM3E와 일반 서버용 DDR5의 가격 격차가 과거 4~5배에서 1~2배까지 좁혀졌다 (TrendForce)
• SK하이닉스 곽노정 사장은 "2027년이 업계 역사상 공급 측면에서 가장 어려운 해"가 될 것이며, 2030년 이후에도 수요가 공급을 웃돌 것이라고 공개적으로 말했다

팹 신규 증설엔 물리적으로 2~3년이 걸린다. 이 수급 불균형이 2028년 이전에 풀릴 방법은 없다.

1999년에도 전망은 맞았다

닷컴 때 "인터넷이 세상을 바꾼다"는 전망은 한 글자도 틀리지 않았다. 그래도 나스닥은 고점 대비 78% 빠졌고, 방향을 정확히 맞힌 펀드들이 먼저 청산됐다.

30년간 데스크에서 배운 게 있다면, 맞는 전망과 살아남는 포지션은 다른 문제라는 것이다. AI가 세상을 바꾼다는 이번 전망도 아마 맞을 것이다. 그것과 지금 이 가격에 들어간 자본이 살아남는 건 별개다.

값이 붙는 자리를 다시 그려야 한다

지금 벌어지는 건 AI 투자의 축소가 아니라 이동이다.

• 연산 코어 → 메모리·상호연결로. 하이퍼스케일러는 'NVIDIA 세금'을 피해 자체 칩으로 움직이고 있다. OpenAI가 브로드컴과 만든 추론 칩 '할라피뇨'는 9개월 만에 개발돼 TSMC에서 생산되며, 토큰당 추론 비용을 NVIDIA GPU 대비 약 50% 절감한다고 밝혔다. 초기 테스트에서 블랙웰·TPU와 대등한 성능이 나왔고, 연말부터 기가와트급 배치가 예정돼 있다.
• 다만 그 탈출에도 예외가 있다. 최고 성능이 필요한 학습과 고난도 추론은 여전히 HBM4가 잔뜩 실린 NVIDIA 차세대에 의존한다. SK하이닉스가 엔비디아·마이크로소프트 등과 7,500억 달러 규모 5년 장기공급계약을 잠근 이유가 그것이다. 예치금 같은 재무적 안전장치까지 걸린 계약이다.
• 락인의 뒷면은 배제다. 그 계약 바깥의 중소 클라우드·온디바이스 업체는 스팟 물량을 구하기 어려워졌다. 가격의 하방 경직성은 여기서 만들어진다.

화웨이 Ascend가 장기적으로 NVIDIA 마진을 견제할 수는 있다. 딥시크가 CloudMatrix 384에서 R1 추론을 돌려 H800을 상회하는 처리량을 보인 것은 분명한 사건이다. 다만 Ascend 910C의 물리 성능은 여전히 H100의 60% 수준이고, 2026년 생산 목표 75만 대는 전 세계 컴퓨팅 파워의 3~5%에 불과하다. 견제는 되지만 대체는 아직 아니다. 이 대목은 내 판단이지, 업계의 합의된 결론은 아니다.

본 자료는 정보 제공 목적이며 특정 자산의 매수·매도 권유가 아닙니다. 해석은 필자 개인의 견해입니다.