딜런 파텔 — AI 컴퓨트 스케일링의 최종 병목은 EUV와 칩 제조

개요

Dwarkesh Patel 팟캐스트 출연분. 빅4 CapEx 6,000억 달러의 실체와 OpenAI-Anthropic 컴퓨트 확보전에서 출발해, GPU 감가상각 논쟁(H100은 3년 전보다 오늘 더 가치 있음), 엔비디아의 로직·메모리 선점, 구글이 TPU 100만 개를 Anthropic에 판 실기, 그리고 병목이 전력·데이터센터에서 반도체 제조(궁극적으로 ASML EUV)로 되돌아온다는 구조 전망까지 2시간 30분 풀커버. 메모리 크런치·전력 대안·우주 데이터센터·중국·화웨이·대만 리스크 각론 포함.

핵심 내용

CapEx 1조 달러와 컴퓨트 확보 전쟁

• 빅4 CapEx 6천억달러, 공급망 전체 1조달러: 공급망 전체로 보면 1조 달러 규모, 미국 올해 증설 약 20GW
  • CapEx 상당분은 선행 지출: 구글 1,800억 달러 중 상당액이 28-29년 터빈 선수금, 27년 데이터센터 건설비, PPA 계약금
  • 컴퓨트 임차 비용은 GW당 연 100-130억 달러: OpenAI 1,100억·Anthropic 300억 달러 조달은 각자 올해 컴퓨트 지출을 커버하는 수준
• Anthropic 컴퓨트 비상: 현재 2-2.5GW, 연말 5-6GW 도달 필요
  • 최근 월 40-60억 달러 매출 증가 추세 -> 10개월간 600억 달러 추가 가정 시 인퍼런스 컴퓨트 400억 달러 = 4GW 증설 필요(훈련 플릿 동결 가정)
  • Dario의 보수적 커밋이 부메랑: OpenAI는 Microsoft·Google·Amazon 외 CoreWeave·Oracle·SoftBank Energy(데이터센터 첫 건설)·NScale까지 공격 계약, 연말 컴퓨트는 Anthropic보다 약간 위
  • Anthropic 급조 경로: 단기계약 만료 물량 재계약, 하이퍼스케일러 잔여 캐파, Bedrock·Vertex·Foundry 경유 레베뉴셰어 - 사실상 50% 마크업 부담
• H100 가격 인플렉션: 일부 AI 랩이 2-3년 계약을 시간당 2.40달러에 체결
  • 5년 TCO 기준 원가 1.40달러 -> 마진 급등, Together AI·Nebius 등 네오클라우드의 Hopper 잔여 물량 크라우드아웃
  • 작년 하반기 Oracle·CoreWeave 주가 급락과 크레딧 시장 동요는 최종 구매자 지불능력 의심 때문: 대형 조달로 해소

GPU 가치 역설 — 감가상각 논쟁

• 마이클버리 감가상각 2-3년 주장 반박: Michael Burry류 감가 2-3년 주장 vs 반박
  • TCO 렌즈: H100 5년 감가 기준 시간당 1.40달러, 2달러 계약 시 GM 약 35%. 신형 칩 무한 공급 가정 시 Hopper 가치는 블랙웰 양산기 1달러 -> Rubin 양산기 0.70달러로 하락하는 게 맞음
  • 실제론 반도체 공급 제약 탓 칩 가격은 대체재가 아니라 그 칩이 오늘 창출하는 가치로 결정: H100은 3년 전보다 오늘 더 가치 있음
• 가치 원천 = 모델 개선: GPT-5.4는 GPT-4 대비 희소 MoE로 액티브 파라미터 작고 서빙 저렴 - H100 장당 더 많은 토큰, 더 높은 품질
  • 토큰 TAM은 GPT-4 수십억-수백억 달러 vs GPT-5.4 1,000억 달러 이상
  • H100 연산 1e15 FLOPS는 인간 두뇌 추정치급: 지식노동자 연 6자리 달러 가치 가정 시 AGI급 도달하면 H100은 몇 달 만에 본전 회수
• Alchian-Allen 효과: GPU라는 고정비 상승 -> 최고 모델과 차선 모델의 상대가격 격차 축소 -> 수요·매출 모두 최상위 모델로 쏠림(실제 현재 물량·매출 전부 최고 모델 집중)

마진 배분 지도

• 장기계약 선커밋 기업이 마진 우위 고정: 단 마진의 무게중심은 계속 이동
  • CoreWeave 평균 계약기간 3년 이상, 물량 98% 이상이 3년 초과: 가격 플렉스 불가 딜레마
  • 증설분이 기존 플릿 압도: 메타 올해 증설량 = 2022년 왓츠앱·인스타·페북 전체 서빙 플릿. OpenAI는 0.6 -> 2 -> 6+ -> 12GW 경로 - 신규 물량은 신가격 거래라 인프라 사업자가 마진 수취
  • 업스트림 권력: 엔비디아 장기계약 잔고 900억 달러, 메모리 벤더와 3년 계약 협상 중. 메모리는 가격 2-3배 추가 인상 전망, TSMC·ASML은 미인상(ASML은 성능 향상분 이상 가격 올린 적 없는 관대한 린치핀)
• 모델 벤더 마진도 올해 급등: 캐파 제약으로 수요 파괴 강제(Anthropic 현 성장속도 지속 불가, Claude 신뢰도 저하도 컴퓨트 제약 탓)

엔비디아 선점과 구글의 실기

• 엔비디아 로직·메모리 선점: 27년 N3 웨이퍼 캐파 70% 이상 확보 전망
  • 취소불가·반품불가 계약, 선수금, PCB(중국 Victory Giant)·메모리 캐파까지 직접 실사: 시장 시그널을 가장 일찍 보냄. 구글·아마존은 칩 지연(Trainium 등)으로 밀림
  • 보완 산업 파편화 전략: 여러 네오클라우드에 할당 분산해 단일 구매자 권력 차단 - Anthropic·OpenAI도 RL 환경·데이터 공급사를 여럿 시딩하는 동일 전략
• TSMC 배분 논리: 안정 성장인 CPU(아마존 Graviton) 우대, 고성장·고변동 AI 칩(Trainium)은 후순위 - AMD도 CPU가 GPU보다 우대. 애플은 2nm 이동·메모리 원가 압박으로 3nm 비중 축소
• 구글 TPU 사건: Ironwood(TPU v7) 100만 개를 Anthropic에 판매
  • 구글 출신 Anthropic 컴퓨트 팀이 가치 재평가를 먼저 포착: 3분기 초 6주간 TPU 캐파 요청 수차례 급증, 구글이 TSMC에 사유 설명까지
  • Nano Banana·Gemini 3로 지표 폭등 후 각성했으나 TSMC 답변은 26년 5-10% 추가가 한계, 실질 증량은 27년. Gemini ARR은 1-3분기 미미 -> 4분기 50억 달러
  • 이후 초강경 선회: 에너지 회사 인수, 터빈 선수금, 전력 확보 부지 매집, 유틸리티 장기계약

최종 병목 = 칩 제조, EUV 산수

• 병목 변천: CoWoS -> 전력·데이터센터 -> 칩 제조로 복귀
  • 팹 건설 2-3년 vs 데이터센터 1년 미만(아마존 최단 8개월): 리드타임 비대칭
  • 모바일·PC 캐파를 AI로 돌려쓰던 여지 소진: 엔비디아가 이미 TSMC·SK하이닉스 최대 고객
• EUV 산수: 1GW당 3.5대
  • Rubin 1GW = 3nm 웨이퍼 55,000장 + 5nm 6,000장 + DRAM 170,000장. 3nm는 마스크 약 70층 중 최첨단 EUV 20층 - 로직만 110만 회, 메모리 포함 총 200만 EUV 패스
  • EUV 처리량 시간당 75장·가동률 90% -> 1GW당 3.5대. 1GW 데이터센터 500억 달러 vs EUV 3.5대 12억 달러 - 극단적 레버리지
  • 다운스트림 증폭: 엔비디아 분기 이익 400억 달러(연환산 1,600억) - TSMC 3년 CapEx 1,000억 달러의 일부만 쓰고 창출
• 2030년 시나리오: 기설치 250-300대 + 연 70 -> 80 -> 100대 증산 = 누적 700대 -> 전량 AI 배정 시 연 200GW가 상한
  • Altman의 주당 1GW(연 52GW) 목표 = 시장의 25% 점유: 올해 블랙웰 25%를 이미 가져가는 그에겐 정합적 수치

EUV라는 기계와 7nm 회귀론

• 인류가 양산하는 가장 복잡한 기계, 대당 3-4억 달러: 광원(샌디에이고 Cymer)·레티클 스테이지(코네티컷 윌밍턴)·웨이퍼 스테이지·광학계(Carl Zeiss)
  • 주석 액적을 레이저로 3연타해 13.5nm EUV 방출, 몰리브덴·루테늄 다층 미러 렌즈 18개(결함 제로 요구, 연 수백-천 개의 장인 생산), 레티클·웨이퍼가 반대방향 9G로 26x33mm 필드 스캔, 레이어 간 오버레이 3nm - 부품 정밀도는 1nm 미만
  • 아인트호벤 조립 -> 분해 -> 항공기 여러 대 수송 -> 현장 재조립·검증 수개월. 공급망 협력사 1만 곳 이상, Zeiss 담당 인력 1,000명 미만 - 속성 양성 불가
• 공급망은 AGI-pilled 아님: 랩이 X를 원하면 엔비디아는 X-1, 하류로 갈수록 X-1 또는 X를 2로 나눈 수준 - 채찍 반응 시차 구조적. 대체 후보는 싱크로트론 기반 13.5nm 또는 7nm X-ray 리소뿐(단순 대체 확률 극히 낮음), 터빈 선점(Siemens·Mitsubishi·GE Vernova)식 EUV 옵션 매집 아비트라지는 ASML이 응하지 않을 것
• 7nm 회귀론 반박: 본질은 FLOPS가 아니라 네트워킹
  • A100 312 TFLOPS -> B100 1페타+ (FP16 고정 시 3배)지만 세대별 설계 타깃 상이(A100 FP16 -> Hopper FP8 -> Rubin FP4·FP6)
  • DeepSeek·Kimi K2.5의 100토큰/초 인퍼런스에서 Hopper 대 Blackwell 실성능 격차 20배: 같은 8비트 모델인데도 스케일업·네트워킹 차이가 지배
  • 통신 사다리: 칩 내부 수십-수백 TB/s > 칩 간 약 1TB/s > 랙 간 약 100GB/s - 칩 경계 넘을 때마다 손실. DeepSeek 프로덕션은 GPU 160장 분산 서빙
  • 패키징 확장: B200 2다이, Rubin Ultra 4다이, 테슬라 Dojo 웨이퍼스케일 25칩(CNN 최적·트랜스포머 부적합), 화웨이 Ascend 910C/D도 같은 노선 - 단 7nm에서 되는 건 3nm에서도 됨

메모리 크런치

• 2026년 빅테크 CapEx의 30%가 메모리: 엔비디아 마진 스택 감안해도 이례적 비중
• HBM 불가피론: HBM4 스택 2048비트 폭·13mm 쇼어라인·10GT/s = 스택당 2.5TB/s vs 동일 면적 DDR5는 64-128GB/s - 자릿수 차이라 커머디티 DRAM 대체 불가
  • 제약 4요소: FLOPS·네트워크 대역폭·메모리 대역폭·메모리 용량(최적점 탐색용 오픈소스 InferenceX 운영)
  • Claude Slow 모드(Opus 4.6 가격 4-5분의 1, 속도 2분의 1) 이론상 가능하나 아무도 느린 모델 안 씀: 최고가치 작업일수록 시간 민감
• 메모리 부족으로 소비자수요 파괴 진행: 소비자 수요 파괴 진행
  • 아이폰 DRAM 12GB: GB당 3-4달러 -> 12달러면 원가 +100달러, NAND 포함 +150달러 -> 소비자가 +250달러 요인
  • 스마트폰 판매 연 14억 -> 11억 -> 올해 8억 -> 내년 5-6억 대 전망, Xiaomi·Oppo 중저가 물량 반토막 관측. 소비자 기기가 메모리 수요 절반 이상 - 저가부터 파괴되며 DRAM이 AI로 재배분, DRAM 상승폭이 NAND보다 큼
• 공급 공백: 2023년 메모리 적자로 3-4년간 신규 팹 미착공 -> 가격 반영 1년 + 착공 결정 3-6개월 + 건설 2년 = 유의미한 신규 캐파는 2027년 말-2028년
  • Micron은 대만 레거시 팹 인수, 하이닉스·삼성은 기존 팹 증설 무리수. EUV 원가 비중은 N3 로직 약 28-30% vs DRAM 10%대
  • 3D DRAM 로드맵(6F -> 4F -> 2020년대 말 3D): EUV 패스당 비트 급증 희망이나 팹 대규모 재장비 필요 - 리소 원가 비중은 15년간 17% -> 30%로 상승 추세

전력·노동·우주 데이터센터

• 전력은 병목 아님: 해법이 너무 많음
  • 콤바인드사이클 3사(GE Vernova·Mitsubishi·Siemens) 연 60GW 외에 항공파생 터빈(Boom Supersonic-Crusoe 협업), 왕복동 엔진 10개사(Cummins류), 선박 엔진(Nebius가 뉴저지 마이크로소프트 데이터센터에 적용), Bloom Energy 연료전지, 태양광+배터리, 풍력+배터리 - 가스 발전 벤더만 16곳 추적, 데이터센터향 수주 수백 GW
  • 피크 셰이빙: 배터리·피커로 연간 몇 시간의 피크만 흡수하면 미국 그리드(테라와트급)의 20% = 약 200GW 해방. 데이터센터 비중 현재 3-4% -> 2028년 10%. 증설분 절반은 behind-the-meter로
  • 비용 감내 가능: 콤바인드사이클 kW당 1,500달러 대비 대안이 3,500달러라도 Hopper 시간당 원가 1.40 -> 1.50달러 - 모델 개선 속도 대비 무시 가능
• 진짜 제약은 노동: Abilene 1.2GW(Crusoe가 OpenAI용 건설) 피크 인력 5,000명 -> 100GW면 40만 명. 미국 전기공 80만 명 - 임금 2-3배 상승 전망, 고숙련 인력 수입 예상
  • 해법은 모듈화: 2MW 블록·행 단위 스키드(랙+네트워킹+쿨링+전력 통합)를 한국·동남아·중국 공장에서 제작 후 선적. 차세대 엔비디아 Kyber 랙은 1MW급
• 우주 데이터센터는 이번 10년내 실현 어려움: 우주 데이터센터는 이번 10년 아님
  • Blackwell 배치분의 약 15%가 RMA 대상: 지상 검증·분해·발사·재구성으로 6개월 지연 = 유효수명 5년의 10% 손실, 가장 가치 높은 초기 6개월 상실
  • Starlink 위성 간 100Gbit/s로는 수백-수천 칩 분산(스파스 MoE, 전문가 수백-수천 개) 감당 불가: 네트워킹이 클러스터 원가 15-20%인데 우주 레이저는 양산형 플러거블 트랜시버 대비 고가·저신뢰
  • 지상은 전력밀도 1 -> 2W/mm2로 올려 웨이퍼당 토큰 20% 추가 확보 가능(고급 콜드플레이트·이머전 쿨링): 우주에선 곤란. 칩 병목 해소·에너지가 진짜 병목이 되는 시점에나 10배 게임 성립

중국·화웨이·대만 리스크

• 중국 리소 자립: 7nm·14nm 캐파 전량 ASML DUV 의존. 2030년 DUV 완전 자급 확실시(연 100대 수준 추정 vs ASML 연 수백 대), EUV는 작동 시제 수준 - ASML도 양산 지옥 통과에 5-7년 소요된 영역
• 타임라인 베팅: 짧으면 미국 승, 2035년급 장기면 수직계열화한 중국 승
  • 미국 논거: 추론 체인 비공개 판매(자동화 화이트칼라 노동)로 중국의 증류가 어려워짐 + OpenAI·Anthropic 내년 말 각 10GW 도달 - 중국 랩은 그 속도로 증설 못 함
  • Anthropic ARR 200억 달러·마진 50% 미만 -> 컴퓨트 임차 130-140억 달러 = 배후 CapEx 500억 달러: 중국은 이 규모 선행투자 부재. 미국 CapEx 연 1조 달러 근접이 ROIC로 확인되면 경제성장률 격차로 연결
• 화웨이: 7nm AI 칩 최초(Ascend가 TPU보다 2개월, A100보다 4개월 선행). 소프트웨어 인재·네트워킹·AI 연구자·자체 팹·토큰 판매 시장까지 전부 보유한 유일 기업 - TSMC 접근 가능했다면 엔비디아 추월 가능성, 2019년 제재 없었으면 애플 제치고 TSMC 최대 고객 됐을 것
• 대만 유사시: 엔지니어 전원 공수해도 팹 소실 시 세계 최고 수직화 공급망은 중국이 됨 - 서방 연 증설 능력이 인텔+삼성 합산 10-20GW로 추락, 리소 장비 자체가 대만산 칩을 쓰는 자기꼬리 구조라 글로벌 GDP 수축

모델 크기의 경제학과 기타

• 파라미터 스케일링 정체 원인은 RL피드백루프: 파라미터 스케일링 정체의 본질 = RL 피드백 루프
  • 랩 컴퓨트 배분은 인퍼런스(매출)·개발(프리트레인+RL)·리서치: 동일 스케일 모델 비용이 연 10배씩 싸지므로 리서치 비중 극대화가 정답
  • 5T 모델의 RL 롤아웃은 1T 모델의 5배 부담: 작은 모델이 RL 빨리 끝나 연구·개발에 조기 재투입, 어느 하드웨어든 소형 우위(가장 빠른 테이크오프 경로)
  • 구글만 최대 모델(Gemini Pro가 GPT-5.4·Opus보다 큼) 운영: TPU 단일 플릿과 수천 칩 스케일업 도메인 덕분. Anthropic은 H100·H200·Blackwell·Trainium·TPU 혼합 플릿
• 스케일업 도메인 비교: 엔비디아 8칩(H100) -> NVL72 72칩 all-to-all, 구글 TPU는 토러스 토폴로지(인접 6칩 연결)로 v4 4,000칩 -> v7 8-9,000칩 포드, 아마존은 중간형 - 3사 모두 드래곤플라이 토폴로지로 수렴 중
• N2·A16: 올해 N2는 애플 과반(AMD가 CPU·GPU 칩렛으로 소량 진입), A16 첫 고객은 애플 아닌 AI - 애플은 TSMC 최우선 고객 지위 상실, 선예약·선불 요구받는 일반 고객화 진행
• 로봇·SemiAnalysis 비즈니스 확장: 로봇·SemiAnalysis 비즈니스
  • 로봇 지능은 클라우드 집중이 효율적(배치 처리·대형 모델): 로봇 온보드 칩은 최첨단 저전력 필수라 데이터센터와 캐파 경합, 휴머노이드 수백만 대면 연 200GW 상한 잠식. 일론은 대만 리스크 회피 겸 삼성 텍사스에 로봇 칩 대형 계약, 엔비디아 신규 LPU도 삼성 파운드리
  • SemiAnalysis 매출 60% 산업(랩·하이퍼스케일러·반도체 체인)·40% 헤지펀드. 메모리 크런치 콜은 1년 반-2년 전부터(리즈닝 -> 롱 컨텍스트 -> KV 캐시 폭증 논리) - Leopold Aschenbrenner는 수치가 너무 낮다고 말하는 유일한 고객

투자자 관점 시사점

• EUV 산수(1GW당 3.5대, 2030년 누적 700대 = 연 200GW 상한)가 맞다면 병목의 최종 수혜는 리소 체인: ASML은 성능 향상분만큼도 가격을 안 올려온 상태라 마진 상방이 미반영 옵션, 노광의 웨이퍼 원가 비중도 구조적 상승(15년간 17% -> 30%)
• DRAM 슈퍼사이클은 구조적: 신규 팹 유의미 가동이 2027년 말-2028년까지 공백, 가격 2-3배 추가 인상 발언 - 하이닉스·삼성·Micron과 HBM 체인 우위, NAND보다 DRAM 탄력 큼. 반대편에서 스마트폰 연 5-6억 대 시나리오면 중저가 세트·부품 체인 실적 쇼크 경계
• 마진 이동 추적이 핵심: 신규 증설분이 신가격으로 거래되는 구조라 마진은 클라우드 -> 엔비디아·메모리로 상방 이동 중 - 장기계약에 묶인 네오클라우드(CoreWeave 물량 98%가 3년+)는 가격 플렉스 제한, GPU 감가는 오히려 장기화(H100 가치 상승) - 감가 단축론 기반 베어 논리 재검토 필요
• 전력은 병목 아니나 마진은 남는 시장: 터빈 3사 외 왕복동·선박엔진·Bloom Energy·behind-the-meter(증설분 절반)까지 수혜 분산 - 데이터센터 모듈화(2MW 블록·행 단위 스키드의 아시아 공장 제작)와 전기공 임금 2-3배 상승이 차기 테마
• 랩 간 격차 변수: 컴퓨트 선커밋 여부가 마진·모델 품질 격차로 직결(OpenAI 우위, Anthropic 레베뉴셰어 마크업 부담, 구글은 각성 후 전력·터빈 초강경 매집) - 26년 TSMC 추가 여력 5-10%뿐이라 캐파 재배분 뉴스가 단기 주가 트리거

기억할 발언

• (15:36) 개선이 여기서 멈춘다 해도 H100의 가치는 이제 GPT-4가 아니라 GPT-5.4가 뽑아내는 가치에 연동됨 - H100은 3년 전보다 오늘 더 가치 있음
• (53:15) OpenAI와 Anthropic은 X가 필요하다는 걸 알지만 엔비디아는 그만큼 AGI-pilled가 아니라 X-1을 만들고, 공급망 아래로 갈수록 모두 X-1, 어떤 곳은 X의 절반을 만듦 - 채찍이 반응하는 데 시차가 생기는 이유