개요
샘 올트먼이 2014년 스탠퍼드에서 강의했던 CS183 "How to Start a Startup"을 잇는 CS153 Frontier Systems 강연에 초청받아 등장. 스케일이라는 개념을 시스템 설계 관점에서 해부하고, ChatGPT와 Codex가 각각 소비자용·엔터프라이즈용 킬러 앱이 된 과정, 지능을 새로운 유틸리티로 재정의하는 문제, 컴퓨트 부족과 미래 경제 모델까지 폭넓게 다룬다. 진행자는 스탠퍼드 CS153 담당 교수.
핵심 내용
AI 코딩 시대의 창업 방식론 재정의
- 비용 구조 변화: 적당한 토큰 지출만으로 100인 규모 최상급 엔지니어링팀이 하던 일을 할 수 있는 시대. 과거엔 스타트업의 선택지 자체가 아니었던 일
- 창업 구조의 역전: 일반적인 스타트업은 제품 회사로 출발해 성장이 둔화된 뒤 연구소를 붙이지만, OpenAI는 연구소로 시작한 뒤 스타트업을 붙여야 했던 반대 사례. 올트먼은 이 방식 자체를 일반적인 창업 모델로 권하지는 않음
- 문제 할당의 한계: 정말 좋은 아이디어는 떠올리는 순간 이미 남들도 떠올렸을 가능성이 큼. OpenAI 창업 당시 AGI를 진지하게 추구하던 곳은 전 세계 넉넉히 잡아도 4곳뿐이었다는 예시를 듦
- 새 시장 탐색: 자동 코딩 이전에는 불가능했지만 곧 수조 달러 시장이 될 수 있고, 현재는 소수 기업만 알아챈 문제가 분명 존재할 것이라고 전망. 다만 무엇인지는 자신보다 학생들이 더 잘 알 가능성이 높다며, 타인이 과제로 지정할 수 있는 아이디어와 창업자가 찾아야 할 아이디어를 구분
스케일은 그 자체로 창발적 속성을 만든다
- 경험적 관찰: 커리어에서 목격한 가장 흥미로운 현상들은 모두 "스케일이 계속 수익을 낸다"는 창발적 속성(emergent property)과 관련. 이론적 설명은 없지만 경험적으로는 반복 확인됨
- YC 사례: 배치당 기업 수를 줄여야 한다는 압박이 있었지만, 실제로는 배치 내 네트워크 효과가 규모 확대에서만 나타나는 창발적 속성이었음. 1/10, 1/100 규모에서는 존재하지 않던 현상
- AI 스케일링 저항: 모델을 진짜 대규모로 스케일링하려 했을 때 당대 최고 석학 다수가 "이건 작동하지 않는다", "과학적으로 흥미롭지 않다"고 반응
- 경험적 실행 원칙: 작은 규모에서 이미 흥미롭게 작동하는 것을 누구도 시도하지 않은 규모로 밀어붙일 수 있다면, 만족스러운 이론이 없어도 대체로 시도할 가치가 있었다고 회고. 창업자들이 구체적 이유 없이 대규모화를 주저하는 경향을 과소 탐색된 기회로 봄
- 시스템 설계 관점의 장애물: 스케일을 키우면 예측 불가능한 속도로 뭔가 깨지기 시작함. 1만~10만 GPU에 걸친 단일 학습이 가능한가라는 기술적 의문, 막대한 자본 요구, "왜 여러 프로젝트에 나눠서 더 배우지 않는가"라는 연구 문화적 반발까지 각 장애물을 하나씩 격파하는 과정이 필요했다고 설명
인간 조직을 스케일링하는 법
- 명확한 목표·계획·의사결정 원칙: 딥러닝 스케일링에 베팅하기로 결정했을 때, "이게 우리 방향이고 틀리면 실패할 것이나 이렇게 간다"는 명확성이 조직을 움직이는 핵심이었다고 강조
- 지수함수 사고의 어려움: 인간은 진화적으로 지수함수를 직관적으로 이해하도록 설계되지 않음. 스케일링 법칙, 매출, 조직 복잡도가 계속 지수적으로 성장할 수 있다는 것을 사람들에게 원리부터 설득하는 데 상당한 시간이 필요했다고 언급
ChatGPT 탄생 스토리
- GPT-3 API의 실패: GPT-3 자체로는 제품화할 방법을 찾지 못해 API로 공개, 다른 개발자들이 제품을 찾아주길 기대. 초기엔 무반응, 한 달 뒤 트위터에서 갑자기 확산
- 품질 대비 관심의 괴리: 당시 GPT-3/3.5는 지금 기준으로 매우 형편없는 수준이었으나 폭발적 관심을 받았음. 실제로 작동한 유일한 비즈니스는 카피라이팅 정도였고 그마저 인상적이지 않았음
- 숨은 니즈 발견: 개발자들이 API를 실제 비즈니스에는 못 쓰면서도 API 키로 그냥 채팅하는 패턴이 관찰됨. 당시 GPT-4는 이미 완성돼 있었고, 그 사이 공개할 GPT-3.5와 지시 이행을 개선한 사후학습 방식도 준비돼 있어 이를 챗봇으로 묶는 아이디어를 실행
- 연구 데모에서 폭발적 성장으로: GPT-3.5 기반 챗봇은 원래 API 판매를 위한 연구 데모 의도였으나 예상 밖으로 바이럴. 5일간 트래픽이 치솟고 꺼지길 반복하되 매일 전날보다 높은 고점을 만드는 패턴을 보며 "이건 진짜 히트"라고 확신
- 회사와 제품의 동시 구축: 5일째 전사 비상 상황을 선언한 뒤 두 달간 스케일링에 집중. 장기 사업 모델을 설계하기 전에 우선 컴퓨트 비용을 감당할 수 있도록 유료화를 도입했고, 그 임시 대응도 실제 사업으로 작동했다고 회고
Codex와 코딩이 엔터프라이즈 킬러 앱이 된 이유
- 원래 로드맵: ChatGPT 이전 계획은 코드 작성 능력에 올인하는 것. 내부 믿음은 "코딩=디지털 세계 제어 수단, 로봇=물리 세계 제어 수단"이라는 이분법
- 변곡점 시점: Codex 자체는 올해 초부터 좋아졌지만, GPT-5.5 시점에 사람들이 실제로 놀라운 결과물을 만들어내는 진짜 변곡점이 왔다고 언급
파이프라인과 연구 자동화 로드맵
- 현재 파이프라인: 사전학습→중간학습→사후학습→RL/지도 피드백 구조가 현재 표준이라 인정하면서도, "이게 최적해처럼 느껴지진 않는다"며 언젠가 대대적 재설계가 있을 것으로 예상
- 파이프라인 재설계 주체: 최적 파이프라인이 무엇인지는 AI가 풀어야 할 연구 문제라고 답변. 현재 구조를 유지한 채로도 AI가 실질적인 연구를 수행하는 문턱은 넘을 수 있다고 판단
- 자동화 연구 목표: 2026년 9월까지 A100 환산 50만 GPU 규모 컴퓨팅을 "AI 리서치 인턴"으로 활용하는 것이 목표, 2028년 3월까지는 완전히 새로운 아키텍처를 스스로 고안하는 엔드투엔드급 AI 연구자를 목표로 제시
지능의 유틸리티화 비유
- 전기 유틸리티 역사와의 비교: 초기 전기 회사들은 "전기를 판다"고 마케팅하지 않고 "밤의 조명"을 판다고 설명. 지능도 아직 세상에 통하는 적절한 비유를 찾지 못했다고 인정
- 미래 상 제시: 모든 기업·개인·정부가 지능에 접근해 상시로 활용하는 "OpenAI 토큰 구독" 형태를 상정
- 컴퓨트 vs 토큰 유틸리티 구분: Jensen Huang이 컴퓨트(칩)를 유틸리티로 본 것과 달리, 소비자·기업 입장에서는 토큰 또는 그보다 한 단계 위(상시 작동하는 에이전트) 수준에서 사고하게 될 것이라고 구분. 휴대폰 요금제에서 기지국 하드웨어를 신경 쓰지 않듯, 하드웨어 계층은 추상화될 것이라는 전망
원 퍼슨 프론티어랩 프로젝트 조언
- 추론 스택 투자 부족: 학습 아이디어에는 이미 많은 인재가 몰려 있어 좋은 모델은 나올 수밖에 없지만, 저렴하고 풍부한 지능을 대규모로 전달하는 추론 영역은 상대적으로 저평가·저투자 상태라고 지적, 학생들에게 이 영역을 파보라고 권유
- 보험사 비유: 프론티어 랩들은 앞으로 상당 부분 "보험 회사"처럼 변해야 할 것이라는 언급(컴퓨트 수요 변동성 관리 맥락)
Yann LeCun의 "LLM은 막다른 길" 비판에 대한 반박
- 부분적 진실 인정: LLM이 초장기 호라이즌·고차원 판단 과제에서는 인간보다 훨씬 못하다는 점은 인정
- 반례 제시: 최근 자사 모델이 오랜 기간 뛰어난 학자들도 풀지 못한 수학적 추측(conjecture)을 반증한 사례를 언급하며 "수학이 끝났나"라는 반응이 나온다고 소개
- 세대적 편향 비판: 스케일링이 무엇을 만들어내지 못할지 지나치게 확신했던 세대의 과학자들 때문에 분야의 발전이 지체됐다고 진단, "지금 LLM 스케일링에 반대 베팅하는 건 상당히 오판"이라고 단언
- 월드 모델의 역할: 로보틱스 등에는 월드 모델이 분명 중요하다고 인정하면서도 LLM 무용론과는 별개 문제로 구분
교육 시스템에 대한 실망
- 예측 오차 고백: ChatGPT 출시 1년 정도면 부정행위 국면을 지나 교육 시스템이 스스로 재설계될 것으로 예상했으나, 3년 반이 지난 지금까지 유의미한 구조적 변화를 찾기 어렵다고 인정
- AI를 포함한 과제 설계: 학생이 AI를 사용해야만 풀 수 있으면서도 더 많이 사고하고 새로운 것을 찾아내야 하는 프로젝트형 교육으로 빠르게 바뀔 것으로 예상했으나 실제 전환은 일어나지 않았다고 평가
- 필요한 방향: 사전 AGI 시대 방식으로 계속 가르치고 평가하면 사고력 위축으로 이어질 것이라 경고. 다만 글쓰기·프로그래밍처럼 "메타 스킬"로서 여전히 가치 있는 영역은 AI가 더 잘하더라도 계속 가르쳐야 한다고 구분
향후 10년 시나리오와 확률
- 민주화 vs 소수 집중 포크: 지능 기술이 소수 기업에 집중되는 기본적인 끌개 상태(attractor state)가 존재하며, 이는 불안정하고 불공정한 결과라고 진단. OpenAI 자신도 그 소수 기업 중 하나가 될 수 있음에도 이 상태를 용납해선 안 된다고 강조
- 집중 경로의 시스템 위험: 소수 기업이 막대한 부와 의사결정 권한을 동시에 갖는 구조는 가치 정렬 실패에 취약한 세계를 만든다고 지적. 모두의 가치와 행위 주체성을 반영하려면 기술을 광범위하게 배포하는 유틸리티 모델이 필요하다는 논리
- 확률 제시: "민주화 경로로 갈 확률을 80%로 본다"면서도, 안전을 명분으로 한 강한 반대 목소리와 권력 집중을 원하는 세력이 존재한다고 인정
- 경제 모델 포크: 고정 월 현금 배당식 UBI보다 지분 소유 방식이 인간 심리에 더 잘 맞는다고 판단, 노동에서 자본으로 레버리지가 이동하는 흐름 속에서 국가·세계 단위 "시민 부 펀드(citizens wealth fund)"를 통해 자본주의 지분을 시민이 나눠 갖는 모델을 제안
컴퓨트 부족 현황
- 현재 스프레드: H100·Blackwell의 장기 예약가 대비 스팟가 스프레드가 한때 5배까지 벌어졌으며, H100을 구하려 해도 해당 연도 물량이 사실상 소진된 심각한 수요 초과 상태라고 확인
- 공급 vs 수요 경쟁: 기존 하드웨어의 추론 효율 개선과 대규모 신규 하드웨어 공급이 예상되지만, 수요 증가가 이를 넘어설 수 있다고 우려하며 "사람들이 이 문제에 대해 더 걱정해야 한다"고 언급
- 전기 수요와의 유비: 전 세계 전력 수요가 가격에 따라 크게 달라지듯, 모델이 충분히 똑똑해지고 충분히 저렴해지면 지능 수요의 상한이 사실상 사라질 수 있다고 전망. 개인이 에이전트 10개, 100개를 동시에 굴리려 할 수 있기 때문에 "가격이 내려가는 한 부족은 계속될 것"이라고 진단
투자자 관점 시사점
- 매출 동인: ChatGPT·Codex 사례는 연구 데모에서 출발해 소비자·엔터프라이즈 킬러 앱으로 전환된 경로를 보여줌. 코딩이 엔터프라이즈 채택의 최전선이라는 진단은 코딩 관련 AI 도구·인프라 기업 밸류에이션에 참고할 근거
- 자본집약도·비용 구조: 추론 단의 저비용·대규모화가 상대적으로 저평가된 투자 영역이라는 발언은 GPU 클라우드, 추론 최적화 스타트업, 반도체 공급망에 대한 시사점
- 컴퓨트 공급-수요 미스매치 지속 전망: H100/Blackwell 스팟-장기계약 가격차 5배, "가격이 내려가는 한 부족은 계속된다"는 진단은 데이터센터·반도체·전력 인프라 섹터의 구조적 공급 부족 테마로 해석 가능
- 비즈니스 모델 함의: 지능을 유틸리티로 재정의하려는 시도(토큰 구독 모델)는 향후 OpenAI 및 경쟁사들의 과금 구조가 종량제에서 구독형·에이전트 상시 운용형으로 진화할 가능성을 시사
- 경쟁 지위: OpenAI가 반복적으로 "예상보다 늦게 히트를 확인하고 전사적 비상 체제로 전환"하는 패턴(GPT-3 API 실패 → ChatGPT 급성장 대응)을 보였다는 점은 조직의 스케일 대응 민첩성이 핵심 경쟁 우위임을 시사
기억할 발언
- 스케일에 대한 경험적 확신: "왜 그런지 만족스러운 이론은 없지만, 경험적으로는 사실이다. 내 커리어에서 목격한 가장 흥미로운 일들은 전부 스케일이 계속 수익을 낸다는 창발적 속성과 관련 있었다."
- ChatGPT 탄생 순간: "다섯째 날이 되자 나는 이게 어떻게 돌아가는지 알았다. 킬러 제품이 우리 손에 있다는 걸 알았다."
- LLM 무용론 반박: "지금 시점에 LLM 스케일링에 반대 베팅하는 건 상당히 오판이라고 느껴진다."
- 교육에 대한 실망: "솔직히 말해 ChatGPT 출시 이후 3년 반 동안 교육 시스템 전체에서 유의미한 구조적 변화를 찾기 어려웠다. 이건 내 예측 오류였다."
- 미래 포크에 대한 확신: "세계는 이 기술이 소수 기업에 집중되지 않는 데 이해관계를 가져야 한다. 민주화 경로로 갈 확률을 80%로 본다."
- 컴퓨트 부족 전망: "모델이 충분히 똑똑해지고 충분히 저렴해지면, 지능에 대한 수요는 사실상 무한하다고 생각한다. 가격이 내려가는 한 부족은 계속될 것이다."