Where is AI Taking Us? | Sam Altman & Vinod Khosla

서론 및 시작

• 비노드 코슬라가 샘 알트만을 환영하며 4년 연속 참여에 대한 농담으로 대화를 시작함.

1. 미래 전망: 2035년 ~ 2050년

• 기술 변화의 속도: 샘 알트만은 식사를 함께하는 등 인간의 기본적인 경험은 크게 변하지 않겠지만, 기술 변화의 속도는 현재의 프레임워크로 상상하기 어려울 것이라 예측함. 다이슨 스피어 건설이나 나노봇과 같은 급진적인 변화가 일어날 수 있다고 언급함.
• 기업 생태계의 대변혁:
  • 코슬라는 2030년대에 포춘 500 기업의 소멸 속도가 역사상 가장 빠를 것이라고 주장함.
  • 알트만은 이에 동의하며, 특히 소프트웨어 분야의 변화가 클 것이라고 전망함. 사용자가 필요할 때마다 AI 챗봇에 입력해 즉시 소프트웨어를 만들어 쓰는 시대가 올 것이며, 이는 기존 SaaS 기업 모델을 근본적으로 바꿀 것임.
  • 물리적 세계(예: 공급망 관리)의 변화는 더 오래 걸리겠지만 2040년경에는 충분히 변할 것이라는데 동의함.
• 직업의 미래:
  • 코슬라는 AI 의사, 변호사, 엔지니어 등 지적 노동 분야의 직업 대부분을 AI가 최소 80% 이상 수행할 것이라고 전망함.
  • 알트만은 일부 직업은 사람들이 AI가 하기를 원치 않거나, 오히려 사람이 하기를 특별히 원하게 될 것이라고 반박함. 인간은 다른 사람에게 신경 쓰는 깊은 생물학적 동기가 있기 때문임.
  • 교사 예시: 알트만은 뛰어난 AI 교사보다 평범한 인간 교사가 더 큰 동기를 부여할 수 있다고 주장함. 자신에게 관심을 갖고 개인적으로 연결되는 인간 교사의 영향력이 매우 컸다는 개인적 경험을 근거로 제시함. 코슬라는 AI 교사가 학생을 훨씬 더 잘 이해하고 더 많은 것을 할 수 있다며 이견을 보임.
  • 투자자 예시: 알트만은 AI가 자신보다 뛰어난 투자자가 될 것은 의심의 여지가 없지만, 코슬라와 저녁 식사를 하고 그에게 격려를 받는 것이 AI보다 더 동기부여가 된다고 말하며 인간관계의 중요성을 재차 강조함.
  • 결론적으로, AI가 거의 모든 직업을 수행할 수 있게 되더라도, 인간의 생물학적 프로그래밍(지위 경쟁, 타인에 대한 관심 등)은 변하지 않을 것이며, 사람들은 가족이나 노인을 돌보는 등 인간적인 활동에 더 많은 시간을 쓰게 될 것이라는 점에는 둘 다 동의함.

2. 단기적 AI 발전 (향후 18개월)

• 변화의 체감: 챗GPT의 등장은 '0에서 1'을 만든 충격이었음. 현재를 '10'의 단계라고 본다면, 향후 18개월(2026년 말)까지 '100'으로 도약하는, 즉 10배의 발전이 있을 것임.
• 대중의 인식 변화: 하지만 이 변화는 챗GPT 때처럼 '예상 밖의 충격'으로 다가오지는 않을 것임. 이미 많은 사람들이 AGI(범용인공지능)가 곧 올 것이라고 예상하고 있기 때문. 알트만은 여행 중 만나는 일반인들조차 AGI에 대해 이야기할 정도로 인식이 크게 바뀌었다고 언급함.
• 발전의 동력 (스케일링 법칙): AI 발전은 복잡한 비밀 없이, 더 나은 알고리즘, 더 큰 컴퓨터(더 강력한 칩, 더 많은 연결), 더 많고 좋은 데이터라는 세 가지 요소의 지속적인 개선 덕분이라고 설명함. 여기에 시스템이 영원히 작동하며 스스로 똑똑해지는 '연속 학습'이 더해질 것임.
• AI에 의한 연구 가속화:
  • AI 과학자가 AI 연구를 주도하는 것은 점진적으로 일어날 것임. 처음에는 코딩 보조(예: Copilot)처럼 연구원의 생산성을 10배 높여주는 '도구'로 시작함.
  • 이후 AI가 직접 새로운 모델 구조를 테스트하고, 가설을 제시하는 등 연구 과정에 더 깊이 개입하게 될 것임.
  • 결론적으로 AI가 연구를 돕든, 인간이 AI를 돕든, 연구 발전 속도 자체가 매년 훨씬 더 빨라질 것이라는 점이 핵심임. 이는 알고리즘뿐만 아니라 AI를 활용한 데이터센터 구축, 칩 설계 등 연구 공급망 전체의 가속화를 의미함.

3. 투자와 산업 생태계

• 리더의 우위 지속: 코슬라는 현재 리더(OpenAI 등)들이 연구 가속화를 통해 격차를 더 벌릴 수 있는지 질문함.
• 투자자를 위한 조언:
  • 알트만은 투자자들이 '제2의 OpenAI' 같은 AI 연구소를 찾는 데 시간을 0% 쓰고, AGI의 존재로 인해 새롭게 가능해진 것을 찾는 데 100%의 시간을 써야 한다고 강력하게 조언함.
  • 과거의 승자를 쫓는 투자는 거의 성공하지 못함. 큰 수익은 세상에 없던 가능성을 보고 투자하는 데서 나옴.
  • 트랜지스터 비유: 소수의 트랜지스터 회사가 살아남았지만, 진정한 가치는 트랜지스터를 부품으로 사용한 수많은 새로운 회사(OpenAI 포함)에서 창출되었음. AGI도 이와 같을 것임.
• OpenAI 투자 일화: 코슬라는 과거 OpenAI에 투자할 때, 너무 이상한 투자처로 보여 LP(투자자)들에게 "이상해 보일 수 있지만 우리는 투자합니다"라는 내용의 사과 편지를 보냈던 유일한 사례라고 회고함.

4. OpenAI와 챗GPT의 역사 및 비전

• OpenAI의 탄생: 일반적인 테크 기업이 '제품 회사 → 연구소' 순으로 발전하는 것과 달리, OpenAI는 '잘 운영되던 연구소 → 나중에 서툴게 붙인 회사'라는 독특한 경로를 밟았음.
• 챗GPT 개발 비화:
  • GPT-3 모델이 나왔을 때, 이를 활용할 만한 킬러 제품을 찾지 못했음.
  • 폴 그레이엄의 "무조건 API를 만들어라"라는 조언에 따라 GPT-3 API를 출시함.
  • API의 유일한 성공 사례는 Jasper와 같은 카피라이팅 애플리케이션이었음.
  • 하지만 숨겨진 히트작은 개발자들이 프롬프트를 테스트하던 '플레이그라운드'였음. 일부 사용자들이 하루 종일 모델과 대화하는 것을 보고 '대화' 자체가 제품이 될 수 있다는 신호를 포착함.
  • 출시 전 내부 테스트 그룹의 유지율이 매우 낮아 출시를 거의 보류할 뻔했음. 하지만 여기서 "아주 낮은 유지율이라도 0으로 수렴하지 않는다면, 그 제품은 성공할 가능성이 있다"는 중요한 교훈을 얻음.
• 챗GPT의 미래 비전:
  • 현재는 AI의 '터미널(명령어 입력창)' 단계에 불과함.
  • 궁극적인 목표는 사용자를 잘 알고, 개인 데이터에 연결되며, 원하는 대로 행동하는 '개인의 기본 AGI'가 되는 것임.
  • 이는 채팅 인터페이스를 넘어, 다른 모든 서비스에 로그인할 때 자신의 지능을 가져가는 플랫폼이자, 일종의 '지능을 위한 운영체제(OS)'로 발전할 것임.
• 엔터프라이즈 활용:
  • 벡터 1 (가상 동료): 코딩, 고객 지원, 아웃바운드 세일즈 등 기업 내 업무를 AI가 처리하며 인간의 업무 비중을 줄이는 것. 이미 현실화되고 있음.
  • 벡터 2 (난제 해결): 알트만이 더 흥미롭게 생각하는 부분. 기업이 전체 컴퓨팅 클러스터를 하나의 어려운 문제(예: 신소재 발견, 복잡한 공급망 최적화)에 집중 투입하여 새로운 것을 창출하는 것.
  • 단기적 파급력: 올해 남은 기간 동안 가장 파괴적인 분야는 'AI 소프트웨어 엔지니어'가 될 것이라고 단언함.

5. 글로벌 영향 및 사회적 질문 (39:09 ~ 끝)

• 10인-10억 달러 회사: 알트만과 코슬라 모두 10명 이하의 인원으로 10억 달러(약 1조 3천억 원) 매출을 내는 회사가 이미 시작되었거나 몇 년 내에 등장할 것이라고 확신함. 특히 AI를 활용한 신약 개발 같은 'AI for Science' 분야에서 가능성이 높다고 봄.
• 혜택의 전 지구적 확산: AI가 부자들을 더 부유하게 만들 것이라는 우려에 대해, 알트만은 챗GPT가 이미 세계 5위 웹사이트이며, 수십억 명이 무료로 훌륭한 의료 조언, 교육, 소프트웨어 제작 도구를 얻게 될 것이라고 반박함. 기술과 자본주의 시스템이 전 세계에 엄청난 혜택을 확산시킬 것이라고 낙관함.
• 디플레이션 경제: AI는 2030년대에 엄청난 디플레이션을 유발할 것임. 의료, 교육, 식량 등 필수재의 가격은 폭락하고, 사람들은 더 많은 여유를 갖게 될 것임. 이때 창출된 막대한 부는 다빈치 그림이나 은하계 같은 지위 상징재(status games)의 가격을 폭등시키는 데 사용될 것이라고 예측함.
• 에너지 문제: AI 수요를 감당하기 위해 수백 기가와트의 에너지가 필요할 것임. 결국 AI의 비용은 전기 비용으로 수렴할 것이며, 새로운 에너지원 개발이 매우 중요하다고 강조함.
• 정부의 역할:
  1. AI 인프라(컴퓨트)가 풍부하게 공급되어 부자들에게 독점되지 않도록 보장.
  2. AI가 강력해짐에 따라 글로벌 차원의 가드레일(규제) 설정.
  3. 데이터 접근 및 분배 문제에 대한 사회적 합의 도출.
• 기타 Q&A:
  • 경쟁 우위: AI 시대에도 브랜드, 네트워크 효과 등은 여전히 유효한 경쟁 우위가 될 수 있음.
  • AI 에이전트 관리: 수많은 AI 에이전트를 관리하기 위해, 다른 에이전트들의 결과물을 평가하고 사용자에게 보고할 우선순위를 정하는 '매니저' 에이전트가 등장할 것임.
  • 생물학 분야의 돌파구: 물리와 달리 생물학은 기존 데이터 분석만으로는 한계가 있음. 실험실 실험을 통해 새로운 데이터를 생성하고 이를 바탕으로 학습하는 '능동 학습 시스템(active learning systems)'이 필요할 것임.