Anthropic CEO Dario Amodei: AI's Potential, OpenAI Rivalry, GenAI Business, Doomerism

Anthropic CEO 다리오 아모데이(Dario Amodei)의 인터뷰 내용을 요청하신 대로 하나도 빠짐없이, 매우 상세하게 정리했음.

Anthropic CEO Dario Amodei: AI's Potential, OpenAI Rivalry, GenAI Business, Doomerism - YouTube

1. '둠머'라는 꼬리표와 AI의 위험성에 대한 입장

• '둠머'라는 비판에 대한 분노
  • 아모데이는 자신이 '둠머(doomer, 파멸론자)'나 AI 속도를 늦추고 싶어 하는 사람으로 불릴 때 "매우 화가 난다(very angry)"고 밝혔음.
  • 그는 AI 기술의 혜택을 누구보다 깊이 이해하고 있다고 강조함.
• 개인적 동기: 아버지의 죽음
  • 그의 아버지는 몇 년 후 치료법이 개발된 질병으로 사망했음.
  • 이 경험은 그에게 AI가 가져올 수 있는 혜택(예: 치료법 개발)의 '긴급성'을 뼈저리게 느끼게 했음.
  • 그는 자신이 AI의 혜택을 '가속주의자'라고 부르는 사람들보다 더 '인본주의적 감각'으로 이해하고 있다고 생각함.
• 엔비디아 CEO 젠슨 황의 비판 반박
  • "다리오가 자신만이 AI를 안전하게 만들 수 있다고 생각하며 업계를 통제하려 한다"는 젠슨 황의 비판을 "터무니없는 거짓말(outrageous lie)"이라고 일축함.
  • 자신은 그런 말을 한 적이 없으며, 이는 자신이 들어본 가장 터무니없는 거짓말이라고 함.
• 최근 행보와 긴급성
  • 진행자는 아모데이의 최근 발언(AI가 초급 화이트칼라 일자리 절반을 없앨 수 있다)과 행동(OpenAI의 인수 소식 후 'Windsurf'의 모델 접근 차단, 정부에 수출 통제 요청)을 언급함.
  • 아모데이는 AI 시스템이 강력해짐에 따라, 자신이 믿는 바를 더 "강력하게, 공개적으로" 말해야 할 필요성을 느꼈다고 함.
  • AI의 발전 속도 (스케일링 법칙): AI가 '간신히 일관성 있는' 수준에서 -> '똑똑한 고등학생' -> '똑똑한 대학생, PhD' 수준으로 발전했음.
  • 국가 안보, 경제 문제 등 모든 AI 관련 이슈가 "매우 가까워지고 있다"고 느낌.
• 위험성을 경고하는 이유
  • 그는 미래는 불확실하지만 "세상에 닥칠 일에 대해 경고할 의무"가 있다고 느낌.
  • 이는 비관론이 아님. 그는 "사랑의 은총의 기계들(Machines of Loving Grace)"이라는 에세이를 쓰며 AI의 긍정적 측면을 강조했음.
  • 오히려 "모든 것을 올바르게 수행할 경우 우리가 가질 수 있는 매우 좋은 세상"을 만들 수 있기에, 그 잠재력을 망칠 수 있는 위험에 대해 경고할 의무를 느낀다고 함.

2. AI 발전 타임라인과 '지수 함수(The Exponential)'

• 짧은 타임라인과 불확실성
  • 아모데이는 AI의 사회적 배포(예: 의료 적용, 기업 지출) 시점을 예측하는 것은 어렵다고 함.
  • 하지만 '기반 기술'의 발전은 더 예측 가능하다고 봄.
  • 그는 향후 2년 내 데이터나 컴퓨팅 가용성 등의 이유로 "모델 발전이 멈출" 가능성도 20~25% 정도 있다고 인정함. 만약 그렇게 되면 자신의 경고가 "완전히 어리석어 보일 것"이며, 자신은 "그것에 대해 완전히 괜찮다(totally fine)"고 함.
• 'AGI', '초지능' 용어 비판
  • 그는 'AGI(범용 인공지능)', '초지능(Super intelligence)' 같은 용어를 "완전히 무의미하다"고 비판함.
  • 이는 사람들의 "도파민을 활성화"시키기 위해 고안된 "마케팅 용어"처럼 들린다고 함.
  • 그는 공개적으로 이 용어들을 절대 사용하지 않으며, 오히려 비판한다고 함.
• 신봉하는 것: '지수 함수'
  • 그가 믿는 것은 "몇 달마다 이전보다 더 나은 AI 모델이 나온다"는 '지수 함수'임.
  • 이는 더 많은 컴퓨팅, 데이터, 새로운 훈련 방법을 투자함으로써 달성됨.
  • 훈련 방식은 1단계(프리트레이닝)와 2단계(강화 학습, 추론 등)로 나뉘며, 두 단계 모두 함께 확장되고 있음.
  • 그는 이 확장을 가로막는 것을 보지 못했음. (주관적 작업에서의 더딘 진전은 "일시적 장애물"로 봄)
• 지수 함수에 속는 사람들
  • "사람들은 지수 함수를 이해하는 데 능숙하지 않다"고 지적함.
  • 6개월마다 2배가 되면, 2년 전에는 1/16 수준으로 보임.
  • 현재(2025년 중반) 모델이 경제 전반으로 "폭발하기 시작하는" 시점이라고 함.
  • Anthropic의 매출 성장 (증거):
    • 2023년: 0 -> 1억 달러
    • 2024년: 1억 달러 -> 10억 달러
    • 2025년 (상반기): 10억 달러 -> "40억 달러를 훌쩍 넘음... 아마 45억"
  • 이 10배 성장이 (그렇게 된다는 건 아니지만) 2년 더 지속되면 "수천억 달러"에 이를 것임.
  • 이는 '90년대 인터넷'과 유사함. 당시에도 소수 외에는 아무도 그 속도와 영향을 예측하지 못했음.
  • 그는 "사람들이 지수 함수에 속고 있다"고 생각함.
• '수익 체감'은 없다
  • '확장(scaling)의 수익이 체감하고 있다'는 주장에 대해 그는 "예(Are they wrong? Yeah)"라고 답함.
  • 적어도 Anthropic 모델에서는 수익 체감을 보지 못했음.
  • 예시 (코딩): 3.5 Sonnet부터 4.0 Opus까지 4~5개 모델 시리즈 각각이 이전보다 "상당히 더 나아졌음".
  • SweetBench(벤치마크) 점수가 18개월 전 3%에서 72~80%로 성장함.
  • 현재 Anthropic에서 작성되는 "코드의 대다수"가 Claude 모델의 도움을 받아 작성된다고 함.

3. 모델의 한계와 새로운 기술

• 한계 1: 지속적인 학습(Continual Learning)의 부재
  • 진행자가 '지속적인 학습의 부재'가 큰 문제인지 물었음.
  • 아모데이는 3단계로 반박함:
    1. 설령 이 문제를 영원히 풀지 못하더라도, LLM의 잠재력은 "매우 높다". (비유: 새 지식을 흡수 못 하는 노벨상 수상자 1,000만 명이 있다면, 여전히 엄청난 생물학적 돌파구를 만들 것임)
    2. 모델은 "컨텍스트 창(context window) 내에서" 학습함. 컨텍스트 창이 인간의 일생(약 1억 단어)만큼 길어지면 많은 격차가 해소됨. 이는 "추론 지원(inference support)"의 문제이지 근본적인 장애물이 아님.
    3. 강화 학습(RL), 내부/외부 루프 등 가중치를 업데이트하는 실제 기술들이 있음. 그는 이 문제 역시 '추론(reasoning)' 문제가 그랬듯, "스케일 + 약간 다른 사고방식"으로 해결될 것이라 봄. (추론 문제도 RL과 모델이 스스로 무언가를 적게 하는 방식으로 해결됨)
• 한계 2: 스케일에 대한 집착 vs 새로운 기술
  • 진행자가 "스케일에 대한 집착이 새로운 기술을 보지 못하게 하는가"라고 질문함.
  • 아모데이: "우리는 매일 새로운 기술을 개발하고 있다".
  • Claude가 왜 코드에 능숙한지 묻자, "우리는 그것에 대해 외부적으로 이야기하지 않는다"고 답함.
  • 모든 새 Claude 버전에는 아키텍처, 데이터, 훈련 방법의 개선이 포함됨.
  • 이것이 바로 Anthropic이 "인재 밀도(talent density)"를 최적화하려는 이유임.

4. 경쟁: 자원과 인재

• 경쟁사 대비 자원 부족 문제 (XAI, Meta)
  • 진행자가 "Anthropic이 아이디어는 좋지만 자원이 부족한 것 아닌가?"라고 질문함. (수조 달러 가치 기업들 대비)
  • 아모데이는 "200억 달러(약 27조 원)에 가까운" 자금을 모았으며, 이는 "아무것도 아닌 게 아님".
  • 아마존과 구축 중인 데이터 센터 규모가 다른 회사들보다 "실질적으로 작다고 생각하지 않음".
  • 데이터 센터 확장은 에너지, 자본 조달에 의해 제한되며, 때로 발표되는 수치는 아직 자금이 조달되지 않은 경우도 있음.
• 인재 경쟁 (마크 저커버그와의 경쟁)
  • 진행자가 Meta의 대규모 컴퓨팅 + 인재 확보 전략에 대해 물음.
  • 아모데이는 다른 회사에 비해 Anthropic에서 인재 유출이 "훨씬 적었다"고 함.
  • 많은 직원이 저커버그와 대화조차 거부하고 제안을 거절했음.
  • Anthropic의 대응: 그는 전사 슬랙에 "보상 원칙과 공정성을 타협하지 않겠다"고 공지함.
  • Anthropic은 레벨에 따른 고정 연봉을 고수하며 협상하지 않음.
  • 이유: "저커버그가 다트판에 다트를 던져 당신 이름이 맞았다고 해서, 당신 옆의 똑같이 유능한 동료보다 10배 더 많이 받아야 한다는 뜻은 아니다".
  • 이러한 제안에 굴복하는 것은 "회사의 문화를 파괴하는 것"이라고 봄.
  • 그는 Meta의 전략을 "미션에 대한 동조(alignment with the mission)"라는 "살 수 없는 것을 사려는 시도"라고 비판함.
  • 그는 Meta의 시도에 대해 "꽤 비관적(pretty bearish)"임.

5. Anthropic의 비즈니스 모델과 수익성

• 투자 유치 전략
  • 진행자가 독립 회사로서 어떻게 거액(구글 30억, 아마존 80억 달러 등)을 유치했는지 물음.
  • 아모데이의 대답: 인재와 자본 효율성.
  • 3년 전의 논리: "우리는 다른 사람들보다 모델을 더 잘 만드는 방법을 안다".
  • 만약 Anthropic이 1억 달러로 다른 회사가 10억 달러로 하는 일을 할 수 있다면 (혹은 100억 달러 vs 1000억 달러), Anthropic에 투자하는 것이 10배 더 자본 효율적임.
  • "투자자들은 바보가 아니다".
• 매출 성장 (재차 강조)
  • "역사상 가장 빠르게 성장하는 소프트웨어 회사"임.
  • 2023년 (0->1억), 2024년 (1억->10억), 2025년 상반기 (10억->45억 달러).
• API vs. 앱 비즈니스
  • 매출의 60-75%가 API에서 나온다는 보도에 대해, "대부분(majority)이 API를 통해 나오는 것은 맞다"고 함.
  • 하지만 'Max 티어'와 'Claude Code'를 포함한 앱 비즈니스도 "번창하고 빠르게 성장 중"이라고 함.
• '순수 기술'이 아닌 '비즈니스 사용 사례'에 베팅
  • 진행자가 '왜 순수 기술에 베팅하느냐'고 묻자, 아모데이는 '순수 기술'이 아니라 "모델의 비즈니스 사용 사례(business use cases)"에 베팅한 것이라고 정정함.
  • 그는 기업/스타트업/개발자 사용 사례가 소비자 사용 사례보다 "훨씬 더 클 것"이라고 봄.
  • 이유 (더 나은 인센티브):
    • 사고 실험: 모델을 '생화학 학부생' 수준에서 '생화학 PhD' 수준으로 개선했을 때.
    • 소비자: 99%는 차이를 모르거나 신경 쓰지 않음.
    • 화이자(Pfizer) 같은 기업: "세상에서 가장 큰일"이 될 것이며, 10배 더 많은 비용을 지불할 수 있음.
  • 따라서 비즈니스 사용 사례에 집중하는 것이 모델을 더 스마트하게 만들고 세상의 문제를 (의학, 경제 개발 등) 해결하는 데 더 나은 인센티브를 제공함.
• 코딩에 집중한 이유
  • 처음엔 여러 분야를 최적화하다가 '코딩'이 특히 가치 있다는 것을 발견함.
  • 한 최고 엔지니어가 "이전 모델은 다 쓸모없었는데 이 모델은 내가 못하는 것을 해냈다"고 말한 것이 계기가 됨.
  • 이후 Cursor, Windsurf 등 코딩 회사들의 폭발적 인기를 보고 "두 배로 투자(doubled down)"함.
  • 코딩이 전략적으로 중요한 이유: a) 빠른 도입 속도, b) 코딩을 잘하는 모델은 "다음 모델을 개발하는 데 도움을 줌".
• 가격 정책과 손실 논란 (Claude Code)
  • 진행자가 "월 200달러짜리 Claude Code 구독자가 6,000달러 상당의 API를 사용한다. 인기 많아질수록 손해 아닌가?"라고 지적함.
  • 아모데이:
    1. 가격 책정은 "놀라울 정도로 복잡하다".
    2. 출시 당시 사용량을 "완전히 이해하지 못했다".
    3. "지난 며칠 동안" 이 문제를 수정했음. (특히 Opus 모델의 경우) 이제 그 정도의 차익 거래는 불가능함.
    4. 회사가 "돈을 잃고 있다"는 질문의 가정 중 일부는 "틀렸다(wrong)".
  • 진행자가 "모델 운영비가 너무 비싸서 가격 인하가 멈춘 것 아닌가?"라고 재차 질문함. (개발자 불만, 잦은 다운타임 등)
  • 아모데이:
    1. "가정을 하고 있다"고 다시 지적함.
    2. 그는 비용이 아닌 "창출되는 가치" 관점에서 생각함.
    3. "주어진 인텔리전스 수준"을 제공하는 가격은 "내려갈 것"으로 예상함.
    4. "최전선(frontier)의 인텔리전스" 가격은 현재 수준을 유지하겠지만, 그것이 창출하는 가치는 훨씬 더 올라갈 것임.
    5. 추론(Inference) 최적화는 "이제 막 시작" 단계이며, 모델을 50% 더 효율적으로 만드는 개선을 "항상" 하고 있음.
• 수익성 달성 시점 (30억 달러 손실 보도)
  • 진행자가 "올해 30억 달러 손실이 예상되는데 수익성은 언제쯤?"이라고 물음.
  • 아모데이: "그건 상황을 오해하는 것". 비용을 구분해야 함.
    1. 모델 운영 비용 (추론): 이는 "이미 상당히 수익성이 좋다".
    2. 인건비/건물비: 비중이 크지 않음.
    3. 다음 모델 훈련 비용 (R&D): 이것이 "큰 비용"임.
  • "회사가 돈을 잃고 있다"는 것은 스케일링 법칙 때문에 "오해의 소지가 있음".
  • 간단한 예시:
    • 2023년: 모델 A 훈련에 1억 달러 지출.
    • 2024년: 모델 A로 매출 2억 달러 발생 (수익성 좋음!). 하지만 모델 B 훈련에 10억 달러 지출. -> 회사 전체로는 8억 달러 손실.
    • 2025년: 모델 B로 매출 20억 달러 발생 (수익성 좋음!). 하지만 모델 C 훈련에 100억 달러 지출. -> 회사 전체로는 80억 달러 손실.
  • 결론: "모든 모델은 수익성이 있지만, 회사는 매년 수익성이 없다".
  • 이는 비즈니스가 실패하는 것이 아니라, 다음 해에 더 큰 비즈니스를 위해 투자하고 있음을 의미함. 만약 투자를 중단하면 "아마도 실행 가능한 비즈니스"가 될 것임.

6. 오픈 소스와의 경쟁

• 오픈 소스의 위협
  • 진행자가 "투자를 멈추면 오픈 소스가 따라잡아 대체하지 않겠는가?"라고 질문함.
  • 아모데이:
    1. 기존 기술(Tech) 세대의 비즈니스 리더들이 "상품화", "해자(moat)", "오픈 소스" 같은 낡은 어휘를 AI에 적용하려 하지만, "AI에서는 오픈 소스가 다른 영역과 동일하게 작동한다고 생각하지 않는다".
    2. 이유: 오픈 소스는 소스 코드를 볼 수 있지만, AI는 "모델 내부를 볼 수 없음". (그래서 '오픈 소스'가 아닌 '오픈 웨이트(Open Weights)'라고 불림)
    3. 따라서 그는 오픈 소스를 "관심을 딴 데로 돌리는 것(red herring)"으로 봄.
    4. DeepSeek 같은 새 모델이 나왔을 때, 그는 오픈 소스인지 신경 쓰지 않음. 오직 "좋은 모델인가? 우리보다 나은가?"만 질문함.
    5. 오픈 소스도 "공짜가 아님". 클라우드에서 추론을 실행해야 하며, 누군가는 그 비용을 내야 함.
    6. 오히려 Anthropic 같은 폐쇄형 회사들이 파인튜닝, 인터페이스 등 오픈 소스의 장점을 제공하고 있음.

7. 개인적 배경과 동기 부여

• 샌프란시스코에서의 성장
  • 테크 붐 이전에 젠트리피케이션이 덜 된 샌프란시스코에서 자람.
  • 당시 테크 붐에 "전혀 관심이 없었고 지루했다"고 함.
  • 그는 과학자(물리학, 수학)가 되어 "근본적인 과학적 진실을 발견"하고 "세상을 더 나은 곳으로 만드는" 데 관심이 있었음.
• 가족 배경
  • 유대인 어머니와 이탈리아인 아버지 사이에서 태어남 (진행자가 '피자 베이글'이라고 농담함).
  • 부모님으로부터 "책임감"과 "옳고 그름"을 배웠음.
  • 공동 창업자인 여동생 다니엘라(Daniela)와 매우 가까웠으며, 일찍부터 함께 일하기로 결정했음.
• 아버지의 죽음과 경력 전환
  • 아버지가 2006년 오랜 투병 끝에 사망함.
  • 이 사건은 그의 경력에 큰 영향을 미침.
  • 1단계 (물리학 -> 생물학): 프린스턴에서 이론 물리학을 공부하다가, 아버지의 죽음을 계기로 인간의 질병을 다루기 위해 생물 물리학, 계산 신경 과학으로 전공을 바꿈.
  • 2단계 (생물학 -> AI): 생물학 문제의 복잡성이 "인간의 규모를 넘어선다"고 느낌.
  • AI가 이 격차를 해소하고 생물학 문제를 해결할 수 있는 "유일한 기술"이라고 생각하여 AI 분야로 옮김.
• 아버지 병의 치료법 개발
  • 그의 아버지가 사망한 지 "3~4년 후" 그 병의 완치율이 50%에서 95%로 급증했음.
  • 그는 이를 "불공정하다(unjust)"고 느끼기보다, "관련 문제를 해결하는 것의 긴급성"을 보여주는 사례로 받아들임.
  • 치료법을 개발한 사람이 "몇 년만 더 일찍" 찾았더라면 더 많은 생명을 구할 수 있었을 것임.
• '임팩트'에 대한 집착
  • 진행자가 "임팩트와 관련 없어 '왕좌의 게임'도 안 봤다더라"는 일화를 언급함.
  • 아모데이 정정: 안 본 이유는 임팩트가 없어서가 아니라, 끔찍한 사람들이 모두를 더 나쁜 상황으로 만드는 "네거티브 섬(negative sum)" 게임이라서 안 봤다고 함. 그는 "포지티브 섬(positive sum)" 상황에 흥미를 느낌.
  • 그의 경력은 '임팩트'를 위한 여정이며, 아버지와 같은 상황을 막기 위한 것임.
  • 그는 사람들을 돕는 데 "전략과 두뇌"가 필요하며, 이는 때로 회사 설립이나 기술 개발 같은 긴 경로를 거친다고 함.
  • 회사를 설립한 이유: 이전에 일했던 회사(OpenAI)가 "그들의 스토리에 진심이 아니라고" 느꼈기 때문. 미션은 단지 "채용을 위한 스토리"였음이 분명해졌다고 함.

8. OpenAI를 떠난 이유와 안전 철학

• OpenAI를 떠난 이유
  • 진행자: "당신이 GPT-3 프로젝트를 이끌었고 컴퓨팅의 50%를 가졌다. 안전과 역량이 상호 연결되어 있다면, 왜 '운전석(driver's seat)'을 떠났나?"
  • 아모데이의 답변:
    1. GPT-2와 3는 원래 RLHF(인간 피드백 기반 강화 학습)라는 '얼라인먼트' 작업을 연구하기 위한 파생물이었음.
    2. 역량과 안전(얼라인먼트)은 "서로 얽혀 있음"을 깨달음.
    3. 핵심: 모델을 훈련하는 것만으로는 "조직 수준의 결정"을 통제할 수 없음.
    4. 통제할 수 없는 것들: 출시 시기, 회사 거버넌스, 배포 결정, 외부 홍보 방식 등.
    5. "신뢰(Trust)가 정말 중요함". 만약 회사 리더의 동기가 "진실하지 않고(not sincere)", "정직한 사람이 아니라면", 당신은 "나쁜 일에 기여하고 있을 뿐"임.
• '통제' 비판에 대한 반박과 "정상에서의 경쟁(Race to the Top)"
  • 젠슨 황의 '업계 통제' 비판을 "터무니없는 거짓말"이라고 재차 일축함.
  • 그의 목표는 "정상에서의 경쟁(Race to the Top)"임.
  • "바닥을 향한 경쟁(Race to the Bottom)" (속도 경쟁): "누가 이기든 모두가 패배함" (안전하지 않은 시스템이 나오므로).
  • "정상에서의 경쟁(Race to the Top)" (안전/책임 경쟁): "누가 이기든 모두가 승리함".
  • 실천 방안 (예시 들기):
    1. Anthropic이 최초로 "책임 있는 확장 정책(Responsible Scaling Policy, RSP)"을 발표함.
    2. 이는 다른 회사 내부의 사람들이 "우리도 해야 한다"고 주장할 수 있는 "허가(permission)"를 줌.
    3. 해석 가능성 연구, 헌법 AI(Constitutional AI), 위험 역량 평가 등을 상업적 이점이 있더라도 공개하여 다른 회사들이 복제할 수 있게 함.

9. SBF 및 결론: 위험과 보상의 균형

• 샘 뱅크먼-프리드(SBF)와의 관계
  • 진행자가 SBF에 대해 묻자 "뭐라 말할 수 없다(I couldn't tell you)"고 함. 4~5번 만난 게 전부.
  • 유일하게 아는 것: "함께 일하기 힘들다", "'빨리 움직이고 부숴버리는(move fast and break things)' 부류"라는 평을 들었음.
  • 그래서 SBF를 이사회에 앉히지 않고 "의결권 없는 주식(non-voting shares)"을 줬음.
  • 돌이켜보면 그의 'move fast and break things'가 상상보다 "훨씬 더 극단적이고 나빴다"고 함.
• 마지막 질문: '임팩트' 욕심이 '통제 불가능성' 위험을 경시하게 만드는가?
  • 진행자: "임팩트(혜택)에 대한 당신의 열망이, AI가 통제 불가능할 수 있다는 가능성을 평가절하하면서 가속하게 만들고 있지는 않은가?"
  • 아모데이의 답변 (매우 격앙됨):
    1. 자신은 업계의 그 누구보다 AI의 위험을 "가장 많이 경고해왔음". (수조 달러 기업 총수들과 미국 정부 관리들의 비난에도 불구하고)
    2. 현재 "수조 달러의 자본"이 "무조건 빨리 가속"하는 편에 서 있는 "끔찍한 상황"임.
    3. 그가 지금 목소리를 높이는 이유는, "기술의 속도에 비해 위험을 다루는 우리의 능력이 따라가지 못하는" 지점에 지수 함수가 도달하고 있기 때문임.
    4. "AI를 통제할 방법이 없다"는 명제에는 "어떠한 증거도 보지 못했다"고 단언함. 우리는 모델을 출시할 때마다 통제력이 더 나아졌음.
    5. 만약 통제 불가능하다고 생각했다면, 그는 "모두 멈춰야 한다"고 주장했을 것임. (다만 지정학적 적들은 듣지 않을 것이기에 수출 통제가 낫다고 봄)
    6. "내가 위험을 경고하는 이유는 우리가 속도를 늦출 필요가 없도록 하기 위해서이다." 즉, 안전에 대한 투자를 촉진하여 발전을 지속하기 위해 경고하는 것임.
    7. 그는 혜택, (막을 수 없는) 다자간 경쟁, 위험 사이에 "갇혀(stuck)" 있음.
    8. 그의 전략은 안전 기술에 투자하고, 안전 연구를 "공공재"로 공개하는 것임.
• 두 가지 '진지하지 못한' 극단 비판
  • 그는 현재 상황에 대한 양 극단의 반응이 모두 "지적으로나 도덕적으로 진지하지 못하다(intellectually and morally unserious)"고 비판함. 1. 둠머(Doomers): AI가 '논리적으로' 안전할 수 없다고 주장하는 사람들. 그는 그들의 주장을 "횡설수설(gobbledegook)"이라고 함. 1. 가속주의자(Accelerationists): "20조 달러의 자본" 위에 앉아 "10년간 규제해선 안 된다"고 말하며, 안전을 우려하는 사람에게 "업계를 통제하려 한다"는 식의 인신공격을 하는 사람들.
• 최종 결론: "우리에게 필요한 것은 더 많은 사려 깊음, 더 많은 정직함이며, 경박한 트위터 싸움이 아니다." 그는 상황을 이해하고 연구하며 통찰력을 더하기 위해 노력하고 있으며, 다른 사람들도 그렇게 하기를 바란다고 함.