A Cheeky Pint with Anthropic CEO Dario Amodei

앤트로픽 CEO 다리오 아모데이와의 인터뷰 내용을 요청하신 대로, 사소한 농담이나 비유까지 포함하여 매우 상세하게 정리했음.

1. 앤트로픽 창업: 7명의 공동창업자와 형제 경영

• 형제자매 경영 (다리오 & 다니엘라): 다리오 아모데이(CEO)는 동생인 다니엘라 아모데이(President)와 함께 앤트로픽을 창업했음.
• 역할 분담: 다리오는 전략과 "다른 사람이 보지 못하는 것을 보는" 두 번째 역할에 집중하고, 다니엘라는 운영 실행이라는 첫 번째 역할에 집중함. 이를 통해 각자 가장 잘하는 일에 시간을 쏟을 수 있음.
• 신뢰: 형제자매 관계는 기술 스타트업에서 불안정할 수 있는 공동창업자 관계에 "완전하고 깊은 신뢰"를 제공함.
• 7명의 공동창업자: 앤트로픽은 총 7명의 공동창업자로 시작했음.
  • 주변의 반대: 당시 모두가 "7명은 재앙이다", "회사가 곧 분열될 것"이라고 경고했음.
  • 동일 지분: 다리오가 모든 공동창업자에게 동일한 지분을 부여한 결정 역시 큰 반대에 부딪혔음.
  • 성공 비결: 7명 모두(형제자매 포함)가 오랫동안 서로 알고 지냈을 뿐만 아니라, 과거에 '함께 일한' 경험이 있었음.
  • 확장성: 7명의 핵심 인원이 회사의 가치를 공유하고 전파함으로써, 회사가 대규모로 성장해도 가치와 통일성을 유지하며 확장할 수 있게 함.

2. 앤트로픽의 폭발적인 성장과 AI 시장 현황

• 경이로운 성장: 최근 연간 반복 수익(ARR) 40억 달러를 돌파했다고 보도됨. 역사상 가장 빠르게 성장하는 비즈니스 중 하나임.
• AI 수익원 (현재 시장):
  • 1순위: 코딩: 가장 빠르게 성장한 분야.
    • 이유 1 (성능): 모델이 코딩을 잘함.
    • 이유 2 (사회적 확산): AI의 잠재력은 현재 은행, 보험 등 대기업에서 활용되는 것보다 훨씬 큼. 하지만 10만 명 규모의 대기업 조직은 변화가 느림. 반면, 코드를 작성하는 엔지니어들은 AI 개발자들과 사회적, 기술적으로 매우 '인접'해 있음.
    • 엔지니어의 특성: 이들은 신기술에 익숙한 '얼리 어답터'임. (예: 해커뉴스에서 도구 논쟁, Claude Code 출시 2시간 만에 온갖 테스트 완료).
    • 시사점: 코딩 분야의 성장은 다른 모든 분야에서 일어날 일의 '조짐' 또는 '초기 지표'임.
  • 기타 분야:
    • 고객 서비스: Intercom과 같은 회사와 협력.
    • 도구 사용:.
    • 생물학/과학: 제약, 헬스케어 및 Benchling 같은 기초 과학 연구 기업과 협력.
    • 사례 (Novo Nordisk): 임상시험 보고서(Clinical Study Report) 작성.
      • 기존 소요 시간: 9주.
      • Claude 활용: 5분 만에 초안 작성, 이후 인간이 며칠간 검토.

3. 비즈니스 전략: 플랫폼과 버티컬

• 정체성: 앤트로픽은 스스로를 '플랫폼 회사'로 우선 정의함 (클라우드 비즈니스와 유사).
• 자체 제품을 만드는 이유:
  1. 사용자 피드백: 최종 사용자와 직접 접촉하며 그들의 사용 방식과 요구를 파악해야 '최고의 제품'을 만들 수 있고 모델의 발전 방향을 알 수 있음.
  2. 대기업 지원: 전통적인 대기업은 API를 직접 다루기 어려워하므로, 더 쉬운 키트나 앱(예: Claude Code, Claude for Enterprise)이 필요함.
• 버티컬 선택 기준 (가치 중심):
  • "Claude for Oil and Gas (석유/가스 탐사)" 같은 것은 현재 작업하고 있지 않음.
  • 불법은 아니지만, 회사가 "열정적이지 않은" 분야임.
  • 우선순위 분야: 과학, 생의학(Biomedical). 이 분야들은 당장의 수익성보다 "가치 있는 일(worthwhile)"이라고 생각하기 때문에 우선적으로 진행함. 개발도상국 관련 일도 마찬가지.

4. 국방 계약의 진실 (미션과 가치)

• DOD 계약 논란: 미 국방부(DOD) 및 정보 커뮤니티와 2억 달러 규모의 계약을 체결.
• 외부의 비판: "앤트로픽이 돈에 팔렸다(selling out)".
• 다리오의 반박: "정반대다.".
  • 그 계약을 따내는 노력의 1/10이면 코딩 스타트업에서 2억 달러를 버는 것이 훨씬 쉬움.
  • 계약 이유: "민주주의를 수호(defend democracies)"하기 위함.
  • 원칙: 단, 국내에서의 정부 권력 남용은 깊이 우려함.
  • 결론: 앤트로픽은 외부의 긍정적 반응이나 '기분 좋은' 일이 아니라, '옳다고 생각하는' 일을 신념을 갖고 수행함.

5. 지수적 성장과 '매출의 스케일링 법칙'

• 예측 불가능한 성장: AI는 '지수적'이라 비즈니스 규모 예측이 매우 어려움.
  • 2023년: 매출 0에서 시작. 다리오가 투자자들에게 "첫해 매출 1억 달러"를 제시하자, "미쳤다", "자본주의 역사상 없던 일", "신뢰를 잃었다"는 반응을 얻음. -> 실제로 달성.
  • 2024년: "1억 달러에서 10억 달러" 목표 제시. -> 또 달성.
  • 2025년 (현재): 연중반에 이미 ARR 40억 달러 돌파.
• 미래 시나리오: 이 지수 성장이 둔화될 수도 있지만, "2~3년 안에 세계에서 가장 큰 비즈니스"가 될 수도 있는 도발적인 가능성이 존재함.
• 매출의 스케일링 법칙:
  • 모델 훈련에 10배를 더 쓰면 모델이 '학부생'에서 '박사과정생' 수준이 됨.
  • 이 모델을 제약회사에 가져가면, 그들은 "10배 이상의 가치가 있다"고 말함.
  • 즉, 모델의 인지 능력 상승(기술)이 경제의 가치 분포(멱법칙)를 타고 올라가며 수익(비즈니스)도 지수적으로 증가함.
• 모델의 '자본주의적 충동' (비유):
  • "모델은 배우고 싶어 함(learning impulse)".
  • "모델은 시장에서 엄청나게 성공하고 싶어 함(capitalistic impulse)".
  • AI의 지능은 너무 유용해서, 나쁜 제품이나 영업으로 막지만 않으면 시장이 저절로 끌어당김.
  • 제품/영업의 역할은 이 지수적 성장이 일어나도록 "창문을 닦거나 조리개를 여는 것".

6. AI 비즈니스 모델과 수익성 (CapEx의 진실)

• 최종 시장 구조: 프론티어 모델을 구축하고 자본을 조달할 수 있는 플레이어는 약 3~6개로 좁혀지고 있음.
• CapEx(설비투자)와 수익성:
  • 외부 시각: AI 기업이 막대한 CapEx를 계속 태우며 손해를 보는 것처럼 보임.
  • 다리오의 설명 (가상 예시):
    • 2023년: 1억$ 훈련 -> 2024년: 2억$ 매출 발생 (동시에 2024년 훈련에 10억$ 지출)
    • 2024년: 10억$ 훈련 -> 2025년: 20억$ 매출 발생 (동시에 2025년 훈련에 100억$ 지출)
  • 손익계산서 관점: 1년 차 -1억$, 2년 차 -8억$, 3년 차 -80억$ (손해가 누적됨).
  • "모델 = 개별 회사" 관점: 2023년에 만든 모델(회사)은 1억$를 투자해 2억$를 벌었음 (추론 비용 감안해도). 즉, 개별 모델은 수익성이 높음.
  • 본질: 한 모델에서 수익을 거두는 동시에, 다음 세대의 훨씬 비싼 R&D(신약 개발과 유사)에 투자하기 때문에 전체 P&L이 적자로 보이는 것.
  • 투자 회수(Payback): 고객 확보(CAC) 회수 기간이 9~12개월이면 훌륭한 사업임. AI 모델의 투자 회수 기간도 (구체적 수치는 피했지만) 질적으로 볼 때 "매우 실행 가능(very viable)"함.

7. AI 기술의 한계? (데이터, 학습, 발견)

• 데이터의 벽 (Data Wall): 다리오는 "데이터 벽이 있다고 단정할 수 없다"며, 소문일 수 있다고 일축함.
• 학습의 두 방식: AI는 인간처럼 두 가지 방식으로 학습함.
  1. 모방 학습 (Imitative Learning): 기본 LLM 훈련 (부모 따라 하기).
  2. 시행착오 학습 (Trial and Error): 강화학습(RL) (세상 경험하기). - '연쇄적 사고(Chain of Thought)'는 본질적으로 RL의 멋진 이름일 뿐임.
• 지속적 학습 (Continual Learning)의 한계?:
  • "AI는 5분 전에 입사한 동료처럼 영원히 학습하지 못한다"는 비판.
  • 반박: "AI는 추론 못함", "일관된 글 못 씀" 등 과거의 '벽'들은 모두 무너졌음.
  • 지속적 학습도 마찬가지임. 이미 컨텍스트(1억 토큰까지 확장 가능) 내에서 학습하고 있으며, 컨텍스트 내에서 가중치를 업데이트하는 등 현재 기술과 가까운 아이디어로 해결 가능함.
• '새로운 발견'은 불가능한가?:
  • "AI는 새로운 발견을 못 한다"는 비판.
  • 반박: '발견'은 이진법(0 또는 1)이 아님. (예: 흔들리는 식탁에 컵 받침 괴기).
  • AI는 이미 '발견'을 하고 있음. (예: 의사가 놓친 가족의 질병을 AI가 진단).
  • 인간의 발견(소설 쓰기) 역시 기존의 것을 리믹스하는 것과 같음.
• 현대판 생기론 (Modern Vitalism):
  • 19세기에 '생명체는 무생물과 다르다'고 믿었던 '생기론(vitalism)'처럼, 현대인들도 '근본적인 인간성'이 있으며 "모델은 저걸 못해"라고 믿고 싶어 함.
  • 다리오의 생각: "마음(Mind)은 무엇으로 만들어졌든(made of anything) 마음이다.".

8. 인재 전쟁과 IP 보안 전략

• AI 산업의 특성: "IP(지적 재산)가 매일 저녁 걸어 나가는" 산업. "몇 줄의 코드가 1억 달러짜리 비밀"이 될 수 있음.
• 방어 전략:
  1. 노하우(Know-how): 단순 아이디어는 금방 복제됨. 하지만 복잡한 시스템을 '구현하는 엔지니어링 능력'과 '노하우'는 집단적인 것이라 유출이 어려움.
  2. 정보 구획화: 정보기관처럼 '알아야 할 필요(need-to-know)' 원칙으로 정보를 통제함.
  3. 솔직한 문화: 동시에 CEO가 PR 용어 없이 매우 솔직하게 소통함. 이로 인해 '진짜 비밀'이 생겼을 때 직원들이 회사를 신뢰하고 비밀을 지킴.
  4. 높은 리텐션 (인재 유지): 가장 중요함. 앤트로픽은 AI 회사 중 가장 높은 리텐션 비율을 가짐. (떠났다가 돌아오기도 함).
• 리텐션 비결: 1) 미션에 대한 진정한 믿음, 2) 지분(equity) 상승 가능성에 대한 믿음, 3) "약속을 지키는 회사"라는 명성.

9. 앤트로픽의 차별점: "API는 범용화되지 않는다"

• API 범용화(Commoditization) 논쟁:
  • 회의론: "API는 끈끈하지(sticky) 않고 범용화될 것이다."
  • 반박 (클라우드 사례): AWS 같은 클라우드도 1000억 달러 규모의 API 비즈니스임..
  • AI 모델은 훨씬 더 차별화됨:
    1. 클라우드 < AI: (앤트로픽은 클라우드 최대 고객 중 하나) 클라우드 서비스보다 AI 모델 간의 차이가 훨씬 큼.
    2. 비결정성 (케이크 굽기): 모델은 '케이크 굽기'와 같아서 셰프마다 결과물이 다름. 왜 다른지 정확히 모름.
    3. 농담: "내가 10명 있는 방에 앉아있으면 나도 범용화된 것인가?" -> 인간 노동은 그렇게 작동 안 함.
• 미래의 차별점: 개인화. 개인/기업에 맞춤화된 모델은 엄청난 '고착화(stickiness)'를 만들 것.
• 앤트로픽의 포지션: OpenAI, Google이 '소비자'에 집중할 때, 앤트로픽은 '기업용 AI (AI for businesses)'에 집중하며 초기 시장을 선점하고 있음. (현재 API/기업 시장의 과반 점유 추정).

10. 기업의 AI 도입: CEO와 직원의 간극

• 현실: Fortune 500 기업의 CEO, CTO는 AI의 잠재력을 100% 이해함.
• 문제: 하지만 그 밑의 10만 명 직원들은 AI 전문가가 아니며, 기존 업무(은행, 보험 등)를 하느라 바쁨.
• 도입 확산 순서: 1) 개발자(코딩) -> 2) 고객 서비스/프로세스 -> 3) 전사.
• 대기업을 위한 조언: 기존 조직과 분리된 '타격팀'을 만들어 프로토타입을 개발하고, 성공 모멘텀을 얻은 뒤 전사로 통합해야 함.

11. AI의 약점과 '이상한 실수'

• 의료 분야의 가치: AI가 의료에서 유용한 이유 = 인간 의사는 '지능'이 부족한 게 아니라 환자 한 명에게 쓸 '시간(test-time compute)'이 10초뿐이라서. (노벨상 수상자: "상위 1% 의사 아니면 LLM이 낫다").
• 세금 신고 예측: (Dwarkesh "2028년") -> 다리오: "더 빠르다. 2026년 또는 2027년". 지금은 정확도(실수)가 문제.
• 환각 (Hallucinations):
  • 알고리즘 개선, 인용(Citation) 기능, 사용자의 적응으로 많이 나아졌음.
  • 인간도 착시 등 약점이 있음에도 (예: 자율주행차 이중 잣대) AI에만 엄격함.
• 미래의 실수 (중요):
  • AI는 인간보다 실수는 '덜' 하겠지만, '더 이상한(stranger)' 실수를 할 것.
  • 인간의 실수: (비유) 고객센터 직원이 술에 취해 횡설수설하면, 우리는 그가 실수 중임을 인지하고 신뢰하지 않음.
  • AI의 실수: AI는 실수할 때도 똑같이 유창하고 일관되게 말함. 훨씬 '기만적'임.
  • 농담 결론: "우리는 LLM을 위한 '횡설수설' 기능을 발명해야 한다.".

12. 제품 철학: 'AGI-pilled' 제품과 UI의 미래

• '래퍼(Wrapper)' 제품 금지:
  • "Claude N"의 단점을 보완하는 '래퍼' 제품을 만들면, "Claude N+1"이 나왔을 때 잡아먹힘.
  • 조언: "분야의 방향성을 보고 보완적인(complementary) 것을 만들어라.".
• 현재 AI UI의 한계:
  • 현재 UI(텍스트 박스, 음성 명령)는 1970년대 터미널, 혹은 구시대의 Siri와 다를 바 없음.
  • 이는 초기 인터넷이 현실 세계(옷장)를 모방한 '스큐어모피즘(Skeuomorphism)'과 같음.
• 미래의 UI (에이전트):
  • AI가 엔드투엔드(end-to-end)로 일을 하고, 인간은 '확인'만 함.
  • 난제: 확인은 세부사항을 봐야 하는데, AI가 너무 많은 일을 하면 다 볼 시간이 없음.
  • 필요한 인터페이스: "평소엔 매끄럽게 작동하지만, 문제 시 깊은 개입이 가능한" UI가 필요함 (아직 없음).
• 'AGI-pilled' 제품 개발:
  • AI 기술이 너무 빨리 변해서 '장기 로드맵', '6개월짜리 계획'은 무의미함.
  • 더 빠른 출시, 더 많은 반복이 필요함.
  • 마치 "데이터베이스 기술을 처음 발견한 날이 매일 반복되는(Eternal September)" 느낌.

13. 오픈 소스와 'AGI-pilled' 조직 문화

• 오픈 소스 (오픈 웨이트):
  • AI의 '오픈 소스'는 소스 코드처럼 열람/수정이 불가능해 전통적 의미와 다름.
  • 앤트로픽의 관점: 경쟁 모델이 '오픈 웨이트'인지 아닌지는 중요하지 않음. '강력한 모델(strong model)'인지가 중요함. 둘은 큰 차이 없음.
• 'AGI-pilled' 조직 문화:
  • 다리오가 2주마다 전 직원에게 미션을 상기시킴.
  • 핵심 가설: "1~3년 내 '데이터 센터에 천재들의 나라'가 생길 것이다. 이는 모든 것을 바꾼다.".
  • 전 직원의 동기화: "이전 직장 경험과는 질적으로 다르다"는 것을 인지해야 함.
    • 재무팀: 재무 예측 시 '격렬한(wild) 결과'를 가정함.
    • 채용팀: 미친 수준의 '보상(comp) 전쟁'을 이해함.
    • 제품팀/정책팀: AGI의 방향성과 리스크를 이해함.
  • 회사의 모든 측면이 "이 거대한 변화가 일어날 것"이라는 가설 위에 구축됨.

14. AI 리스크와 규제 (은행 모델)

• 리스크의 양면성:
  1. AI 지연 리스크: 규제로 AI 발전이 늦어지면(예: 연 10% 성장 -> 0%), 치료 가능한 질병으로 사람이 죽는 등 막대한 기회비용 발생.
  2. AI 위험 리스크: 문명을 위협할 수 있음.
• 다리오의 중도적 입장:
  • 기술 중단(pause)은 불가능함 (지정학적 경쟁자, 자본의 저항).
  • "최대 속도 vs. 감속"이 아니라, "속도를 약간 늦추더라도(예: 10% -> 9% 성장) 안전 조치를 도입"하는 것이 현실적 트레이드오프임.
  • AI는 '과열(overheat)'될 수 있음. 반응을 멈추는 게 아니라 '집중(focus)'시켜야 함.
• 규제 현황:
  • 작년(SB1047) 법안은 너무 공격적이어서 업계의 반발을 삼.
  • 올해(SB53) 법안은 '안전 관행의 투명성'에 중점을 둔 온건한 안 [1A:00:44].
  • 비유: AI 규제는 '현대 은행 규제'와 같아야 함. 뱅크런 같은 위험(dangers)이 명확하지만, 규제 하에 잘 작동하고 있음 [1A:01:46].

15. 다리오 아모데이의 개인 AI 사용법

• 주 용도: 아이디어 생성 및 리서치 [1A:02:20].
• 글쓰기: 글쓰기를 많이 하지만, (자신의 글에 자부심이 있어) 아직은 Claude가 쓴 것을 그대로 사용하지 않음 [1A:02:14].
• 수준: 비즈니스 이메일 정도는 괜찮지만, 에세이 등 중요한 글은 아직 부족함. 1년 정도 뒤에는 가능할 것으로 봄 [1A:02:37].