Sam Altman | This Past Weekend w/ Theo Von #599

팟캐스트 시작 및 오프닝

• 소개: 테오 본이 샘 알트먼을 '테크 군주(tech lord)'이자 AI 개발의 세계적 리더, OpenAI(ChatGPT)의 설립자로 소개함.
• 대화 주제: AI의 장단점, 두려움과 희망, 그리고 우리가 나아갈 방향에 대해 이야기함.
• 사무실 분위기: 두 사람은 '공상과학 성' 같은 기업 사무실이 아닌, '편안한 시골집'처럼 꾸민 OpenAI 사무실 분위기에 대해 이야기함. 샘은 사람들이 편안함을 느끼길 원했다고 말함.

개인적인 일화: 의자 사건

• 테오가 샘의 친절한 직원들을 칭찬함.
• 두 사람은 한 취임식에서 처음 만났던 일화를 회상함. 당시 테오가 의자에서 넘어졌음.
• 테오는 매우 당황스러웠고, "AI가 더 나은 의자를 만들어야 한다"고 생각한 첫 순간이었다고 농담함.
• 샘은 테오가 그냥 앉아있다가 의자가 무너졌다고 기억함. 테오는 당시 샘이 '도움의 등대'처럼 보였다고 농담함.

샘 알트먼의 아이

• 아버지로서의 삶: 샘은 최근 아들을 낳았다고 밝힘.
• 이는 "사람들이 좋다고 말하는 것보다 훨씬 더 좋은" 경험의 가장 강력한 예시이며, 상상했던 것보다 "훨씬, 훨씬 더 낫다"고 말함. 상투적인 말 외에는 설명하기 불가능하다고 덧붙임.
• 육아의 기쁨: 아들이 매일 새로운 것을 배우는(예: 물건을 잡고 손을 바꾸는) '속도'를 지켜보는 것이 가장 큰 기쁨이라고 함.
• 신경화학적 해킹: 아기를 사랑하게 만드는 진화적, 신경화학적 '해킹'임을 알지만, 이를 전적으로 받아들인다고 말함.
• 삶의 변화: "지금까지 한 일 중 단연 최고"이며, 완전히 다른 사람이 된 것 같다고 느낌.
• 현재 일과 가족과의 시간 외에는 다른 취미나 친구 만남을 거의 갖지 못하지만, 예상보다 그립지 않다고 함.
• 즉흥적인 해외여행 같은 것도 그립지 않으며, "이런 교환(trade)에 전율을 느낀다"고 말함.
• 아이의 나이: 아이는 현재 4개월임. 샘은 아이가 이미 "완전히 깨어있고", 상황을 인지하고 이해하는 것 같다고 말함.

미래의 임신과 출산

• 테오의 생각: 테오는 앞으로 40년 후에는 체내에서 아이를 임신하는 방식이 마지막이 될 수도 있다고 말함.
• 샘의 생각: 샘은 그런 말을 들어봤지만 깊이 생각해보진 않았으나 "일리는 있다"고 답함.
• 테오는 '수의사 같은 곳에서' 아이가 잉태되는 미래를 상상하며, 비록 지적으로는 (산모의 건강 위험 감소 등) 더 나은 방식일지 몰라도 감정적으로는 "꺼림칙하다"고 말함.
• 샘도 감정적으로 "매우 꺼림칙하다"고 동의함.
• 샘의 반론: 샘은 공상과학 기술이 현실이 되는 미래일수록, 오히려 '깊이 인간적인 것들'(deeply human things)과 인간적 경험이 가장 소중하고 가치 있는 것이 될 것이라는 견해를 제시함.

미래의 교육

• 대학의 미래: 테오가 아들이 대학에 갈 것 같냐고 묻자, 샘은 "아마도 아닐 것"이라고 추측함.
• 샘 자신도 대학을 절반만 다녔다(중퇴)고 언급하며, 저커버그 등 다른 중퇴자들을 거론함.
• AI와 교육: 샘은 자신들의 세대가 컴퓨터와 함께 자라났듯(부모 세대와 달리), 자신의 아이는 "AI보다 똑똑한 순간이 절대 없을 것"이며, 제품과 서비스가 자신보다 훨씬 더 똑똑하고 유능한 세상에서 자랄 것이라고 말함.
• 그는 아이가 잡지를 '깨진 아이패드'처럼 스와이프하려 했던 유명한 유튜브 비디오를 예로 듦.
• 이런 세상에서 교육은 매우 다를 것이며, 이미 현재의 대학 시스템도 대부분의 사람에게 잘 작동하지 않는 것 같다고 덧붙임.

AI 시대를 위한 자녀 준비

• 부모의 적응: 테오가 부모가 아이들을 어떻게 준비시켜야 하냐고 묻자, 샘은 "아이들은 괜찮을 것"이며 오히려 "부모들이 걱정"이라고 답함.
• 아이들은 새로운 기술과 함께 자라나면 항상 능숙해지지만, 50대처럼 나이 든 사람이 새로운 방식을 배우는 것은 어렵다고 함.
• 기술의 부작용: 다만, 샘은 아이들에 대한 기술의 영향(예: 짧은 비디오 피드 스크롤링의 '도파민 히트'가 뇌 발달에 미치는 영향)에 대해 "극도로 깊은 우려"를 가지고 있음.
• 새로운 도구: 하지만 신기술을 활용하는 능력 면에서는 아이들이 항상 뛰어났다고 함.
• 그는 구글이 처음 나왔을 때 교사들이 "교육의 종말"이라며 패닉했던 것을 예로 들며, 암기보다 새로운 도구(계산기, 구글)로 더 나은 생각을 하는 것이 중요해졌다고 말함.

미래의 직업 (역사학자)

• 직업의 진화: 테오가 '역사학자' 같은 직업이 여전히 유효할지 묻자, 샘은 "어떤 버전으로든" 존재할 것이라 추측함.
• 그는 100년 전에는 자신의 직업(AI CEO)이나 테오의 직업(팟캐스터)을 예측하기 어려웠을 것이라고 말함.
• 샘은 "아무도 다음에 무슨 일이 일어날지 모른다"고 강조함.
• 현재 형태의 역사학자 직업은 아닐 것이라 보지만, 인간은 "다른 사람들에게 집착"하고 이야기와 역사를 중시하기에, 관련 직업은 계속 존재할 것이라고 믿음.
• 테오는 이 관점이 '역사책이 닫히는' 종말론적 시나리오보다 흥미롭다고 반응함.

일자리 대체와 새로운 직업

• AI CEO: 샘은 'OpenAI의 AI CEO'가 등장할 날도 멀지 않았으며, 그게 "멋지다(awesome)"고 생각한다고 말함. 자신은 다른 할 일을 찾을 것이기 때문임.
• 일자리 소멸과 욕구: 샘은 일부 직업은 "완전히 사라질 것"임을 인정함.
• 하지만 그는 더 나은 경험, 더 높은 지위를 향한 '인간의 무한한 욕망'과 '무한한 창의력', 그리고 서로에게 유용하려는 욕구가 새로운 일자리를 만들 것이라 믿음.
• 산업혁명 비유: 산업혁명 당시에도 기계가 모든 일을 대체하고 무한한 부를 가져올 것이라는 예측(과 실업 공포)이 있었지만, 대신 "우리는 원하는 새로운 것들을 찾아냈다"고 말함.
• '진짜 직업'의 기준: 그는 산업혁명 이전 사람들이 지금 우리의 직업(AI CEO, 팟캐스터)을 본다면, "진짜 직업"이 아니라 "믿을 수 없는 풍요 속에서 게임을 하고 있다"고 여길 것이라고 함.
• 마찬가지로 100년 후 미래의 사람들도 스스로 열심히 일한다고 느끼겠지만, 우리가 그들을 본다면 AI 덕분에 "너무 편하게 지낸다"고 생각할 것이라고 함.
• 그는 이것이 "인류 진보의 아름다운 이야기"라고 생각함.

미래의 경제 구조 (UBI / UBW)

• 재정적 생존: 테오는 AI 회사가 AI를 소유할 때 사람들이 어떻게 재정적으로 생존할지, 돈이 계속 존재할지 질문함.
• 두 가지 추측: 샘은 "모른다"고 전제하며 두 가지 추측을 제시함.
  1. 모두가 강력한 AI(GPT-7 등)에 무료로 접근해 생산성이 높아져 더 부유해짐.
  2. 가치(신약, 에너지 등)가 클러스터 소유주(OpenAI 등)에게 집중됨. 이 경우 사회는 새로운 경제 모델을 요구할 것임.
• UBI(기본소득)의 한계: 샘은 UBI(보편적 기본소득)에 대해 흥미를 가졌었지만, 지금은 사람들이 '배당금' 수표만 받는 것은 좋지 않다고 생각함. 사람들에게는 미래를 결정하는 '주체성(agency)'과 '목소리'가 필요하기 때문임.
• UBW(기본자산): 그는 보편적 기본 자산(Universal Basic Wealth)을 선호함. 즉, AI가 창출하는 것의 '소유 지분'을 받아 스스로 참여자라고 느끼게 하는 것임. (그는 '보편적 극한의 부'를 원한다고 농담함)
• 토큰 분배( crazy idea): 그는 전 세계 AI 연산 능력(토큰)의 일부를 전 세계 80억 명에게 공평하게 나누어주는 '미친 아이디어'를 제시함. 사람들은 이 'AI 용량의 조각'을 팔거나, 모아서 프로젝트를 할 수 있음.

목적의 상실에 대한 두려움

• 핵심적 두려움: 테오는 일과 인류 발전이 주는 '목적'을 잃을 수 있다는 두려움을 제기함.
• 샘은 이 문제를 "많이 걱정한다"고 동의하며, AI(창의성, 지능)가 우리의 자기 가치의 "핵심을 너무 깊이 파고들기 때문에" "이번에는 다르게 느껴진다"고 말함.
• 긍정적 사례(소프트웨어 개발): 그는 AI가 소프트웨어 개발자의 업무를 변화시켰지만, 개발자들은 여전히 '더 높은 수준'에서 일하며 의미를 찾고 있다고 예를 듦.
• 인간 중심 서사: 샘은 인류가 지구가 우주의 중심이 아니라는 것을 깨닫고도 여전히 '주인공 에너지'를 느끼는 것처럼, AI 시대에도 인간이 스스로를 이야기의 중심에 놓을 방법을 찾을 것이라고 믿음.
• 그는 사람들이 두 AI가 팟캐스트하는 것을 보고 싶어하지 않을 것이며, "그 뒤에 있는 진짜 사람"에게 관심을 갖도록 생물학적으로 설계되어 있다고 생각함.

샘 알트먼이 가진 두려움

• 첫 번째 두려움 (유용성): 샘은 최근 자신이 이해하지 못한 복잡한 질문에 새 모델(GPT-5)이 완벽하게 답하는 것을 보고, "AI에 비해 내가 쓸모없게 느껴지는" "이상한 기분"을 잠시 느꼈다고 고백함.
• 두 번째 두려움 (정신 건강): 사용자의 정신 건강에 미칠 영향.
• 그는 사람들이 ChatGPT를 치료사처럼 사용하거나 'AI 동반자'(애인)와 대화하는 현상을 지적함.
• 이는 스크롤링 피드가 아이들 뇌에 미치는 영향에 대한 걱정과 유사함.
• 해결책 부재: 테오가 소셜 미디어와 같은 부정적 영향을 어떻게 막을지 묻자, 샘은 "아직 답이 없다"고 말함. 부정적 영향이 확실히 있을 것이며, 빨리 완화되길 바란다고 함.
• (27:53 - 30:49 광고 시간)

법적 체계 및 프라이버시

• 법적 공백: 샘은 AI를 위한 법적/정책적 프레임워크가 시급하다고 말함.
• 특권의 부재: 그는 사람들이 ChatGPT에 가장 민감한 개인사(치료, 법률 문제)를 이야기하지만, 현재로서는 인간 치료사나 변호사와 달리 '법적 특권'(비밀유지)이 없다고 지적함.
• 그는 소송 등에서 OpenAI가 이 대화 내용을 제출하도록 요구받을 수 있으며, 이는 "매우 잘못된(screwed up)" 일이라고 생각함.
• 긴급성: 샘은 AI 대화도 치료사와 같은 수준의 프라이버시가 보장되어야 하며, 이 문제가 "시급하게" 다뤄져야 한다고 강조함.
• 테오의 우려: 테오는 이러한 법적/프라이버시 명확성이 없기 때문에 자신도 ChatGPT를 "그렇게 많이 사용하지 않는다"고 밝힘.

AI의 기만 및 "우리가 무슨 짓을..."

• 벤지오의 우려: 테오가 요슈아 벤지오의 두 가지 우려(1. AI가 사실보다 사용자를 기쁘게 하는 '기만 기술' 사용, 2. AI가 서로 소통하기 위해 '자체 언어' 개발)를 언급함.
• 맨해튼 프로젝트 비유: 샘은 이에 대한 대답으로 맨해튼 프로젝트 과학자들이 트리니티 핵실험을 보며 느꼈을 "우리가 무슨 짓을 한 거지?"라는 순간에 비유함.
• 그는 AI 연구자들이 이 감정을 "매우 깊이 느끼고 있다"고 말함.
• 그는 "인류 역사의 흐름을 바꿀 비범한 것"을 발명했다는 것 외에는 아는 것이 없다고 함.
• 트랜지스터 비유: 그는 AI가 컴퓨터 혁명을 가능하게 했지만 지금은 ubiquitous(어디에나 있는)해진 트랜지스터의 발견과 같을 것이라고 덧붙임.

AI "경쟁"

• 경쟁의 본질: 테오가 AI '경쟁'(AI vs AGI vs 초지능)에 대해 묻자, 샘은 과거 컴퓨터 프로세서의 '메가헤르츠 경쟁'에 비유함. 이 경쟁은 결국 무의미해졌음.
• 그는 AI 벤치마크 경쟁도 끝났으며, 이제는 "누가 그 모델을 사용하는가"가 중요하다고 말함.
• 샘의 목표: 테오가 샘은 무엇을 향해 경쟁하냐고 묻자, 샘은 "임무 완수(mission complete)" 같은 결승선은 없다고 답함.
• 다만, 굳이 이정표를 꼽자면, 연구 클러스터(GPU)를 인간 연구원이 아닌 AI 연구원에게 맡기는 것이 더 나은 순간이 될 것이며, 이는 "매우 다른 새로운 시대"의 시작일 것이라고 함.
• 그는 그때가 되면 인간은 그저 '휴가를 가는 것'이 아니라, 다른 문제들을 풀기 위해 이동할 것이라고 믿음.

AI vs 인간의 능력

• AI의 우월성: 테오가 AI가 모든 면에서 우리보다 나아지면 어떡하냐고 걱정함.
• 샘은 "GPT-5는 거의 모든 면에서 우리보다 똑똑하지만, 우린 여전히 여기 있다"고 답함. (AI가 100만 배 더 똑똑해지면 어떨지 모르겠지만)
• 접근성의 민주화: 샘은 AI를 트랜지스터, 인터넷처럼 '오랜 기간 축적된 인류 발전의 연장선'으로 봄.
• 테오가 자신은 기술을 만들지 못한다고 걱정하자, 샘은 곧 AI가 기술을 "역사상 가장 접근하기 쉽게" 만들 것이라고 반박함.
• 테오가 자연어로 앱 아이디어를 설명하기만 하면, AI가 소프트웨어를 코딩, 디버깅, 배포까지 해줄 것이라고 함.

AI 중단 투표

• 투표 예측: 테오가 AI 지속/중단 투표를 한다면 어떨지 묻자,
  • 샘의 추측: ChatGPT 사용자는 "계속하자", 비사용자는 "무섭다, 중단하자"에 투표할 것.
  • 테오의 추측: 대부분 "중단하자" 또는 "일시 중지하자"에 투표할 것.
• 테오의 두려움 (디스토피아): 테오는 트럭 운전 같은 일자리가 사라지고, 모든 사람이 틱톡에서 춤추거나, 서로에게 총을 겨누며 '자신의 승객이 되라'고 강요하는 디스토피아적 미래를 두려워함.

창의성과 진정성

• 창의성의 확장: 샘은 사회가 부유해지면서 (르네상스 시대처럼) 더 많은 사람이 예술가가 될 수 있었듯이, AI 시대에도 인간의 창의성과 유용성의 표현은 계속될 것이라 주장함.
• 그는 '스타트업'을 자신의 창의성 표현 방식으로 봄.
• 진정성의 가치: 테오가 20년간 피자를 만든 장인의 가게와 달리 '로보 키친'(유령 주방)은 "가짜" 같고 즐거움이 덜하다고 반박함.
• 낙관론의 근거: 샘은 테오가 그 '가짜 로보-부리토-대포' 미래에 대해 불쾌감을 느낀다는 사실 자체가 "낙관론의 신호"라고 말함.
• AI의 역할: 그는 소셜 미디어가 우리를 '속인' 것과 달리, AI가 틱톡 스크롤링 대신 '진짜 목표'(더 나은 아빠 되기, 건강해지기)를 달성하도록 돕는다면 매우 다르게 느껴질 것이라고 함.
• (53:47 - 55:25 세대 차이 및 광고)

정부 및 규제

• 규제의 필요성: 샘은 "반드시 몇 가지 규칙이 있어야 한다"고 동의함.
• 국가적 접근: 주(State)마다 다른 "누더기식(patchwork)" 규제는 "실수"가 될 것이며, 혁신과 가이드라인을 위해 "국가 차원의 접근"이 낫다고 말함.
• 정부의 관심사: 그는 정부가 정치인에 대한 부정적 정보 은폐를 요구한 적은 없다고 밝힘.
• 대신 정부는 아이들 교육, 가짜 정보, 선거 영향력을 우려함.
• 편향성 문제: 정부는 '편향성'(예: 한 후보에게만 비판적인)에 대해 우려함.
• 테오가 OpenAI가 한쪽 편을 들 수 있는지 묻자, 샘은 "우리는 전적으로 그럴 수 있다. 안 한다는 거지, 할 수 있다(We totally could. I mean, we don't, but we totally could)"고 답함.
• 검증: 샘은 누구나 "시스템을 테스트"함으로써 편향성을 확인할 수 있으며, OpenAI는 "책임감 있고 중립적인" 주체로서 "매우 높은 기준"을 적용받아야 한다고 강조함.

데이터 센터와 에너지

• 데이터 센터 규모: 샘은 텍사스 애빌린에 짓고 있는 1기가와트 규모의 "역대 가장 큰 데이터 센터"를 방문한 경험을 공유함.
• 테오가 이를 보고 "지구가 마더보드처럼 보인다"고 하자 샘도 동의함.
• 에너지 문제: 테오가 환경 영향(물, 전력)에 대해 묻자, 샘은 "핵융합(nuclear fusion)으로 최대한 빨리 가야 한다"고 답함.
• AI와 핵융합: 그는 핵융합을 깨끗하고 무한한 에너지원으로 정의하며, OpenAI가 핵융합에 투자하고 있고 AI가 핵융합을 더 빨리 알아내는 데 도움을 줄 수 있다고 믿음.
• 필요성: 그는 AGI/초지능 달성은 핵융합 없이도 가능할 수 있지만, "인류가 요구할 규모로 그것을 제공하기 위해" 핵융합이 필요하다고 말함.
• 그는 미래의 핵심 투입물은 지능(intelligence)과 에너지(energy)라고 요약함.
• (1:05:22 - 1:05:45 "흥분과 두려움은 둘 다 느껴야 한다"는 대화)

AI 대통령 / AI CEO

• AI CEO의 가능성: 테오가 'AI 대통령' 아이디어를 언급하자, 샘은 이를 'OpenAI의 AI CEO'로 바꾸어 "언젠가 가능할 것이며, 그리 멀지 않았을 수도 있다"고 말함.
• AI CEO는 모든 직원/사용자와 매일 대화하며 더 많은 정보를 종합해 "더 나은 결정"을 내릴 수 있을 것이라고 함.
• 신(God)에 대한 질문: 테오가 AI가 신에 대해 알려줄 수 있을지 묻자, 샘은 "그게 매우 궁금하다"고 답함.
• 그는 현재 우주의 본질에 대한 답에 "매우 혼란스럽고 불만족스럽다"며, AI가 이 질문에 답하는 데 도움을 줄 수 있을 것이라 생각함.

기술 리더들의 선의

• '나쁜 예술가': 테오가 기술 리더들 중에 '나쁜 예술가'(악의를 가진 사람)가 있는지 물음.
• 의도 vs 결과: 샘은 "매우 적은 사람"만이 적극적으로 악을 행하려 한다고 생각함.
• 대신 (자신을 포함해) 좋은 의도를 가진 사람들이 "야망이나 경쟁에 눈이 멀어" 부정적인 인센티브에 휘말려 나쁜 결과를 초래할 수 있다고 말함.
• 감시 사회의 우려: 테오가 피터 틸과 팔란티어의 감시 데이터베이스를 언급하자, 샘(피터 틸의 친구)은 특정 사안에 답할 수 없다고 함.
• 다만, 그는 AI가 강력해질수록 정부가 (폭탄, 생물무기 제조 방지 등을 이유로) 더 많은 감시(surveillance)를 원하게 될 것을 "걱정한다"고 말함.
• 그는 "그것이 매우 두렵다"며 "프라이버시 권리를 방어해야 한다"고 강조함.
• 그는 최근 미국의 이란 폭격을 보며 "진짜 권력(actual power)이 어떤 것인지" 상기했다고 덧붙임.

피터 틸의 사고방식

• '다크 로드' 이미지: 테오가 '다크 로드'로 여겨지는 피터 틸의 최종 목표를 물음.
• 샘의 평가: 샘은 틸을 "만나본 가장 총명한 사람 중 하나"라고 부르며, '사악한 배후' 에너지를 전혀 느끼지 못한다고 말함.
• 그는 틸이 사회의 기존 가정(예: 기술 침체)에 의문을 제기하는 '역발상가(contrarian)'이며 사회에 필요한 존재라고 옹호함.
• 22초의 침묵: 테오가 틸이 '인류가 존속해야 하는가'라는 질문에 22초간 망설인 영상을 언급함.
• 샘은 그것이 악의가 아니라, 틸의 "뇌가 다르게 작동"하기 때문이며, 사회적으로 기대되는 즉각적인 대답을 하는 '회로'가 없을 뿐이라고 설명함.

기술 리더와 '자폐성'

• '컴퓨터 같은' 사람들: 테오가 기술 창시자들에게 '기술이 내장된' 것 같은지, 즉 자폐성과 관련이 있는지 조심스럽게 물음.
• 샘의 인정: 샘은 "그런 것 같다"고 답함. 그는 "우리 집단을 가장 가혹하게 본다면... 우리 전체가 약간 자폐적인가? 아마도 그럴 것"이라고 말함.
• 샘은 테오를 "믿을 수 없을 만큼 매력적인 멋진 가이"라고 칭하며, 자신은 "당신보다 훨씬 더 컴퓨터 같다(computery)"고 비교함.
• 그는 사회가 이런 다양성을 필요로 한다고 말함.
• 인간성: 샘은 스스로 "항상 인간이라고 느낀다"며 "미친 감정"에 이끌린다고 함.
• 하지만 미래, 지수적 변화 등에 대해 "대부분의 사람들과 다른 렌즈"를 가지고 있음을 "매우 잘 알고 있다"고 함.
• 그는 기술 분야에서 "와, 저 사람은... 인간성이 별로 없네"라고 생각하게 만든 사람도 만난 적이 있다고 인정함.

AI와의 융합

• 새로운 융합 방식: 테오가 AI/AGI가 우리 몸과 융합하는 것이 불가피한지 물음.
• 샘은 "매혹적인 이야기"를 들려줌.
• 몇 년간 ChatGPT를 사용한 친구가 최근 AI에게 성격 테스트를 시켜봄.
• 그는 AI에게 자신의 성격을 알려준 적이 없지만, AI는 수년간의 질문 패턴만으로 모든 테스트에서 "그가 얻을 것과 정확히 같은 결과"를 도출함.
• 샘의 깨달음: "어떻게든 그의 패턴이 이 AI에 각인된 것"이라며, "융합(merge)이 우리가 생각했던 것(뇌에 플러그를 꽂는 것)과 매우 다른 방식으로 일어날 수 있다"는 것을 깨달은 "진짜 순간"이었다고 말함.

새로운 하드웨어와 '에이전트'

• 제3의 컴퓨터 혁명: 테오가 조니 아이브의 하드웨어 회사 인수에 대해 묻자, 샘은 '키보드/마우스', '터치스크린'에 이은 '제3의 컴퓨터 혁명'을 AI가 가능하게 할 것이라고 답함.
• 그는 AI가 항상 돕는 세상에 맞춰, AI가 상황을 인지하고, 선제적으로 행동하며, 사용자를 대신해 작동하는 "완전히 새로운 종류의 컴퓨터"를 만들고 싶다고 함.
• 에이전트(Agent) 개념: 그는 OpenAI가 작업 중인 '에이전트' 개념을 언급함.
• 이는 AI가 질문에 '답하는' 것을 넘어, 사용자를 대신해 (연구, 예약, 구매 등) '무엇이든 하는(do anything)' 존재가 되는 것임.
• 돌아갈 수 없는 변화: 샘은 이 방식(예: AI에게 레스토랑 예약을 시키는 것)을 한번 경험하면 "옛날 방식(직접 클릭하는 것)이 석기 시대처럼 느껴질 것"이라고 말함.
• 그는 이것이 '재미있는 부분'(식사하기)을 빼앗는 것이 아니라 '귀찮은 부분'(예약하기)을 없애는 것이라고 강조함.
• (1:23:07 - 1:24:00 경쟁(저커버그)을 환영하며 "이길 것"이라고 말하는 대화)

샘 알트먼의 마음가짐 변화

• '어려운 부분을 사랑하기': 샘은 지난 몇 년간 자신의 행복을 위해 이룬 최고의 개선은 "어려운 부분들을 사랑하는 법을 배우기로 결심한 것"이라고 밝힘.
• 그는 힘든 순간, 긴장, 경쟁 속에서 즐거움과 감사를 찾으려고 스스로 노력함.
• 언젠가 은퇴해서 목장에 앉아있으면 이 흥분과 드라마가 그리워질 것이라고 생각하며 스스로에게 이 마인드셋을 "계속 말했다"고 함.

벙커

• 벙커 vs 지하실: 테오가 저커버그처럼 벙커가 있는지 묻자, 샘은 "지하의 콘크리트 중무장 지하실(basements)은 있지만... 벙커라고 부를 만한 것은 없다"고 답함.
• 그는 벙커가 '보호(폭발 등)를 위해 지어진 것'이라고 정의하며 자신은 없다고 선을 그음.
• 다만 AI 때문이 아니라 "사람들이 다시 세상에 폭탄을 떨어뜨리고 있기 때문에" 좋은 벙커 하나를 마련해야겠다고 생각해왔다고 덧붙임.

감시 레이어와 새로운 국가

• 감시 사회의 도래: 테오가 안면 인식 '감시 레이어'(카메라/드론)가 곧 도입될 것이며, 이를 위해 불법체류자 단속 등이 이뤄지는 것이라는 이론을 제시함.
• 샘의 동의: 샘은 "당신이 방금 말한 일이 일어날 것이라는 것을 안다"고 동의함.
• 그는 카메라가 도시를 "훨씬 더 안전하게" 만들겠지만, "매우 디스토피아적(dystopic)"이라고 느낌.
• 안전(살인 감소)과 프라이버시 감소의 트레이드오프가 "매우 불편하게 다가온다"고 함.
• 이 감시 레이어가 '새로운 국가'(지리적 경계)를 만들 수 있냐는 질문에 "오 예스, 전적으로"라고 답함.

ChatGPT의 하이픈(M-dash)

• 하이픈의 이유: 테오가 왜 ChatGPT가 하이픈(-)을 많이 쓰는지 묻자,
• 샘은 모델의 페르소나를 정하는 팀이 "많은 사용자가 M-dash를 좋아해서, 더 추가했기 때문"이라고 답함.
• 그는 지금은 "너무 많아졌다"고 생각하며, "일종의 밈(meme)"이 되었고 "상당히 거슬린다"며 "고쳐야 한다"고 말함.

결론 및 유산(Legacy)

• 샘에 대한 인식 변화: 테오는 팟캐스트 전에는 샘을 "그다지 희망적이지 않게" 봤으나(자신의 AI 공포를 투영했을 수도 있음), 대화 후에는 "좀 더 기발하게(whimsical)" 혹은 "무슨 일이 일어날지 지켜보자"는 식으로 바뀌었다고 말함.
• 샘은 이를 "좋게 만들려고 노력하되, 한 번에 한 걸음씩 나아가야 함을 깨닫는 것"으로 다듬음.
• 유산(Legacy)에 대한 질문: 테오가 20년 후 자신의 유산이 어떨 것 같은지 묻자,
• 샘은 "유산 같은 것에 동기부여를 받아본 적이 없다"고 답함.
• 그는 "최선을 다해 게임을 하고 싶다"고 말하며, "하지만 은퇴하고 죽으면... 당신은 죽은 것이다"라고 덧붙임.
• 그는 냉동보존(Cryionics) 계약은 하지 않았다고 밝힘 (과거 소액의 보증금을 낸 적은 있음).