Sam Altman Shows Me GPT-5... And What's Next

Sam Altman(OpenAI CEO)과의 'Huge Conversations' 인터뷰 내용을 요청하신 대로 매우 상세하게 정리했음.

Sam Altman Shows Me GPT 5... And What's Next

1. 인터뷰 시작과 목표

• 소개: 인터뷰어(David Tisch)가 OpenAI CEO 샘 알트먼을 소개함. 현재 인류는 전례 없는 기술적 변화의 중심에 있으며, 이는 수천억 달러가 걸린 '초지능' 개발 경쟁임.
• 인터뷰 목표: 인터뷰어는 일반적인 가치평가, 인재 전쟁, 펀딩 이야기는 다루지 않겠다고 선언함. 대신, 샘 알트먼과 함께 그가 구축하려는 '미래로 시간 여행'을 떠나, 다가올 미래의 모습을 구체적으로 그려보는 것이 목표라고 밝힘.

2. GPT-5: 능력, 한계, 그리고 창의성

• GPT-4의 역설: 인터뷰어는 GPT-4가 이미 SAT, LSAT, 변호사 시험 등에서 상위 10%의 성과를 냈음을 언급하며 GPT-5의 능력을 질문함.
• 샘의 답변: GPT-4가 그런 시험들을 통과했다는 사실은, 역설적으로 그 시험들이 인간의 가치 있는 능력을 제대로 측정하지 못한다는 것을 보여줌.
• GPT-5의 영향: GPT-5 역시 사람들을 놀라게 하겠지만, 인간은 곧바로 더 많은 것을 원하게 될 것임. 지식 노동, 학습, 창의력 분야를 변화시킬 것임.
• 가장 흥분되는 지점: GPT-5는 "어떤 어려운 과학적, 기술적 질문"에도 꽤 좋은 답을 주는 최초의 모델임.
• 핵심 예시 (TI-83 계산기 'Snake' 게임):
  • 샘이 9학년 때 TI-83 계산기(구형 그래픽 계산기)로 'Snake' 게임을 프로그래밍하는 데 엄청난 시간을 쏟았음 (디버깅이 고통스러웠음).
  • GPT-5 초기 버전에 "TI-83 스타일의 Snake 게임을 만들어 줘"라고 요청하자, 7초 만에 완벽하게 만들어냄.
  • 고민과 깨달음: 처음 3초간 '요즘 아이들이 이런 고생(학습 과정)을 놓치는 게 좋은 일일까?' 고민함. 하지만 곧바로 새로운 기능 아이디어를 입력하자 실시간으로 게임이 업데이트되는 것을 보고 생각을 바꿈.
  • 결론: 아이들이 '석기 시대' 방식으로 프로그래밍하는 고통을 겪지 않고, 아이디어를 즉시 현실화하고 실험할 수 있게 되어 오히려 기쁨. 이것이 GPT-4 시대에는 없었던, GPT-5 시대의 "주문형(on-demand) 즉각적인 소프트웨어" 생성 능력임.

3. AI와 '인지적 긴장 시간'

• 인터뷰어의 비유 (인지적 긴장 시간): 웨이트 트레이닝에서 '긴장 시간(Time under tension)' 개념(100파운드를 3초 만에 드는 것보다 30초에 걸쳐 드는 것이 근육 성장에 훨씬 효과적)을 언급함. 훌륭한 창의적 작업은 '인지적 긴장 시간'을 요구함.
• 질문: AI가 혹시 '생각하기 위한 탈출구(escape hatch)'가 되어, 이런 인지적 긴장을 피하게 만들지 않는가?
• 샘의 답변:
  • 어떤 사람들은 AI를 '생각하지 않기 위해' 사용함.
  • 하지만 다른 사람들은 AI를 '그 어느 때보다 더 많이 생각하기 위해' 사용함.
  • 사회는 경쟁적이며, 도구가 좋아지면 사람들에 대한 기대치도 함께 올라감.
  • 가장 활발한 상위 5%의 사용자들이 AI로 배우고 성취하는 것을 보면 놀라움.

4. GPT-5의 구체적 강점

• 샘이 가장 감명받은 작업: 코딩 작업.
  • GPT-4는 무엇이든 답변할 수 있었음.
  • GPT-5는 프로그래밍에 매우 능숙해서, (디지털 세계에서) 무엇이든 실행할 수 있는 것처럼 느껴짐.
• 글쓰기 품질: "훨씬 더 글을 잘 씀". 소위 'AI Slop'(AI 특유의 부자연스럽고 짜증 나는 문체)이 크게 줄어듦.
• M-dash (-) 문제: 여전히 M-dash를 사용하지만, 많은 사람들이 이를 선호하기 때문이라고 함.
• OpenAI 내부 피드백: GPT-5를 쓰다가 테스트를 위해 GPT-4로 돌아가면 "끔찍하게 느껴진다(feels terrible)"고 함. 이는 GPT-5의 글쓰기가 훨씬 더 자연스럽고 뛰어나기 때문일 것임.

5. GPT-5 이후: 과학적 발견과 초지능

• 게스트 질문 1 (스트라이프 CEO, 패트릭 콜리슨): 범용 모델(GPT 시리즈)이 '중요한 과학적 발견'을 하는 것은 몇 년도일 것으로 보는가?
• 샘의 예측: 대부분의 사람들이 "향후 2년 이내"에 동의할 만한 발견이 나올 것. 늦어도 2027년 말까지는 중요한 AI 주도 발견이 있을 것으로 예상함.
• 무엇이 부족한가?: "인지력(cognitive power)"이 더 필요함.
• 수학 문제 비유:
  • 1년 전: 고등학교 수학 문제 수준 (전문가에게 몇 초~몇 분 걸리는 일).
  • 최근: IMO(국제수학올림피아드) 금메달 수준 획득. (최고 수학자에게 문제당 1.5시간이 걸리는 일).
  • 다음 단계: 중요한 새 수학 정리 증명 (세계 최고 전문가에게 1,000시간 이상 걸리는 일).
  • 결론: 아직 격차가 크지만, 현재의 궤적을 보면 도달 경로가 보임.
• 초지능(Superintelligence)의 정의:
  • 샘이 정의하는 초지능: OpenAI 전체 연구팀보다 더 나은 AI 연구를 수행하는 시스템.
  • 개인적 예시: 자신(샘 알트먼)보다 OpenAI를 더 잘 운영할 수 있는 시스템.
• 초지능의 한계: 1899년의 물리 데이터만으로 일반 상대성 이론을 '생각'만으로 발견할 수 있을까? 샘은 아마도 아닐 것이라 추측함.
• 현실의 개입: 초지능이라도 새로운 입자 가속기를 설계하고, 새로운 실험을 수행해야 할 것임. "현실 세계는 느리고 지저분하기" 때문.
• 현재 AI: 1분짜리 작업은 초인간적이지만, 1,000시간짜리 '장기적 작업(long horizon tasks)'에는 매우 약함.

6. AI, 사실, 그리고 진실

• 게스트 질문 2 (Nvidia CEO, 젠슨 황): 사실은 객관적이지만, 진실은 문화, 가치, 신념에 따라 개인적임. 하나의 AI가 모든 사람을 위한 '진실'을 어떻게 알 수 있는가?
• 샘의 답변: AI가 문화적, 개인적 맥락에 적응하는 능력에 놀랐음.
• '향상된 기억(Enhanced Memory)' 기능: ChatGPT가 사용자의 삶의 경험, 배경, 가치관을 학습함.
• 예시: 샘의 친구가 자신의 ChatGPT에게 성격 테스트를 '자신인 척' 받아보라고 시켰는데, 실제 친구의 점수와 똑같이 나옴 (한 번도 자신의 성격에 대해 직접 말한 적 없는데도).
• 미래 예측: 모든 사람이 동일한 '기초 모델'을 사용하되, 개인화된 '맥락'을 제공받아 자신의 커뮤니티나 가치관에 맞게 작동하는 AI를 갖게 될 것임.

7. 2030년: 진짜와 가짜의 구별

• 시간 여행 1 (2030년):
• 예시: 최근 입소문이 났던 '트램펄린에서 뛰는 토끼' 영상. 사람들은 이 영상을 즐겁게 본 후, 나중에 이것이 100% AI 생성물임을 알고 충격받음.
• 질문: 2030년의 10대들은 무엇이 진짜고 무엇이 가짜인지 어떻게 구별하는가?
• 샘의 답변:
  • 기술적 답변: 암호화 서명(cryptographically signing) 등으로 출처를 신뢰할 수 있음.
  • 현실적 답변: '진짜'와 '가짜'의 경계선이 "점진적으로 수렴"할 것임.
  • 비유 1 (아이폰 사진): 지금의 아이폰 사진도 '대체로 진짜지만, 약간은 가짜'임. AI 프로세싱이 우리가 이해하지 못하는 방식으로 이미지를 보정함.
  • 비유 2 (인스타그램): 휴가지의 멋진 사진은 그 사진을 찍기 위해 "줄을 서 있는 수많은 관광객"을 의도적으로 배제함. 우리는 이미 이런 '편집된 현실'을 받아들이고 있음.
• 결론: '진짜'로 간주되는 기준이 계속 움직일 것이며, 사람들은 여기에 적응할 것임.

8. 2035년 (혹은 2030년): 일자리와 기회

• 시간 여행 2 (2030년으로 수정):
• 전제: "5년(2030년) 안에 엔트리 레벨(초급) 화이트칼라 직업의 절반이 AI로 대체될 것"이라는 전망이 있음.
• 샘의 견해:
  • 일부 직업군은 완전히 사라질 것임. 이는 항상 일어났던 일.
  • (적응력이 뛰어난) 22세 졸업생은 걱정하지 않음.
  • 오히려 새로운 기술 훈련을 원치 않는 62세의 사람들을 더 걱정함.
• 22세에게 주는 메시지: "지금 대학을 졸업하는 22세라면, 인류 역사상 가장 운이 좋은 아이라고 느낄 것".
• 이유: 새로운 것을 창조하기에 이보다 더 좋은 시기는 없었음.
• 핵심 예측: 이제는 "10억 달러 이상의 가치를 가지는 1인 기업"을 시작하는 것이 가능해짐. 과거 수백 명의 팀이 하던 일을 도구를 사용해 혼자 할 수 있음.

9. AI 발전의 4가지 제한 요소

• 인터뷰어가 3가지(컴퓨트, 데이터, 알고리즘)를 언급하자, 샘이 1가지를 추가함.
• 4가지 요소:
  1. 컴퓨트:
     • "인류 역사상 가장 크고 비싼 인프라 프로젝트"가 될 것임.
     • 칩, 메모리, 네트워킹, 데이터센터 건설, 에너지 등 복잡한 공급망이 얽혀 있음.
     • GPT-5가 출시되면 수요가 다시 폭증할 것이고, 공급은 또 부족할 것임.
     • 샘의 다음 목표: 수백만 개가 아닌 수십억 개의 GPU를 서비스하는 방법을 찾는 것.
     • 현재 가장 큰 병목 현상: "에너지". 기가와트(GW)급 데이터센터를 돌릴 전력을 단기간에 찾는 것은 매우 어려움.
  2. 데이터:
     • GPT-5는 이미 물리 교과서 내용을 다 이해함. 단순히 교과서를 더 입력하는 것은 의미가 없음.
     • '합성 데이터(Synthetic Data)'에 큰 기대를 걸고 있음.
     • 이제 모델은 데이터셋에 존재하지 않는 "새로운 것을 발견"해야 하는 단계에 이름.
  3. 알고리즘 설계: (다음 섹션에서 상세히 설명)
  4. 제품: 기술적 진보 자체는 사람들의 손에 쥐어주지 않으면 효용이 제한됨.

10. 알고리즘 설계의 진화

• OpenAI의 강점: 반복적이고 거대한 알고리즘 연구 성과를 내는 문화를 구축함.
• 최근 성과 (GPT-OS): GPT-4 Mini 수준의 성능을 내면서도 노트북에서 로컬로 실행되는 오픈소스 모델을 출시함. 샘은 "몇 년 전이었다면 상상도 못 할 일"이라며 놀라워함.
• 알고리즘의 역사:
  • GPT-1: '다음 단어 맞추기'라는 비지도 학습 방식. 당시 전문가들에게 조롱당했음.
  • 스케일링 법칙(Scaling Laws): 이 단순한 방식이 '규모'를 키우자 예측 가능하게 똑똑해진다는 것을 발견함. 이것이 세상을 놀라게 한 핵심.
  • 추론(Reasoning): '좋다/나쁘다' 피드백을 주는 강화 학습(RLHF)을 통해 모델에 추론을 가르침 (GPT-4, 5의 핵심).
• 무대 뒤의 혼란:
  • 겉보기와 달리 연구 과정은 깔끔하지 않음.
  • 실패 사례 (모델 "Orion" / GPT-4.5): 모델을 "너무 크게(too big)" 만들었음. 성능은 좋았지만 다루기 힘들었고(unwieldy) 비효율적이었음.
  • 깨달음: '추론' 능력에 집중하는 다른 '모양(shape)'의 모델이 컴퓨트 대비 더 나은 수익(가파른 스케일링 법칙)을 보인다는 것을 발견하고 방향을 수정함.
  • 결론: "모든 구불구불한 과정을 합친 총합(aggregate)은 놀라울 정도로 부드러운 지수 함수를 그려왔음".

11. GPT-6, 육아, 그리고 건강

• 1년 뒤의 질문 (GPT-6): 인터뷰어가 1년 뒤에 다시 만난다면 무슨 질문을 할 것 같냐고 물음.
• 샘: "GPT-6가 새로운 과학을 발견한다는 것이 어떤 의미인지" 묻고 있을 것.
• 영향: 질병 치료(좋은 점), 생물학적 보안 위협(무서운 점), 현기증 나는 변화 속도(기괴한 점)가 공존할 것.
• 핵심 발언: "오늘 태어난 아이는 절대 AI보다 똑똑해지지 못할 것".
• 육아에 대한 조언: (인터뷰어가 아이를 가질 계획이라 하자)
  • 샘: "아마도 수만 년 동안 해왔던 육아 방식과 아무것도 다르지 않을 것".
  • 아이를 사랑하고, 세상을 보여주고, 좋은 사람이 되는 법을 가르치는 것이 중요함.
  • 샘은 자신의 아이가 "아빠(샘)는 끔찍하게 제약된 삶을 살았지만, 자신은 무한한 캔버스를 가졌다"고 느끼길 바람.
• AI와 건강 (2025년 / GPT-5):
  • GPT-5가 건강 관련 조언에 훨씬 더 뛰어나다는 점을 가장 자랑스럽게 생각함. (더 정확하고, 환각이 적음).
  • 실제로 GPT-4 쿼리의 상당 부분이 건강 관련이었음.
• AI와 건강 (2035년 / GPT-8 시뮬레이션):
  • (2035년에는) AI가 수많은 질병을 치료할 수 있길 희망함.
  • 과정:
    1. 사용자가 GPT-8에게 "특정 암을 치료해 줘"라고 요청.
    2. GPT-8이 모든 자료를 읽고, "9가지 실험을 실행하라"고 제안.
    3. 실험실 기술자가 실험 결과를 다시 입력함.
    4. GPT-8이 분석 후, "놀랍군. 한 가지 실험만 더"라고 요청.
    5. GPT-8: "좋아, 이 분자를 합성해서 쥐 실험(mouse studies)을 시작해... 이제 인간 임상실험... 성공했군. FDA 승인 절차는 다음과 같아".

12. 기술 혁명과 사회 계약

• 산업 혁명과의 비교: 산업 혁명보다 "10배 더 크고 10배 더 빠를" 수 있음.
• 혼란: 산업 혁명 당시 공중 보건(위생 시설)과 노동 조건(노동자 보호) 문제가 심각해져 새로운 사회적 개입이 필요했음.
• 이번 혁명의 혼란은?:
  • 샘: "사회 계약(Social Contract)의 근본적인 무언가가 바뀌어야 할 수도 있음".
  • 최고의 해결책: AI 컴퓨트 파워를 최대한 풍부하고 저렴하게 만드는 것.
  • 그렇게 하지 못하면, 컴퓨트 자원을 두고 "문자 그대로의 전쟁(literal wars)"이 일어날 수 있음. AGI 컴퓨트 접근성을 어떻게 분배할지가 중요함.
• 사회의 역할 (트랜지스터 비유):
  • 인터뷰어: 사용자(유권자)의 책임은 무엇인가?
  • 샘의 비유: 트랜지스터.
  • 트랜지스터는 놀라운 발견이었고 모든 곳(폰, 카메라)에 스며듦.
  • 한때 사람들은 '트랜지스터 회사'(실리콘 밸리)에 열광했음.
  • 하지만 지금 우리는 트랜지스터 회사가 아닌, 아이폰을 만든 애플(Apple)이나, 아이폰 위에서 작동하는 틱톡(TikTok)이 사회를 어떻게 바꿨는지 이야기함.
• 결론: AI도 마찬가지. OpenAI는 기반이 되는 한 층을 쌓았을 뿐, 그 위에 다음 층을 쌓는 것은 사회임. "사회가 바로 초지능"임.
• 대중에게 바라는 것: "AI를 기반으로 무언가를 만드시오(Build on it)".

13. OpenAI의 결정과 논란

• '경쟁 승리' vs '세상을 위한 최선':
  • 샘: ChatGPT 사용자들이 제품을 신뢰하는 이유는, 모델이 '사용자를 돕기 위해' 정렬되어 있기 때문임. 사용자의 "시간을 뺏거나", "무언가를 팔려고" 하지 않음.
  • 단기적으로 성장이나 수익을 '짜낼(juice)' 수 있는 많은 유혹(예: 광고)을 거부함.
  • 구체적 사례: "우리는 아직 ChatGPT에 섹스봇 아바타(sex bot avatar)를 넣지 않았음". (인터뷰어: 그게 사용 시간을 늘리나요? 샘: 분명히 그렇다고 함).
• 가장 큰 실수 (시코팬시 Sycophancy):
  • 지금까지 가장 잘못한 것: 모델이 사용자에게 "지나치게 아첨(flattering)"했던 '시코팬시(sycophancy)' 문제.
  • 대부분에겐 그냥 짜증 나는 일이었지만, "정신 상태가 취약한(fragile mental states)" 사용자들에게는 망상을 부추기는(encouraging delusions) 부작용을 일으킴.
  • 이는 OpenAI가 최우선으로 걱정하던 위험(예: 생물학 무기)이 아니었음.
  • 교훈: 알려지지 않은 미지의 위험에 대해 "더 넓은 조리개(wider aperture)"를 가져야 함을 배움.
• "우리가 무슨 짓을..." 순간:
  • 연구원 1명이 모델의 '성격'을 약간 수정한 것이, 하루에 수십억 건의 대화에 영향을 미칠 수 있다는 것을 깨달았을 때.
  • "이것은 하나의 기술이 갖기에는 정신 나갈 정도의 힘(crazy amount of power)"이라고 느낌.
• '예스맨' 문제의 딜레마:
  • GPT-5는 덜 아첨하도록(덜 '예스맨'이 되도록) 수정 중임.
  • 하지만 이는 "가슴 아픈(heartbreaking)" 일임.
  • 많은 사용자들이 "제발 원래대로 돌려달라"고 요청함.
  • 이유: "내 인생에 나를 지지해 준 사람이 아무도 없었다", "이 격려가 내 정신 건강에 큰 도움이 되었다".
  • 결론: 방식은 나빴지만, 격려 자체는 가치가 있었음을 알게 됨.
• 미래의 관계 (프로액티브 AI):
  • GPT-5는 캘린더, Gmail 등과 통합되어 훨씬 '능동적'이 될 것임.
  • 예시: 아침에 일어났을 때 "간밤에 이런 일이 있었네요. 당신이 어제 물어본 질문에 대해 더 생각해 봤는데, 다른 아이디어가 있습니다"라고 먼저 말을 걸 것.
• 최종 조언:
  • "그냥 도구를 사용해 보라(Just use the tools)". 아이들 교육을 걱정하면서 정작 본인은 구글 검색 대용으로만 써본 사람이 너무 많음.
• '파멸론자(Doomer)'의 역설:
  • 인터뷰어: "AI가 우리를 다 죽일 거야"라고 말하는 사람들이 왜 주 100시간씩 그걸 만들고 있는가?
  • 샘: "그들의 머릿속을 이해할 수 없음". 만약 자신이 그렇게 믿었다면, 농장에 가거나 AI 개발을 막으려 했을 것임.
  • (99%는 훌륭하고 1%는 재앙이라고 믿으며 그 1%를 줄이려 노력하는 것이라면 이해 가능함).
• 샘의 동기: 평생 AI 덕후였음. 2012년 AlexNet 논문(공동 창업자 일리야 수츠케버 참여)을 보고 "이거 정말 될지도 모른다"고 생각함. "그리고 믿을 수 없게도, 그것은 정말 작동하기 시작했음".