2025. 6. 4. 데미스 하사비스 경, 지식의 미래 | 프린스턴 고등연구소(IAS)

다음은 대담의 전체 내용을 빠짐없이, 간결체로 정리한 것임.

1. 소개 (David Nermberg)

• 발표자: 데이비드 너른버그 (IAS 소장, 레온 레비 교수).
• 행사: 소장 대담 시리즈 (인류의 과거, 현재, 미래의 예술과 과학).
• 과거 주제: 전기, 대학, 오페라, 박물관, 무용, 철학 등.
• 대담 초점: 인간 발견의 형태가 어떻게 등장, 지속, 변화하는지 이해. (이를 통해 IAS의 독특한 발견 형태와 미래 기여를 이해하고자 함).
• 오늘의 주제: (아직은) 인간의 발견 형태인 것. (웃음 포인트)
  • 인공지능, 머신러닝이라는 이름 자체가 이 범주를 위협함.
• 오늘의 손님: 데미스 하사비스 경 (Sir Demis Hassabis).
• 그에게 던질 질문 (쉬운 것들):
  • 컴퓨테이션의 힘은 무엇인가?
  • 어떻게 작동하는가?
  • 어떤 기회와 위험을 제공하는가?
  • 인간의 지식과 인류를 어떻게 변화시킬 것인가?

2. IAS의 역사와 컴퓨테이션

• IAS와 AI: IAS 교수진은 거의 1세기 동안 이 문제를 고찰해왔음.
• 존 폰 노이만:
  • IAS에서 선구적인 프로그래밍 가능 컴퓨터(폰 노이만 아키텍처)를 구축.
  • 그는 이것을 원자폭탄/수소폭탄만큼이나 변혁적인 것으로 보았음.
  • 아내 클라리에게 한 말 (인용): "이것은 괴물이야. (...) 만약 역사가 조금이라도 남아있다면, 그것의 영향력은 역사를 바꿀 거야."
  • 이후 컴퓨팅 기계에 대해 말하며, "사람들이 자신들이 창조하는 것을 따라잡지 못한다면" 재앙을 예견하며 더욱 동요했음.
  • 클라리는 그를 진정시키려 수면제 한 줌과 위스키 두 잔을 줘야 했음.
• 로버트 오펜하이머:
  • IAS 소장 (1947-1966). 폰 노이만의 동요(와 술에 대한 애정. 그는 마티니 선호)를 공유.
  • 그의 신념 (인용): "국가나 세계의 안전은 (...) 과학적/기술적 역량에만 있을 수 없으며, 윤리, 가치, 정치적/사회적 조직, 감정 등에도 주의를 기울여야 한다."
  • 그는 IAS를 다양한 사상(물리학, 시, 정치, 심리학 등 'P'로 시작하는 분야만 해도 많음)이 만나 인류를 보존하는 장소로 만들려 했음.
  • 현재 IAS: 모든 분야(예: 전임 시인)가 있진 않지만, 교수진은 여전히 사상과 인류의 가능성을 탐구하는 데 헌신함.

3. 데미스 하사비스 경 소개

• 오펜하이머와 폰 노이만도 오늘 이 자리에 있고 싶어 했을 것임.
• 소개: 구글 딥마인드 CEO/공동창립자, 2024년 노벨 화학상 수상자.
• 그의 역할:
  1. 지식 역사상 가장 중요한 기술 변혁의 리더.
  2. 그 변혁이 인류에 미칠 결과에 주의를 기울일 필요성을 알리는 전령.
• 주요 업적 (일부):
  • 어린 시절 체스 영재.
  • 10대 시절: 90년대 인기 시뮬레이션 게임 '테마파크' 공동 제작.
  • 박사 학위: 기억과 상상력의 신경과학.
  • 2010년: 딥마인드 설립 (목표: '지능 문제' 해결 -> '다른 모든 것' 해결).
• 딥마인드의 돌파구:
  • 알파고 (AlphaGo): 세계 바둑 챔피언을 이긴 최초의 프로그램.
  • 알파폴드 (AlphaFold): 50년 난제인 단백질 구조 예측 해결.
  • 아이소모픽 랩스 (Isomorphic Labs): 신약 개발을 위한 자매 회사 설립에 영감을 줌.
• 소개 중단 이유: 업적이 너무 많고 놀라워서 계속하면 허구처럼 들릴 수 있음.
• 소설 '더 매니악 (The Maniac)' 언급:
  • 벤하민 라바투트 작. 폰 노이만에 대한 허구적 전기.
  • 결말부에 하사비스의 (허구일지도 모르는) 전기 '브레인차일드'와 알파고에 대한 설명이 나옴.
  • 알파고의 힘을 "인류에게 닥친 무서운 게임 오버"로 묘사.

4. 대담 시작: AI와 게임

• David Nermberg (질문):
  • 당신의 전기로 시작하겠음.
  • 13살 때 유럽 체스 챔피언십에서 "제로섬 게임은 너무 단순해. 지능을 연구하고 싶어"라는 깨달음을 얻고 AI에 입문했다는 일화가 사실임? 당신의 전체 궤적을 말해달라.
• Sir Demis Hassabis (답변):
  • (IAS에 대한 애정 표현: 가장 좋아하는 장소, 독특함, 다학제성, 영감을 주는 역사).
  • AI 시작 계기: 게임.
  • 4살 때 체스 시작, 프로 선수가 되려 했음.
  • 체스를 통해 '생각하는 과정' 자체에 대해 고찰하게 됨. (스스로의 의사결정 과정을 검토).
  • 8~9살: 최초의 체스 컴퓨터(80년대 물리적 체스판) 등장.
  • 훈련 캠프에서 체스 오프닝보다 "이 무생물 플라스틱을 누가 프로그래밍했는가"에 더 매료됨.
  • 체스 상금으로 홈 컴퓨터(ZX Spectrum, Amiga)를 사서 프로그래밍 시작.
  • 컴퓨터와 게임에 대한 사랑이 합쳐짐.
  • 첫 직업: 게임 디자인/프로그래밍.
  • '테마파크' 같은 게임은 AI를 핵심 게임플레이 요소로 사용 (시뮬레이션, 지능적 캐릭터).
  • 성공 이유: 게임이 플레이어에게 적응하여 개별적인 경험 제공.
  • 이 경험 (90년대 초보적 AI)을 통해, 10대 초반에 이미 AI가 확장되면 얼마나 강력할지 확신했음.
• David Nermberg (질문):
  • 폰 노이만 역시 '게임 이론' 등으로 게임을 사고의 중심에 뒀음.
  • 당신이 13살에 버렸다는 그 제로섬 게임이 왜 AI의 좋은 테스트 케이스가 됨?
• Sir Demis Hassabis (답변):
  • AI와 게임의 역사는 튜링, 폰 노이만, 섀넌 등 초기부터 얽혀있음.
    • (튜링 일화: 컴퓨터가 없어 마음속으로 체스 프로그램을 이틀간 실행).
  • 게임이 AI에 적합한 이유: 1. 소우주: 게임은 '삶의 흥미로운 부분을 축소한 것'. (체스, 바둑, 포커 등). 1. 문화의 정수: 인간 사고의 소우주이며 문화를 반영.
    • '호모 루덴스(Homo Ludens)' 언급 (인간은 '게임을 하는 동물').
    • 게임(바둑 vs 체스)을 통해 문화(전략, 전쟁관)의 핵심에 접근 가능. 1. 개발 편의성 (AI 관점):
    • 데이터 생성: 시스템이 스스로와 대결하며 무한한 합성 데이터 생성 가능.
    • 명확한 지표: 승리 조건, 점수 최대화 등 최적화 목표가 명확함.
• David Nermberg (질문):
  • '호모 루덴스'는 제로섬 게임 외에 '제스처 게임(Charades)' 같은 상상력 게임도 언급함.
  • AI 초기 성공에 제로섬 게임이 유용했던 이유가 있음? 제스처 게임이 더 어려운가? 이것이 인간과 컴퓨터 사고의 관계에 대해 무엇을 말해줌?
• Sir Demis Hassabis (답변):
  • 초기에 제로섬 게임이 유용했던 유일한 이유는 지표가 더 명확하기 때문. (승리 조건 명시가 쉬움).
  • 또 다른 구분: 완전 정보(체스) vs 불완전 정보(포커). 포커가 더 어렵고 현실과 유사.
  • 현재 AI는 2인용 완전 정보 게임은 물론, 포커 같은 도전적 게임도 잘함.
  • 제스처 게임의 도전:
    • 물리, 시각 정보 이해, 다중 모드가 필요함.
    • 하지만 현재 최신 모델(예: 제미나이(Gemini))은 처음부터 다중 모드로 구축됨 (텍스트, 코드, 영상, 이미지 모두 처리).
    • 영상 속 '직관적 물리'도 이해함.
    • 따라서 '프로젝트 아스트라(Project Astra)' 같은 프로토타입은 제스처 게임도 꽤 잘할 것.

5. 문제 선택: 게임에서 과학으로

• David Nermberg (질문):
  • 당신은 문제를 매우 잘 고름. 기준이 명확한 벤치마크가 중요한 것 같음.
  • 알파고가 이세돌을 이긴 바로 다음 날, 알파폴드를 위해 생물학자를 고용하기 시작했음.
  • 무엇이 단백질 접힘(Protein Folding)을 그 다음 문제로 만들었음?
• Sir Demis Hassabis (답변):
  • 게임은 목적이 아니라 수단이었음.
  • 딥마인드의 진짜 임무: 현실 세계의 중요 문제를 풀 수 있는 범용 학습 시스템 구축.
  • 게임은 이런 '범용 알고리즘'을 개발하기 위한 진입로(on-ramp)였음. (딥 블루 같은 '전문가 시스템'은 일반화가 안 돼 관심 없었음).
  • 염두에 둔 '다른 모든 것' = 과학 (의학, 수학, 지식의 발전).
  • 어린 시절의 매료: (게임/컴퓨터 외에) '가장 큰 질문들'에 매료됨.
    • 리처드 파인만(영웅) 등 과학자들의 전기 독파.
    • 현실의 본질, 의식, 물리학 통일 이론 등에 집착.
  • 13~14살의 생각:
    • 파인만, 와인버그 등을 읽으며 40~60년대 물리학의 위대한 발전 이후 80~90년대에 (통일 이론 등에서) 진전이 더딘 것을 느낌.
    • 파인만 같은 천재가 있어도 우리가 모르는 것이 너무 많음.
    • "그렇다면, 최고의 과학자들이 발견을 더 빨리 하도록 돕는 '도구(AI)'를 만들자."
    • 이것이 모든 큰 질문에 가장 빨리 도달하는 길이라 생각.
  • 부가적 이유:
    1. 지능적 인공물 구축 자체가 매혹적인 지적 추구임.
    2. (신경과학 배경) AI를 만들고 해체해 인간의 뇌와 비교하면, 인간 마음/의식의 특별함을 이해하는 데 도움이 될 것.
• David Nermberg (질문):
  • (약간 정치적인 질문) 알파폴드는 PDB의 약 10만 개 구조(수십 년간 수많은 대학원생이 공공 투자(NSF, NIH)로 만든 것)로 훈련했음.
  • 알파폴드는 2~3년 만에 10억 명-년 치의 일을 해냄.
  • 단백질 너머의 복잡한 영역(좋은 훈련 세트가 없는)으로 갈 때, 이런 기초 데이터를 만들 공공 투자가 부족할까 봐 걱정되지 않음? 아니면 AI가 시뮬레이션으로 데이터를 만들 수 있음?
• Sir Demis Hassabis (답변):
  • 50년간 축적된 15만 개의 PDB 데이터는 "엄청나게 중요했음."
  • 그것만으로는 '간신히 충분한' 정도였음.
  • 실제로는 합성 데이터(synthetic data)를 추가해야 했음. (초기 알파폴드가 1백만 개 예측 -> 그중 정확한 30만 개를 다시 훈련 세트에 넣음).
  • 그 문제(데이터 부족)에 대해 걱정하고 있음. 그 정도로 깨끗하고 중요한 데이터셋을 가진 문제는 많지 않음. (이것이 단백질 폴딩을 고른 이유 중 하나).
  • 내가 문제를 고르는 3가지 기준: (다학제적 환경에서 수집) 1. 데이터: 일단 일부 (바람직하게는 많은) 데이터가 필요. 시뮬레이션/합성 데이터로 보충 가능. 하지만 시뮬레이션을 검증하기 위해 실제 데이터가 필요. 1. 명확한 지표: 최적화할 목표 (게임의 승패, 과학의 자유 에너지 최소화 등). 1. 거대한 조합 공간: 무차별 대입 검색이 불가능할 정도로 거대해야 함.
  • 딥마인드 시스템의 작동 방식:
    1. 데이터를 기반으로 문제 공간의 모델(신경망)을 구축함.
    2. 이 모델을 사용해 지능적 검색을 유도함 (강화 학습 등).
    3. 지표를 최적화하는 '건초더미 속 바늘 찾기' 해법을 발견함.
  • 이 방식은 수학을 포함한 많은 문제에 적용되는 매우 일반적인 해법임.

6. AI와 수학, 그리고 P vs NP

• David Nermberg (질문):
  • (방문 중인 구글 AI 수학 팀 환영).
  • 수학이 그 3가지 기준에 어떻게 부합하며, 왜 흥미로운 분야임?
• Sir Demis Hassabis (답변):
  • '알파프루프(AlphaProof)' 같은 수학 프로그램 (알파고 팀원 일부 참여).
  • 수학 문제 풀이를 게임에 비유:
    • 공식/방정식을 조정하는 것 = 게임의 '다음 수'.
    • 지표 = 공식의 우아함, 설명력 등을 최적화하는 '안내 목표'.
  • 이것이 딥마인드 방식과 매우 동형적(isomorphic)임.
  • 수학/코딩의 장점: (게임처럼) 답을 검증할 수 있어, 정확한 합성 데이터를 대량 생성하기 유용함.
  • 현재 작업: '린(Lean)' 같은 형식 논리 언어를 사용. (자연어 수학 문제 -> 형식화된 문제로 변환 -> 논리 규칙으로 진행).
• David Nermberg (질문):
  • (수학자들이 AI의 역할과 인간의 영역에 대해 궁금해함).
  • 1년 전 당신이 안식년을 갖게 되면 IAS에서 'P vs NP 문제'를 연구하고 싶다고 했음.
  • P vs NP 문제를 설명해주고, 왜 그렇게 매혹적인지 말해달라.
• Sir Demis Hassabis (답변):
  • 밀레니엄상 문제 중 하나. 항상 가장 매혹적인 문제였음.
  • '계산'의 핵심, 즉 고전적 기계에서 무엇이 가능한지에 대한 질문.
  • P (Polynomial): '다루기 쉬운' 시간 안에 풀 수 있는 문제.
  • NP: (고전 컴퓨터에서) 합리적 시간 안에 푸는 것이 '다루기 힘든' 문제.
  • 나의 역할 = "앨런 튜링의 챔피언":
    • 튜링, 처치(IAS 관련) 등이 계산의 기초(튜링 기계)를 정의했음.
    • 우리가 지난 15~20년간 보여준 것: 고전적인 방법/컴퓨터가 이전에 생각했던 것보다 훨씬 더 많은 것을 할 수 있음 (예: 바둑 승리, 단백질 접힘).
  • 로저 펜로즈 일화:
    • 펜로즈는 뇌에 양자 효과(양자 의식)가 있다고 주장했음.
    • 그는 알파고 결과에 놀랐다고 말함.
    • 그는 고전적인 시스템이 바둑에서 인간을 이길 것이라 예측 못 했음 (양자 시스템이 필요할 거라 생각).
  • 결론: 펜로즈 같은 사람이 놀랐다는 것은, 이 고전적 시스템의 의미를 다시 생각해봐야 함을 시사함.
  • 안식년 목표: 딥마인드의 작업이 이 근본적인 P vs NP 질문에 어떤 영향을 미치는지 탐구하는 것.
• David Nermberg (언급):
  • (IAS 홍보) 1956년 I.J. 굿이 폰 노이만에게 보낸 편지(P vs NP 문제를 처음 제기한) 사본을 하사비스에게 줬음. 폰 노이만은 답장하지 못함.

7. 하사비스의 추측

• David Nermberg (질문):
  • 당신은 노벨상 강연에서 스스로 추측(Conjecture)을 제안했음.
  • 추측 내용: "자연에서 생성되거나 발견될 수 있는 모든 패턴은, 고전적인 학습 알고리즘에 의해 효율적으로 발견되고 모델링될 수 있다."
  • 이 추측의 계기와 잠재적 함의는 무엇임?
• Sir Demis Hassabis (답변):
  • 아직 '초기 버전'이며 형성 단계임.
  • 단백질 폴딩을 선택한 이유 (추측의 배경):
    • 90년대 학부 시절 (케임브리지) 친구를 통해 처음 알게 됨.
    • 이것이 '궁극의 직소 퍼즐'(10^300개의 가능성 vs 밀리초 내 접힘)이며, 기초적이고 영향력 있으며(신약 개발), 미래 AI에 적합한 문제라 생각.
    • 20년간 이 아이디어를 가지고 있다가 알파고 이후 실행.
    • 알파고의 성공 의미: 바둑 승리 + '새로운 전략 발명'.
    • 이는 알고리즘이 드디어 '과학'(진짜 목표)에 적용될 준비가 되었다는 신호였음.
  • 추측 설명:
    • (딥마인드 방식 복습: 거대 조합 문제 -> 모델 학습 -> 모델이 검색 유도).
    • 나의 제안 (추측의 핵심):
      • 자연의 대부분의 흥미로운 시스템(생명, 지질학적 풍화, 우주론적 궤도 등)은 어떤 형태의 '진화' 과정을 거쳤음.
      • 그것들은 '시공간적 안정성'을 통해 생존했음 (그렇지 않으면 존재하지 않음).
      • 이는 그 시스템에 무작위가 아닌, 학습 가능한 '구조'가 있음을 의미.
      • (단서: 충분한 데이터와 해상도가 주어진다면).
      • 이 구조를 모델링할 수 있다면, 딥마인드 방식(지능적 검색)이 그 시스템 내의 해법(바늘 찾기)을 찾는 데 적합함.
  • 잠재적 응용:
    • 상온 초전도체 물질 발견 (존재한다면).
    • 신약 개발 (목표 단백질에만 결합하고 독성은 없는 화합물 설계). (아이소모픽 랩스).
  • 이 모든 것이 '거대한 공간을 통한 현명한 안내 검색' 문제임.
  • (안식년이나 새벽 3시에) 이 추측을 더 다듬고 싶음.

8. 신경망, AGI, 그리고 세계 모델

• David Nermberg (질문):

  • 이 추측이 그럴듯한 이유는 신경망이 복잡한 문제에서 거둔 놀라운 성공 때문임.
  1. 이 성공에 놀랐음? 2. 어떻게 설명함? 3. (친구 대신 질문) 신경망이 뭐임?

• Sir Demis Hassabis (답변):

  • (3번 질문 무시).
  • 어떤 면에서는 놀랍지 않음. 이것이 범용 학습 시스템을 만들려던 목표였기 때문.
  • 희망의 근거 (신경과학 + 튜링): 1. 뇌는 고전적 시스템: (펜로즈와 달리) 뇌에서 양자 효과는 발견되지 않았음. 1. 뇌는 극도로 보편적: (고전 시스템인) 튜링의 뇌가 튜링 기계를 고안함. 1. 우리의 '수렵-채집인 뇌'가 747기, 맨해튼 등 현대 세계를 만듦. 이는 '경이로운' 일.
  • 문화는 '집단적 뇌'의 산물임. 이 모든 것이 인간 마음의 '극단적 보편성'을 보여줌.
  • 결론: 뇌(고전 시스템)가 이 모든 것을 할 수 있다면, 튜링 기계(AI)가 무엇을 알아낼 수 있는지 그 한계가 궁금함.
  • 추측의 한계:
    • '모든 것'을 의미하진 않음 (예: 순수 수학, 무작위 노이즈, 큰 수 소인수분해).
    • 이유: 모델이 효율적으로 학습할 '패턴'이 있어야만 검색 유도가 가능.
    • 진정으로 균일/무작위라면 무차별 대입만 가능하며, 이는 고전 시스템이 못함 (양자 시스템 필요).

• David Nermberg (질문):

  • 당신은 특정 과학 문제 AI를 말했지만, 미디어는 LLM, AGI에 집중함. 당신도 그 작업을 이끌고 있음.
  • 특정 문제 AI와 다중 모드(Multimodal)/AGI 간의 차이, 기회, 도전은?

• Sir Demis Hassabis (답변):

  • 딥마인드의 목표는 항상 AGI(인공 일반 지능)였음.
  • AGI가 중요한 이유: (경제적 가치보다) 이론적으로 '완전한 범용 시스템'을 가졌다는 것을 아는 유일한 방법이기 때문. (인간의 일반화된 지능에 근접).
  • 언어와 일반 지식은 매우 중요함.
  • 궁극적 목표: '세계 모델 (World Model)' 구축.
    • (모델 구축의 발전: 아타리 게임 -> 바둑 -> 과학 환경 -> 세계).
  • 세계 모델이란: 세계의 사물, 직관적 물리, 공간 맥락, 객체 인식 등을 시뮬레이션하는 모델.
  • 나의 박사 학위 (기억과 상상력):
    • 기억(재구성)과 상상력(새로운 구성) 모두 해마에 의존함을 보임.
    • 인간은 '정신적 시뮬레이션'(예: 중요 회의 리허설)을 통해 계획함 (생존에 유리).
  • AI의 목표: AI 시스템이 '현실 세계에서 안내된 계획'을 수행하는 능력을 갖게 하는 것.
  • 필요한 분야: 로보틱스, 보편적 디지털 비서 (휴대폰/안경 탑재, 맥락 이해).
  • 현재 진척:
    • '프로젝트 아스트라(Project Astra)'로 매우 근접.
    • '제미나이(Gemini)' (가장 강력한 모델).
    • 'VEO' (영상 생성): "토마토 써는 영상" 생성 과제.
      • 초기 모델: 토마토가 다시 합쳐짐, 칼이 분리됨.
      • VEO: 완벽하게 수행. 픽셀 수준에서 일관성(조각, 물방울, 칼의 물리) 유지.
      • 결론: AI가 (로봇 행동 없이) 단순 '관찰'만으로 직관적 물리를 이해하기 시작함.
      • (10년 전엔 불가능하다 생각했음). 곧 예측(유리컵 낙하)뿐 아니라 생성도 가능할 것. "정말 놀라움."

9. AI 연구: 학계 vs 산업계

• David Nermberg (질문):

  • 당신은 케임브리지 등을 애정 있게 말하지만, 정작 당신 같은 인재들은 구글 딥마인드, OpenAI, 메타 같은 산업계에 있음.
  1. 이 변화의 이유는? 2. 이것이 생산되는 지식의 본질에 미치는 영향은? - Sir Demis Hassabis (답변): - 이유 1: 속도.
     • (게임 회사 경험) 자원 확보와 진전 속도가 회사에서 훨씬 빠름.
     • (공동창업자 셰인 레그와의 일화) "학계에 있으면 우리가 50살은 돼야 자원 얻을 것. 10배는 가속해야 함."
     • 이유 2: 자원.
     • 현재 AI는 막대한 자원, 특히 컴퓨팅 파워를 필요로 함 (데이터는 오픈웹 덕분에 아님). 엔지니어링 집약적이 됨.
     • 학계가 해야 할 일 (제안):
     • 가장 큰 모델 구축 경쟁(수십억 달러 소요)을 하지 말 것.
     • 대신, 산업계가 만든 모델(저렴하게/오픈소스로 제공됨)을 '활용'할 것.
     • 직교하는(orthogonal) 연구에 집중해야 함:
       1. 모델 이해 및 해석.
       2. 모델 행동을 제약할 벤치마크 구축.
     • 세계는 이 모델들을 더 잘 이해하는 것이 '절실히 필요함'.
     • 산업계도 이걸 하지만, 그들의 주 업무는 모델 '구축'임. 학계/시민사회는 "다음에 일어날 일"을 파악해야 함.
     • IAS에 적합한 다학제적 주제:
     • 철학, 경제학, 인류 조건의 미래, 삶의 목적.
     • 혜택의 공정한 분배.
     • 내재적 위험 (예: '기만' 같은 나쁜 특성) 테스트 및 제거 방법.
     • 제안: 신경과학 기법(fMRI 등)을 이 '인공적인 마음'에 적용해야 함. (모든 뉴런을 보며 대화 가능).
     • 이런 연구는 학계에 더 적합하며, 학계가 하는 것이 더 바람직함. (산업계의 벤치마킹은 '자기 숙제 채점' 격). 사회는 독립적 분석이 필요함.

10. 위험, 통제, 그리고 미래

• David Nermberg (질문):
  • 제니퍼 다우드나(노벨상 수상자)는 당신이 "생명을 이해하고 현명하게(wisely) 형성하는 도구"를 만든다고 했음.
  • 이 '현명하게'에 초점을 맞춰, 이 강력한 기술의 위험을 어떻게 생각하고 방어함?
• Sir Demis Hassabis (답변):
  • 이 문제는 딥마인드 설립 전부터 "아주 오랫동안" 생각해왔음.
  • (2010년 AI가 인기 없던 시절부터) 성공을 계획했음.
    • (MIT 박사후 연구 시절, AI 연구실(CSAIL)이 아닌 신경과학 건물에 간 일화 언급. 당시 CSAIL은 논리적/전문가 시스템의 보루였음).
  • AI의 긍정적 용도: 질병 치료, 기후, 에너지(핵융합 플라즈마 제어), 재료 설계.
  • AI의 위험 (본질: 이중 용도 기술): 1. 나쁜 행위자: 개인, 불량 국가가 좋은 기술(의학)을 해로운 목적(무기)으로 재사용. 1. 내재적 위험: AI가 더 자율적, 행위자성(agentic)을 갖게 될 때.
    • (다음 시대 = 에이전트. 알파고는 게임 에이전트, 미래는 범용 에이전트).
    • AGI에 접근할수록 "우리가 어떻게 통제력을 유지할 것인가?"
  • 전망:
    • 기술적 도전: 인류가 시간을 갖고 협력적/과학적(CERN 모델처럼)으로 접근한다면 "꽤 낙관적". (하지만 현재 세계는 그렇지 않음).
    • 사회/정치적 도전: '나쁜 행위자' 이슈가 더 어렵다고 생각.
  • 딜레마: 선한 행위자(과학)에게는 접근을 허용하면서, 나쁜 행위자에게는 어떻게 제한할 것인가?
  • 결론: 국제적 협력 없이는 어려우며, 이것이 오늘날 지정학적 환경에서 가장 어려운 도전일 수 있음.
• David Nermberg (마지막 질문):
  • (원래 오펜하이머의 '두 번째 행보'(IAS에서 인류 보존 노력)와 비교하려 했으나 이미 답함).
  • 사회가 취해야 할 가장 중요한비기술적 조치는 무엇임?
• Sir Demis Hassabis (답변):
  • 오펜하이머/맨해튼 프로젝트에서 교훈을 얻어야 함 (계산 > 핵).
  • 우리는 "새로운 기관 (New Institutions)"이 필요함.
  • (노벨 경제학상 수상자들(기관 전문가)에게도 AI를 위한 기관을 생각해달라고 말했음).
  • 필요한 기관:
    1. 국제적 "CERN" 모델: 협력적 과학 연구를 위한 새 기구.
    2. "IAEA (국제원자력기구)" 모델: 위험하고 안전하지 않은 프로젝트를 감시할 기구.
    3. "현명한 위원회 (Wise Council)": 세계를 대표하는 거버넌스 기구 (일종의 '기술 UN').
  • (UN 자체가 기능적이지 않아 까다로울 것을 인정).
• David Nermberg (마무리):
  • (UN이 IAS의 알론드라 넬슨을 AI 정책 자문으로 영입했음을 언급).
  • IAS 역시 이 문제에 노력하고 있음. 데미스 하사비스 경에게 감사.