데미스 허사비스 - AGI까지 4분의 3 지점, AI 과학혁명과 2030 타임라인

개요

• 창업자 대상 행사에서 진행된 데미스 허사비스 대담. 체스 신동-게임 개발자-신경과학자-DeepMind 창업으로 이어진 경로, 2010년 창업 당시의 역발상, AI for science 조직 운영, AlphaFold와 Isomorphic Labs의 신약개발 혁신, 시뮬레이션 기반 신과학, 의식·철학 논의, AGI 2030 전망까지 커버
• 핵심 주장: 2010년 창업 시 AGI를 20년 미션으로 설정했고 현재 업계 전체가 정확히 그 궤도 위에 있음. 즉 4분의 3 지점 통과 중

핵심 내용

커리어 관통 논리 - 게임에서 DeepMind까지

• 15-16세에 AI를 인생 최우선 목표로 결정: 15-16세에 이미 AI를 인생에서 가장 중요하고 흥미로운 일로 결정, 이후 모든 선택을 DeepMind 같은 회사를 세우기 위한 준비로 배치
• 90년대 게임산업 우회는 의도적: 당시 최첨단 기술(특히 그래픽스·하드웨어)이 게임에 집중돼 있었고, 오늘날 쓰는 GPU의 최초 버전을 90년대 말에 직접 사용
• Bullfrog 근무후 Elixir Studios 창업: Bullfrog Productions(당시 유럽 최고 게임 스튜디오) 근무 후 대학 졸업 직후 Elixir Studios 창업
• 17세에 만든 Theme Park: 놀이공원 시뮬레이션, 수천 명의 방문객 AI와 경제 모델 내장, SimCity와 함께 장르 개척, 1,000만 장 이상 판매. 사람들이 AI와 상호작용하며 즐거워하는 모습이 커리어 확신 계기
• 게임 스튜디오는 AI연구 자금 조달 수단: 게임은 사실상 뒷문으로 AI 연구에 자금을 대는 수단이었다고 회고
• Elixir의 Republic: 국가 전체(인구 100만 도시)를 시뮬레이션해 독재자를 다양한 방식으로 전복하는 게임. 90년대 말 펜티엄 가정용 PC에서 구현하려다 과욕으로 문제 발생
• 최대 교훈: 시대를 5년 앞서야지 50년 앞서면 안 됨. 모두에게 자명해진 시점이면 이미 늦고, 50년 앞서면 성공 불가능
• 신경과학은 알고리즘 힌트 게임은 아이디어 검증장: 신경과학은 뇌 작동 방식에서 알고리즘 아이디어를 얻기 위한 선택, 게임은 초기 AI 아이디어의 검증장

2010년 창업 - 역발상과 확신의 근거

• 창업 근거 4가지: Hinton 등이 막 발명한 딥러닝(아무도 중요성 인지 못함), 강화학습 전문성, GPU 가속컴퓨팅의 부상, 계산신경과학 기반 뇌 원리(강화학습이 AGI까지 스케일 가능하다는 아이디어)
• 딥러닝과 강화학습 결합, 당시 학계엔 없던 시도: 이 결합에서 거대한 진전 가능하다고 판단
• 창업당시 학계는 AGI연구를 회의적으로 치부: 학계·산업계 누구도 큰 진전을 믿지 않아 스스로를 비밀의 수호자처럼 느낌. AGI(당시 용어로 strong AI) 연구 언급 시 학계는 눈을 굴리며 90년대에 다 실패한 것이라 치부
• MIT 시절 주류인 전문가시스템은 낡았다 판단: 이미 낡았다고 느꼈고, 오히려 확신 강화. 실패해도 90년대와는 다른 독창적 방식으로 실패할 것이므로 시도할 가치 있다고 판단
• 2010년 20년 미션 예상, 낙관 시나리오대로 진행: 업계 전체가 정확히 궤도 위
• 원래 미션 선언문: 1단계 지능을 풀어 AGI를 만든다, 2단계 그것으로 나머지 모든 것을 푼다
• AI를 과학도구이자 인간정신 이해수단으로 규정: AI는 가장 중요한 기술이자 과학 도구, 그 자체로 흥미로운 인공물, 그리고 의식·꿈·창의성 등 인간 정신을 이해하는 최고의 수단(통제된 비교 실험 가능)

AI for science - AlphaFold와 신약개발 압축

• AI for science, 알파고 대국후 출범: AI for science 전담 조직을 Pushmeet Kohli 리드로 약 10년째 운영. 서울 AlphaGo 대국(약 10년 전)에서 돌아온 직후 공식 출범 - 바둑 정복이 알고리즘의 일반성·성능이 실전 과학 문제에 투입 가능해진 신호라고 판단
• AlphaFold, 생물학 50년 난제 단백질접힘 해결: 50년 난제였던 단백질 접힘·3D 구조 해결. 단 신약개발 전체 과정의 중요한 한 조각일 뿐
• 스핀아웃 Isomorphic Labs: 생화학·화학 영역의 인접 기술 구축. 단백질 표면의 타깃 부위에 강하게 결합하되 다른 곳엔 결합하지 않는(독성 부작용 방지) 화합물을 자동 설계
• 목표: 작업·시간의 99%인 탐색을 전부 in silico로 수행, wet lab은 검증 단계만 - 수년 내 도달 가능하다고 판단
• 신약개발 기간 10년에서 몇달로 단축 전망: 실현 시 신약개발 기간 평균 10년에서 몇 달, 몇 주, 언젠가는 며칠까지 단축 전망. 모든 질병이 사정권에 들어오고 기본 약물의 개인화 변형 등 맞춤 의학 가능
• 의료신약 수년내 혁명 이후 소재에너지로 확장: 의료·신약개발 전 영역이 향후 수년 내 혁명적으로 바뀔 것으로 전망. 이후 소재과학·환경·에너지도 AI가 큰 역할

시뮬레이션 기반 신과학

• AI가 만들 새 과학 1: AI 시스템 자체의 이해·해석이 하나의 공학과학이 될 것 - mechanistic interpretability는 그 일부일 뿐. AI는 결국 인간 정신·뇌만큼 복잡해질 것이므로 본격적 연구 대상
• AI가 만들 새 과학 2: AI for simulations - 경제학 등 사회과학·인문 영역은 창발 시스템이라 반복 통제실험 불가(금리 0.5%p 인상을 수천 번 돌려볼 수 없음). 정밀 시뮬레이터에서 엄밀하게 샘플링하면 새 과학 성립, 불확실한 영역의 의사결정 품질 대폭 개선
• 방법론은 learned simulators: 수학을 모르거나 너무 복잡해 명시적 시뮬레이터를 직접 쓸 수 없는 영역을 학습으로 근사
• 실전 사례: Weather Next - 세계에서 가장 정확한 기상 시뮬레이터, 기상학자들이 쓰는 것보다 훨씬 빠름. 날씨 조종은 불가하며 좋은 생각도 아님 - 첫 단계는 이해
• 생물학에서는 virtual cell 작업 중: 고도로 동적인 창발 시스템
• 머신러닝은 생물학의 기술언어, 약한 신호 포착: 약한 신호·약한 상관·인간이 감당 못할 데이터량 속의 연결과 인과를 포착
• 암묵적 시뮬레이터서 명시적 방정식 추출 가능성: 무한 샘플링이 가능하기 때문. 맥스웰 방정식급 발견이 창발 시스템에 존재한다면 이 방법으로만 찾을 수 있을 것

정보 우주관과 고전 컴퓨팅의 한계 돌파

• 정보도 에너지·물질과 등가, 셋 중 가장 근본: 1920년대 물리학자들의 에너지·물질 우선 관점과 정반대
• 생물은 정보처리시스템 AI는 근본기술로 규정: 생물은 엔트로피에 저항하는 정보처리 시스템. 우주를 정보 우선으로 이해하면 정보의 조직·이해·구성 그 자체인 AI는 생각보다 훨씬 더 근본적인 기술
• 스스로를 Turing's champion이라 부름: 튜링 머신 결과(계산 가능한 모든 것은 단순한 기계로 계산 가능)는 역사상 가장 심오한 결과 중 하나, 인간 뇌도 근사적 튜링 머신일 가능성
• AlphaGo, 특히 AlphaFold가 증명한 것: 양자 시스템으로 여겨진 단백질 접힘(물 분자 결합 등 양자효과 고려 필요해 보였던 문제)을 현대 신경망이라는 고전 시스템으로 근사 최적해 도출
• 고전시스템으로 양자컴퓨터 문제 대체 가능성 시사: 양자컴퓨터가 필요하다고 여겨지는 많은 문제가 올바른 접근이면 고전 시스템으로 모델링 가능할 수 있다는 함의

도구에서 에이전트로, 그리고 의식

• AGI 여정의 권고 순서: 먼저 극도로 지능적이고 정밀한 도구를 만들고, 에이전시·의식이라는 다음 루비콘은 두 번째 단계로 - 첫 단계 도구로 그 심오한 질문들을 푸는 데 도움받는 구조
• 현재는 도구가 에이전트화되는 시대 한가운데: 현재는 도구가 점점 자율적·에이전트화되는 에이전트 시대 한가운데
• 의식의 필요조건 후보: 자기인식, 자기와 타자의 구분, 시간적 연속성 - 필요하지만 충분하진 않음
• 작고한 Daniel Dennett과 오래 나눈 대화 인용: 인간끼리 서로 의식을 인정하는 근거는 행동의 유사성과 동일한 기질(substrate)에서 작동한다는 두 가지. AGI 근접 시스템은 행동은 흉내낼 수 있어도 기질 동등성은 영원히 불가 - 행동적 판정은 가능해도 경험적 판정 격차는 완전히 못 닫을 것
• 철학 취향: 칸트(정신이 실재를 창조한다 - 뇌 연구의 이유), 스피노자(과학으로 우주를 이해하는 영적 차원). AI 구축은 우주의 언어를 읽는 일이라고 표현

래피드 파이어

• AGI 도달 시점: 2030년, 지금까지 일관되게 유지해온 전망
• AGI 달성 후 필독서: David Deutsch의 The Fabric of Reality - 그 책의 질문들에 AGI로 답하는 것이 post-AGI 작업
• DeepMind에서 가장 자랑스러운 순간: AlphaFold
• 고사양 턴제 전략게임 팀에 영입할 역사 속 과학자: 폰 노이만 - 게임이론가가 필요하고 그가 최고

투자자 관점 시사점

• AGI 2030 일관 전망 + 20년 미션 정확히 궤도라는 발언은 알파벳 AI capex 지속·확대의 최상위 논거. 4분의 3 지점 프레임은 향후 4년이 가속 구간이라는 신호로 해석 가능
• in silico 99% 탐색으로 신약개발 10년에서 몇 달 압축 시나리오: Isomorphic Labs 가치와 AI 신약 밸류체인 리레이팅 요인인 동시에, 전통 파마의 R&D 기반 해자·파이프라인 밸류에이션 방식에 구조적 위협
• 단백질 접힘 같은 양자 문제도 고전 신경망으로 근사 가능하다는 발언: 양자컴퓨팅 테마의 상용화 타임라인에 대한 냉정한 견제 논리이자, GPU·TPU 등 고전 가속컴퓨팅 수요의 장기 지속 근거
• Weather Next·virtual cell 등 learned simulator 확산은 기상·바이오·경제 시뮬레이션 버티컬 AI 응용의 선행 지표 - 데이터·도메인 자산 보유 기업의 AI 레버리지 재평가 관점

기억할 발언

• (08:11) 원래 미션 선언문 - 1단계 지능을 풀어 AGI를 만든다, 2단계 그것으로 나머지 모든 것을 푼다. 가장 중요하고 가장 흥미로운 기술이라는 확신은 창업 전부터 불변
• (25:08) AGI 분포 중앙값 질문에 즉답 - 2030년, 그동안 꽤 일관되게 유지해온 답