2017. 7. 10. Campus Chats: 데미스 하사비스, 딥마인드 | Google for Startups

Campus Chats: Demis Hassabis (스크립트 정리)

1. 행사 시작 및 연사 소개

• 진행자 (사라 드링크워터): 캠퍼스 런던(Campus London) 청중에게 환영 인사를 전함.
• 데미스 하사비스 소개:
  • 딥마인드(DeepMind)의 창립자 겸 CEO.
  • 딥마인드는 2014년 구글에 인수됨 (당시 유럽 최대 규모 인수).
  • 주요 프로젝트: 알파고(AlphaGo) - 프로 바둑 기사를 이긴 최초의 프로그램.
  • 개인 이력:
    • '차일드 프로디지(신동)'로 A-level을 2년 일찍 마침.
    • 17세에 수백만 장 팔린 시뮬레이션 게임 '테마파크(Theme Park)'를 코딩함.
    • 케임브리지 대학 컴퓨터 과학 '더블 퍼스트(최우등)' 졸업.
    • 게임 회사 '엘릭서 스튜디오(Elixir Studios)' 설립.
    • UCL(유니버시티 칼리지 런던) 박사 학위, MIT 및 하버드 박사후 과정.
    • 이후 딥마인드 설립.
  • 연구 성과:
    • 기억과 상상력을 연결하는 연구로 2007년 '사이언스(Science)' 저널 'Top 10 과학적 발견' 선정.
  • 기타: 5회 월드 게임 챔피언, 왕립 공학 아카데미 실버 어워드 수상, 왕립 예술 학회 펠로우.

2. 딥마인드의 임무와 정의

• 질문 (사라): 딥마인드를 어떻게 정의하는가?
• 답변 (데미스):
  • 임무: "근본적으로 지능을 해결하는 것(fundamentally solve intelligence)."
  • 신념: 일단 지능을 해결하면, "사실상 다른 모든 것에 그것을 사용할 수 있다."
  • 방법론: '학습 알고리즘' 구축.
    • 이 알고리즘은 매우 '범용적'임.
    • 프로그래밍된 솔루션이 아니라, '경험'이나 '데이터'로부터 직접 학습함.
    • 스스로 '구조'를 찾아냄.
  • 적용 계획: 이 범용 시스템을 막대한 데이터나 복잡성을 가진 모든 영역에 적용.
    • (예: 해당 분야 최고 인간 전문가조차 파악할 수 없을 정도의 복잡성을 가진 영역)
  • 궁극적 목표: 전문가들이 각자 자신의 분야(과학, 헬스케어, 사회 등)에서 더 큰 발전을 이룰 수 있도록 돕는 "놀랍도록 강력한 도구"를 만드는 것.

3. 데미스 하사비스의 배경과 딥마인드

• 질문 (사라): 체스 선수, 학자, 게임 디자이너 등 다양한 경험이 딥마인드와 그 문화에 어떤 영향을 미쳤는가?
• 답변 (데미스):
  • 겉보기엔 '절충적인' 경로지만, 14~15세경부터 항상 AI(궁극적으로 딥마인드 같은 회사)에서 일하는 것이 계획이었음.
  • AI가 가장 심오하고, 흥미롭고, 재미있으며, 영향력이 클 수 있는 분야라 생각함.
  • 1. 게임 경험:
    • 프로그래밍을 배움.
    • '시뮬레이션'과 게임은 현재 딥마인드에서 AI 알고리즘을 개발하고 테스트하는 데 매우 편리한 도구로, 큰 부분을 차지함.
    • 특히 '시뮬레이션'은 기존 데이터 사용이 아닌, '합성 데이터'를 '생성'하는 방식으로서 매우 중요하다고 생각함.
  • 2. 신경과학 경험:
    • 뇌가 작동하는 방식을 연구함.
    • 인간의 뇌는 딥마인드가 만들고자 하는 '범용 학습 시스템'의 유일한 '존재 증명'임.
    • 뇌의 작동 방식(적어도 기능적 수준에서)을 이해하는 것이 새로운 알고리즘과 표현(representations)에 대한 아이디어를 줄 것이라 믿었음.
  • 3. 학계 및 스타트업 경험:
    • 신경과학을 배우는 동시에, 세계 최고 연구실들의 '학계'가 작동하는 방식, 장단점을 배움.
    • 이를 '스타트업 환경'과 비교함.
  • 결론 (딥마인드 문화):
    • 딥마인드는 '최고 스타트업의 모범 사례'와 '최고 학술 연구실의 모범 사례'에서 배운 것들의 '하이브리드' 또는 '융합'임.
    • 체스 경험: 비즈니스를 포함한 모든 '계획'에 접근하는 '근본적인 방식'. 어린 시절 훈련한 '논리적 계획'을 사용함.

4. '게임'이라는 주제

• 질문 (사라): 체스, <테마파크>, 바둑 등 '게임'은 당신 삶의 큰 주제였다. 게임에 어떻게 입문했는가?
• 답변 (데미스):
  • 체스 입문:
    • 4살 때 아버지가 삼촌과 체스 두는 것을 보고 배우고 싶다고 함.
    • 어른들은 장난으로 가르치기 시작했으나, 몇 주 후 데미스가 둘 다 이기기 시작함.
    • 체스 클럽에 갔고, 항상 자기 나이보다 '몇 년 위'의 연령대 그룹에서 우승함.
    • 결국 잉글랜드 대표로 활동함.
  • 체스의 가치:
    • 어린이에게 '메타 스킬'을 가르치는 놀라운 훈련임.
    • (예: 계획, 문제 해결, 상상력, 압박감 대처, 경쟁, 탁월함의 의미, 노력 등)
    • 이런 메타 교훈은 다른 분야에도 적용 가능함.
    • 체스 자체보다, 마음을 위한 "엄청난 훈련장(incredible sort of training ground)"이라는 점이 중요함.
  • 기타 게임 및 MBA:
    • 이후 바둑, 포커 등 다른 많은 게임을 배움.
    • (농담) 만약 MBA를 설계한다면, 비즈니스와 과학에 중요한 '다른 기술을 가르치는 다른 게임들'을 중심으로 설계할 수 있음.
  • '마음의 체육관':
    • 20대 초반까지 게임을 직업 또는 취미로 삼음.
    • 게임은 "정말로 큰 결과(consequences)가 없는" 상태에서 시나리오를 반복 연습하고, 압박 속 의사결정을 테스트할 수 있는 드문 환경임.
  • AI와의 연결:
    • 이는 AI가 '시뮬레이션'을 사용하는 이유와 정확히 일치함.
    • AI는 시뮬레이션 안에서 '완전히 안전하게' 무언가를 시도하고, 그로부터 학습함.
    • "우리가 AI 알고리즘으로 하고 있는 것은, 어릴 적 내가 나 자신에게 했던 것과 같다."

5. 알파고 상세

• 질문 (사라): (부모님이 바둑을 두다 만나셨다 언급) 서울에서의 알파고 승리에 대해 더 말해달라.
• 답변 (데미스):
  • 서울 대국 (이세돌 전):
    • "일생에 한 번뿐인(once-in-a-lifetime)" 경험.
    • 한국에서 바둑은 엄청난 인기이며, 말 그대로 "온 나라가 멈춰 섰음."
    • (농담) 공항 직원이 알아볼 정도였고, "일주일간 한국에서 데이비드 베컴 다음으로 두 번째로 유명한 영국인"이 된 것 같았음.
  • 알파고의 20년 기원:
    • 바둑은 케임브리지(수학과, 물리학과에서 인기)에서 비교적 늦게 배움.
    • 바둑을 사랑했지만, 최고 수준이 될 만큼 연습할 시간은 없었음.
    • '데이비드 실버(David Silver)' (현 딥마인드 강화학습 총괄, 케임브리지 동문, 엘릭서 스튜디오 CTO)와 20년 전부터 바둑 프로그램을 구상함.
    • '딥 블루'가 카스파로프를 이긴 직후, 데미스가 데이비드에게 바둑을 가르쳐 줌.
    • 바둑이 체스보다 훨씬 어렵다는 것을 알았음.
    • 당시 '딥 블루' 방식(수작업 휴리스틱 + 브루트포스 서치)으로 바둑 프로그램을 만드는 것을 고려함.
    • 중요한 깨달음: 바둑에는 이 방식이 "통하지 않을 것"임을 금방 깨달음.
      • 바둑은 너무 '상황 의존적'이라, 모든 경우의 수에 대한 'if-then' 문을 프로그래밍하는 것이 불가능함.
    • 생각을 접었지만, "바둑을 꺾을 수 있다면 AI 측면에서 (딥 블루보다) 훨씬 더 중요한 성과일 것"이라 동의함.
    • 이후 데미스는 신경과학 박사 과정을, 데이비드는 캐나다에서 컴퓨터 바둑/강화학습 박사 과정을 밟음.
    • 딥마인드에서 다시 뭉쳐 이 문제를 공략함.
    • (이세돌 전까지) 알파고는 약 3년간의 작업이었지만, 그 생각은 20년간 이어진 것임.
  • 상대 선수에 대한 존중:
    • 이세돌과 커제는 "믿을 수 없는 인간"이자 "창의적"이며, 엄청난 헌신을 바침. 바둑은 '예술'임.
    • 두 사람 모두 매우 "품위 있는(gracious)" 사람들이었음.
    • 알파고가 바둑 커뮤니티에 잘 받아들여진 이유: 데미스 자신과 팀원들(여러 명)이 '게임 플레이어'였기 때문.
    • 언어 장벽이 있어도, 딥마인드 팀이 바둑 기사들의 '능력', '재능', '예술 형식'을 진심으로 이해하고 존중한다는 것을 그들이 본능적으로 느꼈다고 생각함.
    • 단순히 '정복해야 할 대상'으로 보지 않았음.
    • 과거의 '기계 vs 인간' 대결(체커, 체스)은 '적대적'이었음. 프로그래머들이 게임 플레이어가 아니어서, 상대를 '훌륭한 인간'이 아닌 '등반해야 할 산(무생물)'으로 여겼기 때문임.
    • 알파고 대국은 양측의 '깊은 존중'이 있었음. (기계를 만든 인간의 노력 + 인간이 보여준 예술성)
  • 대국 이후의 영향:
    • 이세돌과 커제 모두 대국 이후 "엄청난 연승(huge winning streaks)"을 거둠.
    • 알파고가 그들에게 "새로운 아이디어와 새로운 수"에 대한 영감을 줌.
    • 이세돌 (8~9연승), 커제 (당시 기준 13연승).
  • AI와 창의성:
    • (사라): AI가 인간을 더 창의적으로 만들 수 있음을 보여줌.
    • (데미스): 동의함. 핵심은 승리 여부가 아니라 "어떻게 이겼는가"임.
    • 알파고는 인간의 아이디어를 모방하거나 효율적으로 계산한 것이 아니라, "진정으로 창의적인 아이디어, 독창적인 아이디어"를 내놓음.
  • 바둑 = '객관적 예술':
    • 바둑은 예술이지만, 결국 승자가 결정되는 '객관적' 예술임.
    • '참신한 수'는 누구나 둘 수 있음 (무작위로 두기).
    • 중요한 것은 그 수가 '좋은가?', '승리에 도움이 되었는가?'임.
    • 그래야만 그 수가 "진정으로 창의적인 뛰어남(genuinely creative brilliancy)"이었는지 판단할 수 있음. 이는 주관적 의견이 아님.
    • 알파고는 인류가 3,000년간 탐구해 온 게임에서 "완전히 새로운 아이디어"를 "수없이" 만들어 냄.

  • 인간에게 준 영감:

    1. 직접적 영향: 사람들이 알파고의 기보를 분석함.

    2. 정신적 해방: 판 후이(Fan Hui, 유럽 챔피언, 딥마인드 컨설턴트)는 "전통의 족쇄(shackles of tradition)로부터 마음이 해방된" 느낌을 받았다고 말함. - 기존의 '지혜'에 얽매이지 않고 "생각할 수 없었던 생각"을 할 수 있게 됨. - 바둑계에 "완전히 새로운 차원의 창의적 탐험"을 불어넣을 것임.

6. 알파고와 '함께' 경기하기

• 질문 (사라): 당신도 알파고와 대결해 보았는가?
• 답변 (데미스):
  • 알파고는 매우 초기에 이미 자신보다 훨씬 강해져서 의미가 없었음.
  • 더 재미있었던 것: 중국에서 알파고와 '함께' 경기함.
  • '페어고(PairGo)' 형식: 2인 1조로, 상의 없이 번갈아 가며 둠. (파트너의 의도를 추론해야 함)
  • 알파고가 파트너가 되어주는 버전을 플레이함.
  • 알파고가 "내 편"이 되어 "내 실수를 바로잡아주는" 것은 매우 재미있는 경험이었음.

7. AI의 모델링과 '의도'

• 질문 (사라): 기계가 인간의 예측 가능성을 평가한다는 것이 흥미롭다. 이 분야 CEO로서 '창조자의 의도'와 '사회적 영향'에 대해 어떻게 생각하는가?
• 답변 (데미스):
  • (먼저 알파고에 대해) 현재 버전은 '상대방 모델링'이 없음. 자신(알파고)과 대국한다고 가정하고 훈련됨.
  • 하지만 인간 파트너가 이해할 수 있는 수를 두도록 예측하는 버전을 만들 수도 있을 것임.
  • 윤리적 책임:
    • "우리는 그 책임을 극도로 진지하게(extremely seriously) 받아들인다."
    • 딥마인드를 시작한 2010년에는 AI가 유행어가 아니었음. (VC들이 '눈을 흘길' 정도).
    • 하지만 그때조차 '성공을 계획'하고 있었음. 컴퓨팅 파워, 데이터, 딥러닝, 강화학습 등 "때가 무르익었다"고 믿었음.
    • AI가 인류 역사상 가장 중요한 기술 중 하나가 될 것이라면, "당연히 그 윤리를 매우 심각하게 받아들여야 함."
  • 딥마인드의 윤리적 노력:
    • 초기부터 이 분야의 '사상적 리더십'의 최전선에 있었음.
    • '파트너십 온 AI(Partnership on AI)': 빅테크 기업들이 AI의 윤리적 배포와 사용을 고민하기 위해 만든 협력체. 딥마인드가 주도적 역할을 함.
    • 닉 보스트롬(옥스퍼드) 등 학자들, 싱크탱크와 정기적으로 브레인스토밍함.
    • 아직 모든 답을 가진 것은 아니지만, "이 문제들에 대해 진지하게 생각하기 시작해야 함."
    • 연구 분야:
      • 기술적: 안전성, 해석 가능성, 투명성, 시스템 편향.
      • 윤리적: AI로 인한 생산성 향상이 "소수가 아닌 모든 사람에게 혜택"이 가도록 분배하는 문제.

8. 자동화와 일자리

• 질문 (사라): 자동화와 일자리 논쟁을 어떻게 보는가? (단순 러다이트 운동의 반복인가, 더 심오한 변화인가?)
• 답변 (데미스):
  • "아직 명확하지 않다(It's not clear yet)."
  • 관점 1 (또 다른 기술 혁신):
    • 산업 혁명, 인터넷, 모바일 같은 또 하나의 '거대한 변화'.
    • 사회는 적응할 것임. 일부 직업은 사라지고, "더 새롭고, 더 나은, 더 높은 질의 직업"이 가능해질 것임.
    • "단기적(shorter term)으로는 이것이 분명히 일어날 것임."
  • 관점 2 (획기적 사건):
    • 이것이 "일회성의 획기적인 사건(one-time epocal event)"인지? "확신할 수 없다." 하지만 "그럴 수 있다고 주장할 수 있음."
  • 만약 '획기적 사건'이라면:
    • 이슈 1 (분배): 증가된 생산성이 "공정하게 분배(distributed fairly)"되어야 함. (이는 기술적 문제라기보다 '정치적 문제'임).
    • 이슈 2 (목적): 분배 문제가 해결된다고 가정하면, '목적'과 같은 "더 높은 수준의 질문"이 제기됨.
    • 이는 "매우 흥미로운 생각거리"이며 "훨씬 더 많은 연구"가 필요함.

9. 딥마인드와 런던

• 질문 (사라): 왜 영국(런던)에 본사를 두었는가? (미국으로 갈 수도 있었을 텐데)
• 답변 (데미스):
  • 자신은 런던 토박이이며, 2010년 당시 '실리콘 밸리에서만' 딥테크 기업이 가능하다는 "지배적인 관점(prevailing view)"이 "사실이 아님"을 보여주고 싶었음.
  • 영국에도 케임브리지, 옥스퍼드, 임페리얼, UCL 등 "세계적 수준의 대학"과 "최고 수준의 인재"가 있음.
  • 단지 그들이 "제대로 결집되지 않았고" "야망의 수준(level of ambition)"이 부족했을 뿐임.
  • 자금 문제: 당시 자금 부족이 문제였지만, "미국에서 펀딩을 받아서 여기(런던)에 기반을 둘 수 있다"고 생각했고, 실제 그렇게 함.
  • 피터 틸(Peter Thiel) 일화:
    • 파운더스 펀드(Founders Fund)가 첫 주요 투자자였음.
    • 첫 미팅에서 투자를 결정했지만, 계약까지 3개월이 걸림.
    • "주요 걸림돌(main sticking point)"은 피터 틸이 딥마인드의 '실리콘 밸리 이전'을 원했기 때문. (당시 그는 미국 서부 해안 밖으로는 투자한 적이 없었음)
    • 결국 런던에 있어야 할 "타당한 이유(good reasons)"를 들어 설득함.
  • 런던의 경쟁 우위:
    • 당시 데미스는 런던이 '인재 확보'에 경쟁 우위가 있다고 주장함.
    • (예시) 케임브리지 물리학 박사 학위자가 미국 이주를 원치 않고, 시티(금융가)의 헤지펀드에서도 일하기 싫다면 (2010년 금융위기 이후 매력 감소),
    • 자신의 모든 기술을 활용할 '지적인 도전'을 할 만한 곳이 영국/유럽에 거의 없었음.
    • "한동안 유럽 시장을 독점할 수 있다"고 느꼈고, 실제로 초기 50여 명의 핵심 인력을 그렇게 모음.
  • 현재:
    • 이제는 "모두가 그 비밀을 알고" 딥테크 스타트업이 많아짐.
    • 딥마인드가 "여러분 모두가 투자를 유치하기 더 쉽게" 만들었기를 바람. (런던에서도 가능하며, 훌륭한 엑시트가 가능함을 증명했기 때문)
    • 임프로버블(Improbable), 매직 포니(Magic Pony) 같은 다른 성공 사례들을 보게 되어 기쁨.

10. 창업가들을 위한 조언

• 질문 (사라): (청중을 가리키며) 이 분야 창업가들에게 조언을 해준다면?
• 답변 (데미스): (엘릭서 스튜디오와 딥마인드, 두 번의 창업 경험에서 배운 것)
  • 1. '큰 아이디어'를 추구하라:
    • 회사 운영은 "믿을 수 없을 만큼 힘듦."
    • 아이디어가 '작든 크든' 상관없이 "똑같이 힘듦."
    • '큰 아이디어'의 장점:
      • 공동창업자, 최고 인재, 투자자들을 '흥분시키는' 데 유리함.
      • 창업가 본인에게: 힘든 시기가 닥쳤을 때, '정말 중요한 문제'를 다루고 있다는 사실 자체가 "어려운 시기를 헤쳐나가게" 해줌.
    • "역설적이게도, 더 큰 아이디어를 추구하는 것이 때로 더 쉬울 수 있다."
  • 2. 야망과 자금 조달:
    • 실리콘 밸리의 '야망의 수준'과 '허세'를 받아들였음.
    • 첫 회사 (엘릭서): "매우 영국식(very British)"으로 함. 소액(수십만 파운드)을 투자받고, 마일스톤을 증명할 때까지 다음 투자를 감히 요청하지 못함.
    • 이 방식은 구축이 "매우 느리고", "사소한 문제 하나가 당신을 죽일 수 있음."
    • 미국 방식: "그들은 항상(always) 자금을 조달함." "항상 큰 규모의 투자를 유치하려 함."
    • 깨달음: 이것은 "자기충족적 예언(self-fulfilling prophecy)"임.
      • 더 많은 돈, 런웨이(활주로), 여유가 있으면 "실수를 바로잡을 더 많은 시간"을 갖게 됨.
      • "더 많은 성공을 투영(projected)했기 때문에" 결국 더 성공하게 됨.
    • ('허풍' 수준은 아니더라도) 당신이 하려는 일의 '야망'을 투영하는 데 "더 야심 차고 용감해져라."

11. 딥마인드의 향후 10년

• 질문 (사라): 딥마인드의 향후 10년에 바라는 것은?
• 답변 (데미스):
  • 딥마인드의 학습 알고리즘을 "과학 그 자체(science itself)"에 적용하는 것.
  • (예: 양자 화학, 단백질 접힘 등)
  • "정말로 기대하는 것"은, 과학/의료 분야의 어려운 문제에서 "AI 도구의 도움을 받아" 전문가들이 첫 번째 '큰 발견'을 이뤄내는 것임.
  • 희망 사항: "몇 년 안에" 그런 일이 일어나기 시작해서, "10년 후에는" 그것이 "일상적인(routine)" 일이 되는 것.
  • 이것은 "믿을 수 없을 정도로 혁명적(unbelievably revolutionary)"일 것임.

12. 예술 vs. 과학

• 질문 (사라): (데미스가 크리스토퍼 놀란 감독과 친구인 점, 에릭 슈미트의 '예술과 과학' 강연 언급) 예술적 개념이 당신의 사고에 얼마나 영향을 미치는가?
• 답변 (데미스):
  • "나는 예술과 과학 사이의 경계(boundary)를 잘 보지 않는다."
  • 둘 다 "인간의 조건(The Human Condition)을 이해하고 표현하려는" 것임.
  • "최고의 과학은... 예술적(Artistic)이다."
  • "좋은 과학자"와 "진정으로 위대한 과학자"를 구분하는 것은 "기술적 능력이 아니라 창의적 능력(creative ability)"임.
  • 딥마인드에는 그런 '창의적 감각'을 가진 사람들이 많음.
  • 조직 설계에 대한 과학적 접근:
    • 자신은 '과학적 방법론'을 "조직 설계(organizational design)", 즉 회사 자체의 설계에도 적용하려 함.
    • 과학적 방법론은 '인류 최고의 아이디어 중 하나'이며, 과학 외부에 "더 광범위하게 적용 가능함."
  • 크리스토퍼 놀란:
    • 자신은 놀란의 '팬보이'임.
    • 자신의 "과학적 삶이 그의 영화 속 관심사를 반영하는(mirroring)" 것 같다고 느낌.
      • <메멘토> (해마/기억) -> 데미스의 박사 과정 주제.
      • <인셉션> (상상력).
    • 놀란 감독 역시 AI에 관심이 많음.

13. 단답형 질문

• 다음 휴가지는? "확실치 않음." 아마도 크리스마스에 코스타리카 (직항편이 생겼다고 함).
• 영감을 얻는 곳? "영화(Films)." (크리스토퍼 놀란 추천).
• 항상 추천하는 책? 최근에는 유발 하라리의 <사피엔스(Sapiens)>. (읽고 나서 20가지 새로운 아이디어를 얻었음).
• 창업가들에게 하고 싶은 한마디?
  • "당신이 '올바른 이유(right reason)'로 회사를 시작하는지 확인하라."
  • 스타트업이 '유행'이 됨.
  • '당신의 열정'을 찾고, '진정으로 관심을 갖고', '진정으로 중요한' 일을 해야 함.
  • "단순히 돈을 벌기 위해서나 다른 부수적인 이유"로 하지 말 것.

14. 청중 Q&A

• Q1: AI가 인간 정신을 이해하는 데 도움이 되는가?

  • A (데미스): 그렇다. '지능을 알고리즘적 구성체로 추출하는' 과정과 '인간의 마음'을 비교함으로써 "우리 마음의 많은 미스터리를 밝힐 것"이라 희망함.
  • 딥마인드 내에 큰 '신경과학 그룹'(약 35명)이 있음.

  • 양방향 연구:

    1. 머신러닝 아이디어를 뇌에서 '검증'함. (뇌도 이 방식을 쓰는가?)

    2. AI가 뇌에서 '무엇을 찾아야 할지'에 대한 아이디어를 줌.

       • 예시: '메타 러닝(학습하는 법을 배우기)'.
       • 머신러닝에서 먼저 구축한 후, '이제 뇌에서' 어느 영역이 이를 담당하는지 찾고 있음. "곧 좋은 결과가 나올 것."

• Q2: 학계보다 과학 연구를 더 효율적으로 만드는 방법은?

  • A (데미스): '3가지 목록' 같은 것이 아니라 '수십 가지의 작은 것들'이 합쳐진 것임.
  • 학계의 문제점: 똑똑한 사람이 많지만 "조정이 전혀 없음(no coordination)." '브라운 운동' 같음.
    • 창의적인 것은 나오지만, 지식이 효율적으로 추가되지 않음.
    • 야심 찬 문제 해결을 위해 '수십 명의 전문가가 협력'하도록 조직하기가 매우 어려움.
  • 딥마인드의 방식:
    • 1. 로드맵 (Top-down): 20년짜리 로드맵(단기일수록 상세함)을 공유함. 여기에는 달성하고자 하는 '역량'과 '벤치마크'가 포함됨. '역량의 순서'는 정해줌.
    • 2. 솔루션 (Bottom-up): '해결책'은 규정하지 않음.
      • 가장 주니어 연구원의 아이디어도 CEO의 아이디어와 동일한 가치를 가짐.
    • 3. 수렴: '과학적 방법론(객관적 벤치마킹)'에서 '살아남는 아이디어'에 더 많은 자원을 투입함.
    • 결과: "창의성은 여전히 상향식(bottom up)"이지만, "하향식(top down)의 느슨한 조정"이 있음. 이것이 학계에 없는 부분임.

• Q3: 왜 구글에 매각했는가?

  • A (데미스): 2014년 당시 큰 결정이었음. 투자자들은 매각을 원치 않았음.
  • 이유: 구글 내에서 "우리의 임무를 가속(accelerate our mission)"할 수 있다고 느낌.
  • 상호보완성:
    • 딥마인드는 구글의 '컴퓨팅 파워'(데이터는 부차적)와 '자원'이 필요했음. (현재 500명, 박사 300명 - "비용이 많이 듦")
    • 구글 같은 지원 없이는 (연구에 집중하며) 그렇게 할 수 없었을 것임.
  • 래리 페이지: 래리 페이지(당시 구글 CEO)를 만났고, 그가 "구글을 궁극적으로 AI 회사"로 생각하며, AI의 중요성을 이해하고 열정적임을 확인함.
  • 협상 조건:
    • CEO로서 '완전히 독립적으로' 운영할 것.
    • 런던에 머무를 것.
    • '연구 프로그램에 간섭이 없을 것'.
  • "이 모든 것이 지켜졌음(transpired)." 구글의 지원 없이는 지금처럼 빠른 진전을 이루기 어려웠을 것임.

• Q4: 팀원들(500명)의 '메타 러닝'은 어떻게 돕는가?

  • A (데미스): "딥마인드 전체가 학습(learning)에 관한 것"임을 항상 강조함.
  • 대부분 박사급이라 학습에 익숙하지만, "겸손함(humbleness)"을 유지하는 것이 중요함. (세계 전문가라도 더 배울 것이 있음)
  • 모토: '카이젠(개선)' (지속적인 자기 개선을 위한 노력)
    • 이것을 딥마인드 문화에 구현하려 함. (신입사원 교육 등)
  • 환경: "당신이 알고 싶은 것이 있다면, 아마도 당신 주변에 세계 전문가가 앉아있을 것." "그것을 활용하고, 당신이 아는 것에만 고립되지(siloed) 말라."
  • 문화: 전직 학자/교수 출신들은 '가르치고 멘토링하는 것'을 좋아함.
  • 구내식당에서 화이트보드를 두고 놀라운 대화와 브레인스토밍이 일어남.
  • "우리 조직 전체는 '정신에 대한 찬사(Ode to the mind)'이며, 나는 '정신을 위한 대성당(Cathedral to the mind)'이라 부름."

• Q5: 데이터가 적은 영역의 문제는 어떻게 다루는가?

  • A (데미스): "주요 해결책은 시뮬레이션을 구축하는 것."
  • 경로 1 (수작업 시뮬레이터):
    • 실제 데이터가 부족하더라도, (일부 데이터로) 실제 시스템의 '속성을 근사'하는 "수작업 시뮬레이터(handcrafted simulator)"를 구축함.
    • 완벽하진 않아도 "충분히 가깝다면", AI가 그 안에서 실험하고 학습할 수 있음.
  • 경로 2 (생성 모델):
    • 보유한 (적은) 데이터를 학습하는 '또 다른 AI 시스템(생성 모델)'을 만듦.
    • 이 모델이 "동일한 분포에서 새로운 데이터를 자동으로 생성"하게 함.
  • 미래 구상: (적은 실제 데이터로 훈련된) 첫 번째 AI가 데이터를 생성하고, 이 데이터를 '두 번째 AI 시스템'에 공급하여 환경을 이해하고 의사 결정을 내리게 함.

• Q6: 보편적 알고리즘과 '목적'의 정의가 필요한가?

  • A (데미스): "우리가 그 중심 근처에 있기를 희망함." 매우 어려운 작업임.
  • 동기 부여:
    • 1. 외부 보상: 강화학습 방식. (예: 바둑 승리).
    • 문제점: 현실 세계는 "보상이 매우 드물거나(sparse)" 명시되지 않음. 무엇을 최적화해야 하는가?
    • 2. 내재적 보상: 시스템 내부의 보상.
    • 가설 (후보): '정보 획득(Information Gain)' (물리학 기반), '새로움 추구' (생물학적 증거 - 도파민 방출).
    • (외부 보상 없이도) 최대화할 수 있는 '흥미로운 기준들'이 많음.
  • 목표 설정:
    • "매우 까다로운(tricky)" 질문임.
    • 쉬운 경우: 게임 (점수 최대화).
    • 비교적 쉬운 경우: 과학 문제 (에너지 최소화, 특정 속성 임계값 이상).
    • 어려운 경우: "인간 기반 시스템." '목표나 가치'를 지정하는 것이 "더 지저분하고 복잡해짐."
    • "이것은 매우 최첨단 연구 분야임."

• Q7: 딥마인드 시작 시 (기술적/상업적) '검증'을 받았는가?

  • A (데미스): "만약 내가 너무 많은 검증을 받았다면, 나는 결코 시작하지 못했을 것." (당시 일반적 합의에 반했기 때문)
  • 중요한 교훈:
    • 시대를 "50년 앞서가지 말고 5년 앞서가라."
    • (예: 찰스 배비지 - 100년 빨랐음). 50년 앞서가면 "엄청난 고통의 세계"에 빠질 것임 (자금 조달, 설득 등).
  • 그가 '검증한 것':
    • AI 구축 '방법'에 대한 아이디어는 (이미 연구 중이라) 검증이 필요 없었음.
    • 그가 검증하려 한 것: "지금이 적절한 시기인가?" (50년이 아니라 5년 앞선 것인가?)
  • 이는 "꽤 어려운 기술(hard art)"임.
  • (합의가 아니라) "전문가들(experts in certain components)"과 대화하며 조율했음.
  • "만약 검증을 찾는데 모든 사람이 '그래, 해'라고 합의한다면, 그건 아마도 이미 너무 늦은 것임."

• Q8: '전이 학습'의 우선순위는 (1~10)?

  • A (데미스): "가장 중요한 것 중 하나(one of the most vital)."
  • 전이 학습은 "실제 일반 지능(general intelligence)의 핵심(key)"임.
  • 인간이 놀랍도록 잘하는 것임. (예: 데미스가 새 보드게임을 배울 때, 다른 게임에서 배운 '휴리스틱'을 즉시 적용함)
  • "현재 어떤 기계도 그렇게 하지 못함."
  • 전이 학습의 핵심: "개념적 지식(Conceptual knowledge)" 또는 "추상적 지식(abstract knowledge)".
    • "지식을 배운 곳의 '지각적 세부 사항(perceptual details)'으로부터 '추상화된(abstracted away)'" 개념적 지식을 습득하는 것.
  • 아타리 게임 예시 (퐁 vs. 브레이크아웃):
    • 둘 다 '공과 막대' 게임이지만, '다르게 보임'.
    • 현재 시스템: 퐁을 배운 후 브레이크아웃을 해도, "브레이크아웃을 더 빨리 배우지 못함."
    • "분명히 이것은 잘못됨." '뉴턴 역학'의 개념을 전이해야 함.
    • 실패 이유: 지식이 "암시적(implicit)"이기 때문.
    • 한 게임(퐁)에서 공을 예측하는 법은 배웠지만, 그것을 "명시적인 개념적 지식"으로 만들지 못함.
    • 새로운 '지각적 영역'(브레이크아웃)으로 지식을 전이할 방법이 없음. 시스템은 그것을 "완전히 새로운 문제"로 간주함.
  • 결론: 이것이 "일반 AI를 향해 해결해야 할 가장 큰 과제 중 하나."

• 행사 종료: 사라가 Q&A를 마감하고 데미스에게 감사 인사를 전함.