다음은 데미스 하사비스(DH)와 크리스 앤더슨(CA)의 TED 대화 내용을 주제별로 빠짐없이 아주 자세하게 정리한 것임.
I. 도입: AI와 근본적인 질문
- 대화 시작
- CA가 DH를 환영함.
- CA는 DH가 타임지에서 "나는 철학이나 물리학에서 다루는 '정말 큰 질문들'을 이해하고 싶었고, AI 구축이 그 답을 찾는 가장 빠른 길이라고 생각했다"고 말한 것을 인용함.
- AI를 선택한 이유
- DH의 답변:
- 어릴 때 물리학을 가장 좋아했고, 현실의 근본 본질, 의식의 정의 등 '큰 질문'에 관심이 많았음.
- 파인만(Feynman) 같은 위대한 물리학자들을 보며, 지난 20~30년간 이 근본 법칙 이해에 큰 진전이 없음을 깨달음.
- 그래서 '궁극적인 도구'인 인공지능(AI)을 직접 만들기로 결심함.
- AI를 구축하는 과정 자체가 '우리 자신과 뇌'를 더 잘 이해하는 데 도움이 될 것이라 생각함.
- 즉, AI는 놀라운 도구일 뿐 아니라, 그 자체가 '큰 질문'에 답하는 데 유용한 수단임.
- DH의 답변:
- 대화 주제 설정
- CA는 AI의 수많은 기능 중, 특히 DH와 딥마인드를 이끌어 온 주제인 '거대한 과학적 돌파구'와 '정말 큰 질문'을 AI가 어떻게 풀어낼지에 초점을 맞추자고 제안함.
II. AI의 역할과 '게임'을 통한 발전
- AI의 핵심 역할: 데이터 패턴 발견
- DH: AI의 큰 역할 중 하나는 '데이터 이해'임. 20~30년 전 인터넷/컴퓨터 시대 초창기부터 과학 데이터를 포함한 데이터양이 인간이 이해하기엔 너무 많아지고 있었음.
- AI는 방대한 데이터에서 패턴과 통찰력을 찾아내고, 이를 인간 과학자에게 제시하여 새로운 가설과 추측을 만들도록 도울 수 있음.
- 이는 과학적 방법과 매우 잘 맞는 방식임.
- 게임의 역할: AI 여정의 시작
- CA는 DH의 여정에서 '게임 플레이'가 큰 역할을 했다고 언급함.
- DH의 과거:
- 9살 때 잉글랜드 11세 이하 체스 팀 주장이었음.
- 4개국 토너먼트(프랑스, 스코틀랜드, 웨일스 참여)에 참가함.
- 체스뿐 아니라 모든 종류의 게임을 사랑했음.
- 딥마인드가 게임으로 시작한 이유
- DH:
- 게임이 DH를 AI로 이끈 계기임.
- 80년대 중반, 잉글랜드 팀 훈련 캠프에서 초창기 체스 컴퓨터로 훈련했음.
- 당시 체스 컴퓨터는 물리적 보드에 LED가 켜지는 '커다란 플라스틱 덩어리'였음.
- DH는 체스 자체보다, '누군가 저 플라스틱 덩어리를 프로그래밍해 똑똑하게 만들었다'는 사실 자체에 매료됨.
- 이는 '생각'에 대해 생각하게 만들었고, 뇌의 사고 과정과 이를 컴퓨터로 모방할 방법을 고민하게 된 계기가 됨.
- DH:
- 딥마인드의 첫 돌파구: 아타리
- CA가 딥마인드 자금으로 아타리 게임을 한 이유를 물음.
- DH:
- 2010년 딥마인드 시작, 약 10년 전(2012-13년경) 첫 큰 돌파구가 나옴.
- 1970년대 고전 아타리 게임(가장 단순한 게임)으로 시작함.
- 게임을 사용한 이유:
- 아이디어와 알고리즘을 테스트하기에 매우 편리하고 빠름.
- 시스템이 강력해질수록 더 어려운 게임을 선택해 도전할 수 있음.
- 첫 번째 '아하' 순간: '브레이크아웃(Breakout)':
- 기계가 처음으로 딥마인드를 놀라게 한 순간.
- 시스템이 공을 벽 뒤로 보내 벽 상단의 타일을 제거하는 것이 훨씬 안전하고 효율적인 방법임을 스스로 알아냄.
- 혁명: 심층 강화 학습 (Deep Reinforcement Learning)
- CA가 이 시스템에 어떤 전략도 프로그래밍되지 않았음을 확인함. ("이길 방법을 찾아라"는 목표만 주어짐)
- DH:
- 2012-2013년 당시 혁명적이었음. '심층 강화 학습' 용어를 만듦.
- 핵심: 시스템이 화면의 원시 픽셀 (약 30,000개)로부터 직접 학습함.
- "점수를 최대화하라"는 목표 외에 아무 정보도 주어지지 않음.
- 시스템은 무슨 일이 일어나는지, 자신이 무엇을 제어하는지, 점수 획득법을 '첫 원칙(first principles)'부터 스스로 파악해야 했음.
- 게임의 또 다른 장점: '승리', '점수' 등 명확한 목표가 있어 시스템의 향상을 쉽게 측정할 수 있음.
- 정점: 알파고 (AlphaGo)
- CA가 아타리에서 2016년 바둑으로 이어진 과정을 언급. 한국과 아시아가 열광함.
- DH:
- 게임 플레이 작업의 정점이었음.
- 바둑: 아시아의 게임, 체스보다 훨씬 복잡함.
- 체스를 정복한 '무차별 대입' 알고리즘이 바둑엔 불가능. 바둑은 훨씬 더 패턴 기반이고 직관적인 게임임.
- 90년대 딥 블루(Deep Blue)가 카스파로프를 이긴 후 20년이 더 걸려 알파고가 세계 챔피언을 이김.
- 딥마인드는 바둑 챔피언을 이기는 시스템은 매우 흥미로운 무언가를 해냈을 것이라 믿었음.
- 알파고의 학습법:
- 수백만 번의 자가 대국을 통해 전략을 스스로 학습.
- 2,000년 바둑 역사상 본 적 없는 '완전히 새로운 전략'을 발명함.
- 단순히 승리한 것뿐 아니라, 새로운 전략을 제시했다는 점이 놀라웠음.
- 진화: 알파제로 (AlphaZero)
- CA가 다음 단계(아무것도 가르치지 않고 처음부터 학습)를 언급.
- DH:
- 알파고: 인간의 기보(인터넷 게임 데이터)를 기본 지식으로 시작했음.
- 알파제로: '제로(0)', 즉 사전 지식 없이 무작위 플레이에서 시작함.
- 이유: 더 일반적인 시스템을 만들기 위함. (알파고는 바둑만, 알파제로는 어떤 2인용 게임이든 가능).
- 무작위 플레이에서 시작해 (매우 빠르게) 향상됨.
- 24시간 이내에 무작위 수준에서 세계 챔피언 수준 이상으로 도달함.
- 알파제로와 체스: 9시간의 기적
- CA: 수십 년간 수천 명의 전문가가 만든 체스 컴퓨터를, 알파제로가 단 9시간 만에 독학으로 모두 뛰어넘었음.
- DH의 회상:
- 그날의 기억이 생생함.
- 아침: 시스템이 무작위로 시작.
- 점심: DH가 간신히 이길 수 있는 수준.
- 4시간 후 (저녁): 역사상 가장 위대한 체스 플레이 존재가 됨.
- 체스처럼 잘 아는 분야에서 이를 실시간으로 목격하는 것은 놀라웠고, 이것이 과학 분야에서 무엇을 할 수 있을지 외삽하게 됨.
- 게임의 진정한 의미
- 게임은 목적이 아니라 수단이었음.
- 아이디어를 위한 훈련장이자, 5년도 안 되어 아타리에서 바둑까지 빠른 진보를 이루기 위한 수단이었음.
III. AI와 과학적 발견: 알파폴드 (AlphaFold)
- AI의 힘과 양면성
- CA: 이것이 사람들이 AI에 경외감과 두려움을 동시에 느끼는 이유. 수백만 인간이 수세기 동안 못한 것을 몇 시간 만에 달성함.
- DH: 동의함. 엄청나게 강력하고 변혁적인 기술이며, 사용법을 매우 신중히 생각해야 함.
- 알파폴드와 단백질 접힘 문제
- DH: 어릴 적부터 AI로 과학 발견을 가속화하는 것이 목표였음.
- 대학 시절부터 '단백질 접힘 문제(protein-folding problem)'를 AI로 풀고 싶었음. 이는 생물학의 50년 된 거대 난제임.
- 문제 설명:
- 단백질은 생명의 필수 구성 요소임.
- 단백질은 '아미노산 서열'(유전 서열, 왼쪽의 글자들)로 기술됨.
- 자연(몸속)에서 이 1D 서열은 '3D 구조'(오른쪽의 아름다운 모양)로 접힘.
- 단백질의 3D 구조가 그 단백질의 기능(무슨 일 하는지)을 결정함.
- 난제: 아미노산 서열(1D)만으로 3D 구조를 직접 예측할 수 있는가?
- 이것이 바로 알파폴드가 하는 일임.
- 알파폴드의 학습과 성과
- DH:
- 알파고 성공 직후, 단백질 접힘 문제에 도전할 준비가 되었다고 느낌.
- 시작점: 지난 40여 년간 실험 생물학자들이 X선 결정학 등 복잡한 실험으로 힘들게 밝혀낸 약 15만 개의 단백질 구조 데이터.
- 비유: 1개의 구조를 밝히는 데 1명의 박사과정 학생이 4~5년(전체 PhD 과정)을 소요함.
- 하지만 자연계에 알려진 단백질은 2억 개임. 기존 방식으론 영원히 걸릴 일.
- 알파폴드의 성과: 단 1년 만에 알려진 2억 개의 단백질 구조 예측을 완료함.
- 이는 10억 년 분량의 박사 과정 시간을 절약한 것과 같음.
- DH:
- 알파폴드의 정확도와 영향
- CA가 예측(모델)과 실제 실험 결과가 2억 번 일치함에 감탄함.
- DH:
- 단백질은 정교하고 아름다운 예술 작품과 같음.
- 알파폴드의 예측 정확도(파란색)는 실제(녹색)와 비교 시 평균 원자 폭 이내임.
- 이 수준의 정확도는 생물학자들의 사용, 신약 설계, 질병 이해에 필수적임.
- 결과 공개 결정
- CA가 2억 개 결과물을 모두 공개한 놀라운 결정을 언급함.
- DH: 알파폴드를 오픈소스화하고, 유럽 생물정보학 연구소(EBI)와 거대 데이터베이스로 모든 것을 공개함.
- 구글(모회사) 반응: 구글은 과학을 매우 지지하며 이것이 세상에 가져올 이점을 이해함.
- 공개 이유: 딥마인드 혼자서는 이 데이터 잠재력의 극히 일부(아마 백만 분의 일)밖에 활용 못 함.
- 현재 전 세계 150만 명 이상의 생물학자(거의 모든 생물학자)와 모든 제약회사가 알파폴드를 사용 중임.
- 다음 단계: 아이소모픽 (Isomorphic)
- CA가 구글에서 분사한 새 회사 '아이소모픽'을 언급.
- DH의 비전:
- 알파폴드: 기초 생물학 도구 (3D 구조 파악, 기능 추측).
- 이는 질병 이해와 신약 설계의 시작점임.
- 아이소모픽: 알파폴드 작업을 화학 분야로 확장.
- 목표: 단백질의 정확한 표적 지점에만 결합하고, 몸 안의 다른 곳엔 결합하지 않는(부작용/독성 없는) 화학 화합물(신약)을 AI로 설계하는 것.
- 이를 위해 알파폴드의 자매 모델 격인 여러 화학 예측 AI 모델 구축 중.
- 미래 전망
- CA: 극적인 건강/의학 돌파구를 기대할 수 있겠음.
- DH: 신약 개발 기간을 수 년에서 수 개월로 단축할 수 있을 것으로 생각함.
IV. AI 경쟁과 안전성: 몰로크의 덫
- '몰로크의 덫 (Moloch Trap)'
- CA가 리브 보리의 TEDAI 강연 '몰로크의 덫'을 소개함.
- 정의: 경쟁 상황에 놓인 조직(회사)들이, 그 조직의 어떤 개인도 혼자서는 하지 않을 행동을 하도록 내몰리는 상황.
- ChatGPT와 구글의 대응
- CA의 시각:
- 최근 2년간 '몰로크의 덫'이 충격적으로 작동함.
- 상황: 딥마인드가 과학/의학 돌파구 추구 -> 갑자기 OpenAI(MS)가 ChatGPT 출시 -> 세상이 열광함.
- MS CEO 사티아 나델라 발언 인용: "구글은 800파운드 고릴라. 우리는 구글이 춤추게 만들고 싶었다."
- 결과: 구글이 춤을 췄음.
- 극적인 반응이 나옴. DH가 구글 AI 전체를 총괄하게 됨.
- 제품(제미니)이 서둘러 출시됨 (일부 놀랍고, 일부 당황스러움).
- 메타(Meta)도 오픈소스 AI를 서둘러 출시 (그 자체로 무모한 행동일 수 있음).
- CA의 질문: 이것이 몰로크의 덫이 작동한 것 아닌가? 끔찍하지 않은가?
- CA의 시각:
- DH의 답변: ChatGPT 모멘텀
- DH: 복잡한 주제임.
- 구글은 이미 많은 거대 언어 모델(LLM)을 연구 중이었음. 이 모든 것의 기반이 된 트랜스포머(Transformers) 아키텍처도 5-6년 전 구글 리서치가 발명함.
- ChatGPT가 바꾼 것: (OpenAI 그들 스스로도 놀랐겠지만) 일반 대중이 AI 시스템을 받아들이고 그 안에서 가치를 찾을 준비가 되었음을 증명함.
- 연구자들의 관점: 당시 연구자들은 주로 결함, 환각 등 단점에 집중함. "이런 결함이 있는데 누가 유용하게 쓸까?"라고 생각. 개선 후 출시하려 했음.
- 현실: 결함에도 불구하고, 수천만 명이 AI를 매우 유용하게 사용함.
- 교훈: 실험실의 놀라운 기술이 과학계를 넘어 '일반 대중이 사용할 준비(prime time)'가 되었음을 알게 됨. 이는 흥미로운 일임.
- DH: 복잡한 주제임.
- 거대 자본 경쟁과 미래 위험
- CA:
- MS/OpenAI가 1,000억 달러를 투자해 5기가와트(뉴욕시 전체 전력량)를 소모하는 몬스터급 슈퍼컴퓨터(데이터 센터)를 구축한다는 보도를 언급.
- 구글도 이 정도 투자에 맞대응할 것인지 질문.
- DH:
- 구체적 수치는 비공개. 하지만 시간이 지남에 따라 그 이상을 투자하고 있음.
- (2014년 구글과 합병한 이유도 AGI에 도달하기 위해 막대한 컴퓨팅 자원이 필요함을 알았기 때문).
- CA:
- 경쟁으로 인한 위험 시나리오 (CA)
- CA: 경쟁사들이 거대 자본을 투자한 상황에서, 뒤처진 누군가가 이렇게 결정할 위험이 있음.
- "강화 학습을 이용해 AI가 자체 코드를 수정하고 재작성하게 만들자. 주말 9시간 만에 그들을 따라잡을 수 있을지 모른다. 주사위를 굴리자, 젠장. 선택의 여지가 없다."
- 이런 상황을 어떻게 피할 것인가?
- DH의 해법: 협력과 안전한 아키텍처
- DH:
- 그런 상황은 반드시 피해야 함.
- 1. 협력: AGI에 가까워질수록 더 많이 협력해야 함. (다행히 관련 연구소 과학자들은 서로 잘 알고 대화를 많이 나눔).
- 2. 현재: 기술이 아직 초기 단계라 현재의 경쟁은 괜찮을 수 있음.
- 3. 미래 (AGI 근접 시): 사회 전체가 구축되는 '아키텍처의 유형'에 대해 생각하기 시작해야 함.
- 4. 안전/위험 아키텍처: DH는 낙관함. AGI를 안전하고, 견고하며, 신뢰/이해 가능하게 만들 방법이 많다고 봄. 반면, 안전하지 않고 위험한 방식도 분명히 존재함.
- 5. 병목: 인류는 '안전한 아키텍처'를 최초의 AGI 시스템으로 구축하는 병목 구간을 통과해야 함.
- 6. 그 이후: 그 안전한 아키텍처에서 분할된, 수학적/실질적 보장이 있는 다양한 시스템이 번성할 수 있음.
- DH:
- 정부의 역할
- CA: 정부가 공정한 경쟁의 장과 금기 사항을 정의하는 필수적 역할을 해야 하는가?
- DH: 정부뿐 아니라, 시민사회, 학계 등 사회 모든 부분이 업계 연구소와 함께 AGI의 바람직한 모습과 (통제 불능의 경쟁을 막기 위한) 필요한 협력/협조를 형성하는 데 중요한 역할을 해야 함.
V. 결론: 지식의 나무와 인류의 미래
- '모든 지식의 나무 (Tree of all Knowledge)'
- DH가 가장 좋아하는 이미지.
- 세상 모든 지식 = 거대한 나무.
- 현재 인류 문명이 아는 것 = 나무의 작은 하위 집합.
- AI = 과학자들이 언젠가 그 나무 전체를 탐험할 수 있게 해주는 도구.
- '루트 노드 문제 (Root Node Problems)': 알파폴드처럼, 일단 해결하면 완전히 새로운 발견의 가지(새 연구 분야)를 통째로 열어주는 근본 문제. 딥마인드는 이런 문제 해결에 집중함.
- AI가 가져올 미래
- 이것을 제대로 해낸다면, 급진적인 풍요(radical abundance), 모든 질병 치료, 의식의 우주 확산, 인류의 최대 번영 시대를 맞이할 수 있음.
- DH의 궁극적인 꿈
- CA: AI가 일생 안에 풀기를 바라는 '꿈의 질문'은?
- DH: AGI가 구축되면, 그것을 사용해 현실의 근본적인 본질을 이해하고 싶음. 플랑크 규모(Planck scale)(현실의 해상도라 불리는 가장 작은 이론적 규모)에서 실험을 하고 싶음.
- 지식의 위험성
- CA: 성경 속 '지식의 나무' 이야기는 결과가 좋지 않았음. 우주가 "인간은 알면 안 된다"고 하는 지식을 발견할 시나리오는 없는가?
- DH의 믿음: 과학적 방법
- 알 수 없는 것이 있을 수도 있음.
- 하지만 '과학적 방법'은 인류가 고안해낸 가장 위대한 발명품임 (계몽주의, 과학적 발견).
- 지금의 현대 문명과 모든 도구는 과학이 만든 것임.
- 과학적 방법은 광대한 우주를 이해하기 위해 우리가 가진 최고의 기술임.
- 마무리
- CA가 DH의 노력에 응원을 보냄. DH가 감사 인사로 마무리.