2022. 8. 3. 데미스 하사비스: AI를 이용한 과학적 발견 가속화

1부: 나이젤 섀드볼트 경의 소개

• 환영 및 주최 소개
  • 셸도니언 극장에서 열리는 옥스퍼드 대학 'AI 윤리 연구소'(Institute for ethics in Ai) 주최 강연에 오신 것을 환영함.
  • 이 강연은 '오빗 SE 태너 강연'(obit SE Tanner lectures)의 일환임.
  • 소개자: 나이젤 섀드볼트 경 (지저스 칼리지 학장, 컴퓨터 과학 교수, 연구소 운영위원장).
• AI 윤리 연구소 소개
  • 연구소는 세계 최고의 철학자, 인문학 전문가와 AI 연구자, 개발자, 사용자를 연결함.
  • 소장: 존 툴리스 교수.
  • 최종 입주지: '스티븐 A. 슈워츠먼 인문학 센터' (곧 건설 시작).
• AI의 현주소
  • AI는 최근 몇 년간 급격히 발전하여 현재 우리 삶 어디에나 존재함 (휴대폰, 게임, 자동차, 신약 개발, 검색 엔진, 번역 도구).
  • 이 발전은 머신러닝 알고리즘, 방대한 데이터, 강력한 컴퓨팅 하드웨어 덕분임.
• 연사 (데미스 하사비스) 소개
  • 딥마인드(Deep Mind)의 CEO이자 공동 창업자.
  • 하사비스의 경력:
    • 체스 영재, 성공적인 컴퓨터 게임 개발자.
    • 케임브리지 컴퓨터 과학 수석 졸업.
    • 항상 인간의 뇌와 지능의 발현 원리에 매료됨.
    • 게임 회사 성공 후, UCL에서 인지 신경과학 박사 학위 취득.
    • 개츠비 계산 신경과학 연구소에서 박사후 연구 수행.
    • 상상력, 기억, 기억상실에 대한 논문을 '네이처', '사이언스' 등에 게재.
  • 딥마인드 설립 (2010년):
    • 컴퓨팅과 신경과학에 대한 관심을 결합.
    • 설립 포부: "지능을 해결하고, 그 지능을 사용해 다른 모든 것을 해결한다."
  • 게임의 활용:
    • 신경과학 기반 머신러닝 아이디어를 테스트하는 맥락으로 게임(아케이드, 바둑)을 활용함.
    • 알파고(AlphaGo): 2016년 2월, 바로 이 셸도니언 극장에서의 강연에서 한 달 뒤 있을 이세돌 9단과의 4:1 승리를 예고함 (실제 대국은 3월).
  • 딥마인드의 궁극적 목표:
    • 게임은 훌륭한 훈련장이었으나, 궁극적 목표는 현실 세계의 중요 문제를 해결할 수 있는 '범용 학습 시스템' 구축임.
  • 알파폴드(AlphaFold):
    • 50년 된 난제인 '단백질 구조 예측' 문제 해결.
    • 가장 정확하고 완전한 '인간 단백질 전체' 그림 공개.
• 강연의 의의
  • 오늘 강연은 AI 윤리 연구소의 목표(최고 학자들과 AI 개발 최전선 실무자들의 만남)에 부합함.
  • AI가 과학적 발견을 가속화할 잠재력에 대한 직접적인 경험을 공유할 것임.
  • 이 경험은 정책 입안자와 개발자가 고려해야 할 중요 '윤리적 고려사항'에 대한 연구와 사고에 정보를 제공할 것임.
• 하사비스의 예측 및 강연 주제 소개
  • 하사비스는 AI가 역사상 가장 유익한 기술 중 하나가 될 것이라 예측했으나, 동시에 중요한 윤리적 문제가 남아있다고 강조함.
  • 강연 주제: "AI를 이용한 과학적 발견 가속화".

2부: 데미스 하사비스 강연 - 본론

1. 도입: 딥마인드의 비전과 동기

• 감사 인사: 옥스퍼드 셸도니언 극장에서 태너 강연을 하게 되어 영광임.
• 핵심 동기: "AI를 이용한 과학적 발견 가속화"는 AI 연구에 평생을 바친 하사비스의 '원래 동기'였음.
• 딥마인드의 비전 (2010년):
  • 2010년 당시 AI는 유행어가 아니었고, 민간 부문 투자 유치가 거의 불가능했음 (당시엔 미친 짓으로 취급).
  • 설립 목표: AGI (인공 일반 지능) 구축을 위한 '아폴로 계획' 같은 노력.
  • AGI 정의: 많은 작업을 최소 인간 수준으로 잘 수행할 수 있는 '범용' 시스템.
• 업데이트된 미션:
  • (구) 1단계: 지능 해결, 2단계: 지능으로 모든 것 해결.
  • (현) "지능을 해결하여 과학을 발전시키고 인류에게 혜택을 준다."
  • 이것이 딥마인드가 AI 적용 대상을 생각하는 초석임.

2. AI 구축 철학: 학습 시스템 vs. 전문가 시스템

• AI 구축에는 크게 두 가지 방식이 있음.
• 1. 논리/전문가 시스템 (전통적 방식):
  • 프로그래머 팀이 문제를 해결하고, 그 해결책을 시스템에 '하드코딩'함.
  • 단점: 일반화에 매우 제한적이며, 프로그래머가 예견하지 못한 상황에 대처할 수 없음.
• 2. 학습 시스템 (딥마인드의 방식):
  • 지난 10여 년간의 르네상스. (80년대 신경망은 컴퓨팅/데이터/알고리즘 부족으로 침체).
  • 특징: 시스템이 '제1원칙'과 '직접적인 경험'으로부터 스스로 해결책을 학습함.
  • 거대한 잠재력(이자 위험): 명시적으로 프로그래밍되지 않은 작업으로 일반화할 수 있으며, 설계자나 과학자 자신이 해결 방법을 모르는 문제를 풀 수 있음.
  • 영감: 강화 학습, 신경망 등은 시스템 신경과학(뇌 작동 방식)에서 영감을 얻고 검증됨.
  • 딥마인드는 100% 학습 시스템 접근법을 추구함.

3. 핵심 기술: 심층 강화 학습 (Deep Reinforcement Learning)

• 딥마인드의 접근은 두 가지 요소의 융합임.
• 1. 딥러닝 (심층 신경망): 환경, 데이터, 경험의 '모델'을 구축하는 역할.
• 2. 강화 학습: 목표를 추구하고 보상을 극대화하는 시스템. 딥러닝이 만든 '모델'을 사용해 '계획'하고 '행동'함.
• 심층 강화 학습: 딥마인드의 초기 혁신. 이 두 가지를 대규모로 융합.
  • 특징: 제1원칙으로부터 '시행착오'를 통해 새로운 지식을 발견함.
• 에이전트-환경 다이어그램 설명:
  • 에이전트가 환경에서 '관찰'을 받음.
  • 관찰을 바탕으로 환경 작동 방식에 대한 '내부 모델'을 구축 및 업데이트함.
  • 달성하려는 '목표'가 있음.
  • 생각 시간이 끝나면, 목표 달성에 최적인 '행동'을 선택하여 출력함.
  • 행동이 환경을 변화시키고, 이는 새로운 '관찰'을 유발하며, 모델이 다시 업데이트됨 (반복).
• 핵심: 능동적인 학습자: 에이전트가 내리는 결정(행동)이 다음에 학습할 경험과 데이터를 스스로 결정함.
• 확신: 이 다이어그램은 간단해 보이지만 거대한 복잡성이 내포됨. 하지만 포유류의 뇌(인간 포함)가 작동하는 방식이며 (90년대 후반, 도파민 뉴런이 강화 학습 구현 확인), AGI로 가는 하나의 경로임.

4. 사례 1: 알파고

• 알파고: 딥마인드가 대규모 문제(AI의 성배였던 '바둑' 정복)에 도전한 첫 시도.

• 바둑이 어려운 이유 (vs. 체스):

  1. 방대한 검색 공간: 약 $10^{170}$ 가지 경우의 수 (우주의 원자보다 많음). 전수 탐색 불가능.

  2. 평가 함수 작성 불가: 체스는 기물 가치(물질성)로 승패 근사 가능. 바둑은 '물질성'이 없어 하드코딩이 불가능함. - 바둑 기사의 '직관': - 바둑은 너무 복잡해서 명시적 계산보다 '직관'(예: "느낌이 좋았다")에 의존함 (체스 기사는 명시적 설명 가능). - 하사비스의 직관 정의: 직관은 신비로운 것이 아님. 뇌가 경험으로 학습했지만, 고차원 피질이 '의식적으로 접근할 수 없는' 정보 (연합 피질에 저장됨). (예: 자전거 타기, 수영). - 의식적 접근이 안 되니 하드코딩(논리 시스템)이 불가능했음. 알파고는 이 '직관'을 학습 시스템으로 근사하려 함.

5. 알파-X 시리즈 훈련 방식

• 알파고, 알파고 제로(인간 데이터 불필요), 알파 제로(체스, 쇼기 등 일반화)에 적용된 훈련 루프.

• 자가 대국(Self-play) 훈련 루프:

  1. 시작 (V1): 지식이 전혀 없는(랜덤) 신경망(V1)이 스스로 10만 게임을 두어 '데이터셋 1'을 생성.

  2. 훈련 (V2): '데이터셋 1'을 사용해 새 신경망(V2)을 훈련. V2는 (A) 승패 예측, (B) V1이 둔 다음 수를 예측하도록 학습.

  3. 평가: V1과 V2가 미니 토너먼트(약 100게임)를 진행.

  4. 업데이트: V2가 55% 이상 승리하면, V2가 V1을 대체함 (이제 더 나은 플레이어가 됨).

  5. 반복: 새 V1(구 V2)이 다시 10만 게임을 두어 '더 품질 좋은 데이터셋 2'를 생성 -> V3 훈련. - (만약 V2가 55% 승률 미달 시): V2가 데이터를 (10만 게임) 더 생성하여 V3 훈련. - 결과: 이 과정을 17~18세대 반복하면 '랜덤' 수준에서 '세계 챔피언 이상' 수준에 도달함. (2인용 완전 정보 게임이면 모두 적용 가능). - 속도: 체스의 경우, 아침에 시작하면 점심엔 비등하게 두고, 저녁엔 (인간이) 절대 이길 수 없음. 하루 만에 진화 관찰 가능.

6. 알파고의 탐색과 'Move 37'

• 알파고의 탐색: 알파고의 진보는 신경망(모델)과 트리 탐색(몬테카를로)을 결합한 것.
• 작동 원리: $10^{170}$ 가지의 전체 가능성(회색 트리)을 탐색하는 대신, 신경망이 가능성이 높고 효과적인 수천~수만 개의 경로(파란색 트리)로 탐색을 '제한'함. 생각 시간이 다 되면, 찾은 최상의 경로(P)를 선택함.
• 뮤제로(MuZero): 최신 버전. 2인용 게임뿐 아니라, 아타리 게임처럼 규칙이 주어지지 않은 환경(게임)의 모델까지 스스로 구축하며 플레이 가능.
• 알파고 vs 이세돌 (2016년 서울): 4:1 승리. (전문가들 예측보다 10년 빨랐음).
• 중요한 점: 승패 자체가 아니라 '어떻게' 이겼는가.
• 'Move 37' (2국, 37수):
  • 상황: 흑(알파고)이 바둑판 우측의 5선(가장자리에서 5번째 줄)에 돌을 둠.
  • 의미: 바둑 전문가에게는 '생각할 수 없는' 수. (백에게 변의 실리를 너무 많이 줌). 사범에게 혼날 수.
  • 결과: 100여 수 뒤, 이 37번째 돌이 좌하단에서 시작해 판 전체로 퍼진 전투의 향방을 결정짓는 '완벽한 위치'였음이 증명됨.
  • 영향: 이 수로 인해 바둑계가 바뀌었고, 지금은 5선에 두는 것이 일반화됨. 이것은 인간의 대국에서 배울 수 없는(오히려 반대로 배움) 독창적인 전략이었음.
• (추천: 알파고 다큐멘터리 - 유튜브에서 시청 가능).

7. 사례 2: 알파 제로 (Alpha Zero)

• 알파 제로: 알파고의 원리를 모든 2인용 게임으로 '일반화'함.
• 성능 (동일 시스템, 기존 최고 프로그램 격파 시간):
  • 체스 (스톡피쉬 8): 4시간.
  • 바둑 (알파고): 8시간.
  • 쇼기 (일본 장기, 엘모): 2시간.
• 알파 제로와 체스: (하사비스 본인이 체스 선수라 특히 흥미로움).
  • 배경: 딥 블루(IBM) 리더였던 머레이 캠벨과 "체스에 과연 더 발전할 여지가 남았는가? 스톡피쉬를 이길 수 있을까?"에 대해 토론함. (어느 쪽이든 흥미로운 질문이었음).
  • 결과: 알파 제로는 더 강했을 뿐 아니라, 완전히 새로운 스타일의 체스를 창조함 (인간 전문가가 보기에 '미학적으로' 더 만족스러움).
  • 핵심 스타일: 기동성 > 물질성
    • 전통적 체스 엔진: 물질(폰 등)을 탐함 (평가 함수 +1).
    • 알파 제로: 남은 기물들의 '기동성'을 확보하기 위해 기물 희생을 선호함.
  • 예시: '불멸의 츠크츠방(Immortal Zugzwang)' 게임:
    • 흑(스톡피쉬)이 룩 2개, 퀸 등 압도적 기물을 가졌음에도, 백(알파 제로)이 이들을 구석에 '봉인'함. 흑은 어떤 수를 둬도 상황이 나빠지는 '츠크츠방' 상태에 빠짐.

• 알파 제로가 기존 엔진과 다른 이유:

  1. 더 나은 위치 평가: 평가 함수 자체가 더 우수함.

  2. 내장된 규칙(편향) 극복: 하드코딩된 엔진은 (예: 룩-비숍 교환 시) -2점이라는 규칙을 탐색 내에서 만회해야 함. 알파 제로는 이런 고정 규칙 없이 '상황적'으로 평가함.

  3. 자동 균형: 스톡피쉬는 수천 개의 수동 규칙 간의 균형을 엔지니어가 잡아야 함. 알파 제로는 스스로 요인 간의 균형을 학습함. - 탐색 효율성 (수당 탐색 노드 수): - 인간 그랜드마스터: ~100개 - 알파 제로: 수만 개 - 스톡피쉬 (기존 엔진): 수천만 개 - (알파 제로가 인간보단 못하지만, 기존 엔진보단 훨씬 효율적). - 영향: - 책 '게임 체인저(Game Changer)': 알파 제로가 발견한 12가지 이상의 새로운 체스 모티프 분석. - 매그너스 칼슨 (현 세계 챔피언): "내 영웅 중 하나는 알파 제로." (알파 제로의 아이디어를 자신의 플레이에 가장 빨리 통합). - 게리 카스파로프: "프로그램은 보통 프로그래머의 편견을 반영하지만, 알파 제로는 스스로 배워 '진실(truth)'을 반영한다." - 게임 작업 요약: DQN (아타리) -> 알파고/알파 제로 (바둑/체스) -> 알파스타(AlphaStar) (스타크래프트 2 - 복잡한 실시간 전략, 불완전 정보, 수천 가지 행동). - 게임의 진정한 목적: 게임은 AI 알고리즘 개발을 위한 '완벽한 테스트장'이었음. 궁극적 목표는 '현실 세계 문제 해결'임.

8. 과학적 발견으로의 전환

• 하사비스의 개인적 열정은 AI를 '과학적 발견'에 사용하는 것임.

• 딥마인드가 과학 문제를 선택하는 3가지 기준:

  1. 거대한 조합적 검색 공간:

     • 클수록 좋음. 전통적 방법이나 무차별 대입 방식이 실패하는 영역이어야 함.

  2. 명확한 목적 함수:

     • 학습 시스템이 최적화하고 경사 상승할 수 있는 명확한 측정 기준이 있어야 함.

  3. 풍부한 데이터 또는 효율적 시뮬레이터:

     • 학습할 데이터가 많거나, 데이터를 생성할 수 있는 '충분히 좋은'(완벽할 필요 없음) 시뮬레이터가 있어야 함.
     • 선택된 문제: '단백질 접힘(Protein Folding)' 문제.
     • 위 3가지 기준을 만족할 뿐 아니라, '루트 노드' 문제(해결 시 과학의 새로운 분야 전체를 열 수 있는 근본 문제)였음.

9. 사례 3: 알파폴드 - 문제 정의

• 단백질 접힘 문제: 1차원 아미노산 서열 정보로부터 생명체 내 단백질의 3차원 구조를 예측하는 것.

• 중요성: 단백질의 3D 구조가 그 '기능'을 결정함. 구조를 알면 생명 현상의 기능을 이해할 수 있음.

• 기존 방식: X선 결정학, 전자 현미경 등. 매우 공들인 전문가의 작업 필요. (1 PhD 학생 = 1 단백질 구조 규명에 수년 소요, 운도 따라야 함).
• 크리스천 안핀센 (1972년 노벨 강연): "3D 구조는 아미노산 서열에 의해 완전히 결정되어야 한다." (이론적 가능성 제시 -> 50년 난제의 시작).
• 레빈탈의 역설: 평균 크기 단백질이 가질 수 있는 가능한 형태(구조) = 약 $10^{300}$ 가지. (바둑보다 훨씬 큼). 전수 탐색 절대 불가능.
• 희망: 자연(물리학)은 이 문제를 수초, 심지어 밀리초 만에 해결함 (단백질이 자발적으로 접힘).

• 하사비스와 단백질 접힘의 인연:

  1. 90년대 케임브리지 학부 시절: 친구가 이 문제에 매료되어 계속 이야기함. (AI에 적합하다고 느낌).

  2. 2000년대 후반 (MIT 박사후 과정): 데이비드 베이커 랩의 '폴드잇(Foldit)' 게임 등장.

     • 단백질 접기를 퍼즐 게임으로 만든 '시민 과학' 프로젝트.
     • 게이머들(아마추어 생물학자)이 실제로 중요한 단백질 구조를 발견하여 '네이처' 등에 게재됨.
     • (영감 1: 게임으로 유용한 과학을 할 수 있음.)

  3. 알파고 성공 직후 (2016년): (영감 2: 알파고가 바둑 고수의 '직관'을 모방했듯, 폴드잇 게이머의 '직관'(비전문가지만 탐욕법을 피하는)도 모방 가능할 것). - 알파폴드 프로젝트 시작: 2016년 알파고 대국(한국)에서 돌아온 거의 다음 날.

10. CASP 대회와 알파폴드의 돌파

• CASP (Critical Assessment of protein Structure Prediction):
  • 단백질 접힘계의 '올림픽'. 2년마다 열리는 외부 벤치마크 (30년 역사).
  • '블라인드 예측' 방식: 실험실에서 막 규명했지만 아직 '미공개'된 구조를 예측 대상으로 제공. 공정함.
  • 방식: 여름 동안 서열 이메일 받음 -> 일주일 내 구조 예측 제출 -> 가을에 실제 구조와 비교/채점.
• 딥마인드 참여 전 (2016년 이전):
  • 10년 이상 발전이 정체됨.
  • 가장 어려운 '자유 모델링' 부문 정확도(GDT) 40% 미만. (실험에 쓸모없는 수준).
• 2018년 (CASP 13): 알파폴드 1 등장
  • 딥마인드의 첫 출전. 최첨단 머신러닝(알파고 기술 등)을 이 분야에 처음 도입.
  • 기존 우승 점수를 50% 향상 (약 60 GDT 도달). 분야를 혁신함.
• 2020년 (CASP 14): 알파폴드 2 등장
  • (알파폴드 1은 한계에 부딪혀) 완전히 새로운 시스템으로 재설계.
  • 결과: '원자 수준 정확도' 달성.

11. 알파폴드 2: 기술적 진보와 구조

• CASP 14 결과:
  • 알파폴드 2의 평균 오차(RMSE) < 1 옹스트롬(Å) (약 0.96Å). (1Å = 탄소 원자 1개 폭).
  • 이는 실험 기술(X선 결정학 등)과 경쟁 가능한 '마법의 문턱'을 넘은 것임.
  • 알파폴드 1의 기술을 통합한 차상위 그룹보다 3배 더 정확했음.
• CASP 창설자 (존 몰트) 선언: "단백질 구조 예측 문제가 본질적으로 해결되었다."
• (시각화: 녹색(실험값)과 파란색(예측값)이 거의 완벽히 겹침. 단백질은 절묘하게 아름다운 나노 기계).
• 알파폴드 2의 핵심 기술 진보 (특효약은 없었음):
  • (실제론 32개 구성요소 알고리즘, 60페이지 보충 자료 필요. '절제 분석' 결과 모든 요소가 필수였음).
  • 1. 완전한 종단간(End-to-End) 시스템:
    • (알파폴드 1): 서열 -> 디스토그램(2D 거리 맵, 중간 표현) -> 3D 구조 (분리됨).
    • (알파폴드 2): 서열 -> 3D 구조 직접 예측. (재활용 반복 단계로 구조 정제). 종단간 최적화가 성능 향상에 기여.
  • 2. 어텐션(Attention) 기반 신경망:
    • (알파폴드 1): 합성곱 신경망(CNN) 사용 (컴퓨터 비전에서 차용).
    • (문제점): CNN은 '지역적 픽셀(이웃)이 연관된다'는 편향을 가짐. 단백질 서열은 '멀리 떨어진' 아미노산이 3D 공간에선 '가까이' 붙을 수 있으므로 이 편향이 부적합함.
    • (알파폴드 2): 어텐션 메커니즘을 사용해 이 잘못된 편향을 제거하고 암묵적 그래프 구조 추론.
  • 3. 물리/생물학적 제약 조건 내장 (하이브리드):
    • 진화적, 물리학적 제약 조건(예: 원자 간 거리)을 시스템에 통합하되, '학습을 방해하지 않는' 방식으로 영리하게 내장.
• 팀 구성과 교훈:
  • 5년간 최대 20명 투입. 다학제적 노력이 필수 (기계 학습자 + 생물학자, 물리학자, 화학자).
  • 교훈 (일반성 vs. 성능):
    • 게임 (알파고->알파 제로): '일반성' 추구. (게임은 AI 개발의 테스트베드이므로).
    • 현실 문제 (알파폴드): '성능' 추구. (출력물 자체가 목적이므로). "부엌 싱크대까지 다 던짐(throw the kitchen sink at it)". 딥마인드가 만든 가장 복잡한 시스템.

12. 알파폴드 2: 속도, 공개, 영향

• 알파폴드 2의 속도:
  • (알파폴드 1: 단백질 1개 예측에 수 주).
  • 훈련: 2주 (8 TPU / 150 GPU - 현대 ML 기준 '소규모').
  • 추론(예측): 평균 단백질 1개당 수 분 ~ 수 초 (단일 GPU).
• 데이터 공개 전략 (너무 빨라서 변경):
  • (기존 계획: 서버 구축 -> 생물학자가 서열 요청 -> 예측 결과 전송).
  • (변경): "모든 것을 미리 다 접어서 공개하자."
• 인간 단백질 전체 예측 및 공개:
  • 2020년 크리스마스 기간 동안 인간 단백질 약 2만 개 모두 예측. (AI의 장점: 휴일에 AI가 유용한 일 수행).
  • 결과 (2021년 여름 발표):
    • 지난 30~40년간 실험으로 규명된 인간 단백질 구조: 17%.
    • 알파폴드 2 '매우 높은 정확도'(< 1Å, 실험 품질): 36% (하룻밤에 2배 이상 증가).
    • 알파폴드 2 '높은 정확도'(백본 신뢰): 58%.
• 예측 실패한 나머지 42%의 의미:
  • 알파폴드가 못하는 것일 수도 있지만, 상당수는 '고립 상태에서 비구조화'된 '본질적 무질서 단백질(IDP)'일 가능성 높음. (이들은 다른 단백질과 상호작용해야 비로소 구조를 형성함).
  • 현재: 알파폴드가 예측 실패(낮은 신뢰도)하는 영역을 '무질서 단백질 예측기'로 역이용함 (알츠하이머 등 질병 연구에 중요).
• 자체 신뢰도 예측 기능:
  • ML 비전문가인 생물학자들이 예측 품질을 쉽게 평가하도록 함.
  • 90 (파랑): 매우 높음 (실험 품질).
  • 70 (하늘색): 높음 (백본 신뢰).
  • < 50 (빨강/주황): 신뢰 불가 (무질서 단백질로 추정).
• 추가 20개 모델 생물 공개:
  • 질병(결핵), 농업(밀, 쌀) 등 중요 생물 포함.
  • 이 생물들은 실험 규명률이 1% 미만인 경우도 많아, 인간보다 더 큰 혜택을 줌.
• 알파폴드 단백질 구조 데이터베이스 (AlphaFold DB):
  • EMBL-EBI (유럽 생물정보학 연구소)와 파트너십으로 구축.
  • 모든 데이터 무료, 무제한 접근 (산업/학술 용도 모두). 과학적 영향 극대화.
• 안전 및 윤리 검토:
  • 공개 전 30명 이상의 전문가(생물보안, 제약 등)와 상의. "이번 공개는 괜찮으나, 미래의 (더 강력한) 기술은 우려됨."
• 소외된 열대성 질환(NTDs) 우선 예측:
  • 개발도상국에 큰 영향을 미치나, 제약사가 돈이 안 되어 연구 안 함.
  • NGO, 비영리 단체들이 '구조 규명' 단계를 건너뛰고 바로 '신약 개발'로 직행 가능하게 함. (WHO 미래 잠재적 병원체 포함).
• 커뮤니티 활용 (공개 후 9~10개월 만에):
  • '핵공 복합체'(Nuclear Pore Complex, 세포핵 관문) 조립 (EMBL).
  • 무질서 단백질 예측기로 활용.
  • 실험가들이 저해상도 실험 데이터와 알파폴드 예측을 결합하여 고해상도 구조 확보.
• 현재 영향:
  • 50만 명 연구자 사용 (전 세계 생물학자 거의 전부).
  • 190개국, 150만 개 구조 조회, 3,000회 이상 인용.
• 향후 계획: Uniprot(모든 유전 서열 DB)의 알려진 모든 단백질 1억 개 이상을 예측하여 순차 공개 중.
• "디지털 생물학(Digital Biology)" 시대의 도래:
  • 생물학 = 근본적으로 복잡하고 창발적인 '정보 처리 시스템'.
  • AI가 활약하기 완벽한 영역임.
  • (이유: 물리학은 '수학'(방정식)으로 기술 가능).
  • 하지만 생물학은 (예: 세포의 운동 법칙) 몇 개의 방정식으로 기술하기엔 '너무 복잡'함.
  • 따라서 '학습된 모델'이 생물학을 이해하는 더 나은 접근법일 수 있음.
  • 알파폴드 = 이 가능성을 연 '개념 증명'.

13. 아이소모픽 랩스 및 기타 응용

• 아이소모픽 랩스(Isomorphic Labs):
  • 딥마인드에서 분사한 별도 회사.
  • 알파폴드와 관련 기술을 기반으로 '신약 개발 가속화'에 집중. (현재 평균 10년 소요).
• 기타 과학 분야 적용 (지난 1년 = 르네상스):
  • 핵융합, 양자 화학, 수학, 재료 과학, 날씨 예측 등 다양한 중요 문제에서 성과 발표.
• 산업(구글) 적용:
  • 딥마인드 응용 팀(Apply Team)이 구글 수백 개 제품에 기술 통합.
  • 데이터 센터: 냉각 시스템 및 에너지 사용 최적화 (그리드 규모로 확장 검토).
  • 웨이브넷(Wavenet): 세계 최고 수준의 텍스트-음성 변환(TTS) 기술 (음성 비서 등).
  • 유튜브: 비디오 압축 (동일 화질 기준, 비트레이트 4% 절감).
  • 추천 시스템 등 다수.
• 대형 모델:
  • 알파코드(AlphaCode): 텍스트 설명 -> 경쟁 프로그래밍 수준의 코드 작성.
  • 친칠라(Chinchilla): 계산 효율적인 대형 언어 모델 (LLM).
  • 플라밍고(Flamingo): 비전-언어 결합 모델 (이미지 설명 가능).
  • 게이토(Gato): 초범용 단일 모델 (로보틱스, 비디오 게임, 언어 등 다양한 작업 수행).

14. 윤리 및 책임감 있는 개척

• 주제 전환: 윤리: (AI 윤리 연구소, 태너 강연 주제).
• 딥마인드의 가치: "책임감 있게 개척(Pioneering Responsibly)".
• AI의 잠재력과 책임:
  • AI는 질병, 기후 등 인류의 가장 큰 도전 과제를 도울 잠재력이 있음.
  • 전제 조건: AI는 '책임감 있고 안전하게' 구축되어야 하며, '모든 사람의 이익'을 위해 사용되어야 함.
  • AI는 강력한 기술이며, 유익/해악 여부는 '우리가 그것을 어떻게 배포하고 사용하느냐'에 달림. (광범위한 사회적 토론 필요).
• 다양성 및 포용성 (DNI):
  • 매우 중요함. AI 시스템의 설계/배포 결정에 가능한 가장 광범위한 의견(특히 가장 큰 영향을 받는 사람들)이 반영되어야 함.
  • (딥마인드는 장학금, 아프리카 '딥러닝 인다바' 후원 등 5천만 달러 지원).
• 딥마인드의 윤리/안전 노력:
  • 설립 초기(2010년 다락방)부터 성공을 가정하고 윤리 문제를 고민함.
  • 구글 AI 원칙(Google's AI Principles) 초안 작성에 기여 (딥마인드 초기 윤리 헌장 기반).
  • 목표: AI 혜택 실현 + 잠재적 위험/해악을 '사전에' 식별하고 완화.
• 우리가 하지 말아야 할 것: "빨리 움직이고 부숴라 (Move Fast and Break Things)"
  • 실리콘 밸리의 상투적 문구. 시스템 성장엔 효과적일 수 있음.
  • 하지만 AI 같은 강력한 '이중 용도(Dual Use)' 잠재 기술에는 부적합한 방식임.
  • 문제점: 라이브 A/B 테스팅. (예: 최소 실행 가능 제품(MVP)).
  • 만약 옵션 B가 끔찍한 선택으로 밝혀지면, 그 '해악'의 비용은 '사회'가 지불함.
  • (작은 게임 앱은 괜찮을지 몰라도, 10억 명 규모의 소셜 네트워크에서는 괜찮지 않음).
• 우리가 대신 해야 할 것: "과학적 방법"
  • 인류의 가장 위대한 아이디어일 수 있음. AI 접근법에 이 방법을 사용해야 함.

  • AI 개발에 적용하는 과학적 방법이란?

    1. 사려 깊은 숙고와 예측: 성공 시 어떤 일이 일어날지 '사전에' 가설 생성 및 예측.

    2. 엄격하고 신중한 '통제 테스트': (하사비스가 PhD에서 배운 핵심 교훈). 엔지니어들이 종종 놓치는 부분. (현실 세계가 아닌) '통제된 환경'에서 테스트.

    3. 경험적 데이터와 동료 검토: 데이터를 통한 업데이트, 외부의 독립적 비평 수용.

       • 목표: 시스템을 '대규모로 배포하기 전'에 그것에 대한 더 나은 이해를 확보하는 것.
       • 결론:
       • AGI로 가는 지금은 매우 흥미진진한 시기임.
       • 하지만 이 정도 규모의 기술이 요구하는 존중, 예방 조치, 겸손함을 가지고 다뤄야 함.
       • AI를 올바르게 사용한다면, 인류가 발명한 가장 위대하고 유익한 기술이 될 수 있음.
       • AI = 과학자가 우주와 그 안의 우리 위치를 더 잘 이해하도록 돕는 '궁극의 범용 도구'.

3부: Q&A 세션

• (나이젤 섀드볼트: 질문 안내 - 1층 청중만 가능.)
• Q1: 존 툴리스 (AI 윤리 연구소장)
  • Q 1-1 (도구 vs 동료): AGI의 목표는 '도구' 생성인데, 만약 그것이 광범위한 인지 작업에서 인간을 능가한다면, 여전히 '도구'로 간주될 수 있는가? 아니면 '동료'가 되는가? 그렇게 되면 그 존재는 다른 형태의 '존중'을 요구하게 되어, 원래의 '도구'라는 목표와 긴장/모순이 생기지 않는가?
  • Q 1-2 (인류 혜택의 결정): '무엇이 인류에게 혜택이 되는가'를 어떻게 결정하는가? (예: AI의 군사적 적용은 혜택인가?). 이 결정을 개발자/기업이 너무 많이 맡고 있으며, 정부가 개입해 해결해야 하지 않는가?
• A1: 데미스 하사비스
  • A 1-1: 인간의 뇌는 일반 지능의 유일한 증거이기에 '벤치마크'로 삼는 것임 (창의성 등 빠뜨릴 수도 있음). AI는 오히려 신경과학에 적용되어 '우리 자신의 마음'을 이해하는 데 도움을 줌.
    • AI 구축 및 인간 마음과의 비교 과정은 '인간이란 무엇인가'(꿈, 창의성, 감정, 자유의지, 의식)를 탐구하는 가장 매혹적인 과학적 여정임.
    • 어느 시점부터 도구가 아닐지 '아직 답을 모름'. 그것이 이 여정의 일부임.
    • '의식' 등을 시스템에 구축할지 여부는 '디자인 질문'일 수 있음. 개인적으론, 우리가 그것을 '도구'로서 더 잘 이해하기 전까지는, (선택권이 있다면) '아니오'라고 말하고 싶음.
    • 이런 질문은 철학자, 윤리학자, 신학자 등 인문학 전체와 다학제적으로 논의해야 함.
  • A 1-2: (명시적인 답변이 생략됨. A 1-1 답변에 집중함).
• Q2: 카리나 프뢰 (연구 펠로우)
  • Q: AI의 악의적 '이중 용도' 잠재력에 딥마인드는 어떻게 접근하고 예방 조치를 취하는가?

• A2: 데미스 하사비스

  • A: 다양한 메커니즘이 있음.

    1. 기관 검토 위원회(IRC): COO 의장, 법률, 윤리학자, 철학자, 선임 연구자 등으로 구성됨.

    2. 조기 평가: 연구 프로젝트 초기 단계에 참여해 모든 측면에서 평가 (외부 전문가 초빙 - 예: 알파폴드 때 생명 윤리학자).

    3. 결정: (1) 진행 불가, (2) 조건부 승인, (3) 안전장치 탑재 후 방식 변경 권고.

    4. 점진적 학습: 현재(위험도가 상대적으로 낮을 때) 이 위원회 운영을 통해 '근육을 단련(exercising our muscle)' 중임. 더 강력한 시스템에 대비.

    5. 외부 기관: 미래엔 외부 기관의 개입이 필요할 것. (다만, 기술 특화적이라 어려움 존재).

    6. 오픈 소싱의 딜레마: 오픈 소싱이 만병통치약 아님. 위험한 시스템을 오픈 소싱하면 '나쁜 행위자'도 사용할 수 있음. 쉬운 답이 없는 복잡한 윤리적 문제임.

• Q3: 로드릭 (박사후 연구원)

  • Q: 딥마인드는 (과학 + 상업) 결합의 성공 사례. 반대로, 딥마인드가 구글에 소속됨으로써 (상업계에서) 배운 것 중, 우리(학계/연구자)가 더 빠른 진전을 위해 배워야 할 점은 무엇인가?

• A3: 데미스 하사비스

  • A: 딥마인드의 원래 조직 비전 = 하이브리드. (스타트업의 속도/창의성 + 학계의 야심 찬 블루 스카이).
  • 구글 인수 후 세 번째 요소인 '규모와 자원'이 결합됨.
  • 학계가 배울 점: 거대한 '영향력'과 '규모'에 대한 야망을 갖는 것. 그리고 그에 따르는 결과와 잠재력을 깨닫는 것.
  • 딥마인드는 이 셋(속도, 야망, 규모)을 결합하려 매일 노력 중이며(느려지지 않기 위해), 이는 다른 거대 프로젝트의 청사진이 될 수 있음.

• Q4: 팀 (청중)

  • Q 1: '빨리 움직이고 부숴라'는 소셜 네트워크(SN) 인용구. 딥마인드 방식(과학적 방법)으로 SN을 만든다면, 품질 판단을 위해 어떤 '메트릭'을 최적화할 것인가?
  • Q 2: 딥마인드가 그런 SN을 만들 '도덕적 의무'가 있는가?

• A4: 데미스 하사비스

  • A: (조심스러움). 개인적으로 SN은 내 관심 분야가 아님.
  • 전제에 대한 의문: SN이 제공하는 피상적인 '약한 유대관계'가 현실의 '깊은 유대관계'(가족, 친구)보다 더 가치 있는지 의문임. (더 의미 있는 순간을 수백 개의 피상적 순간과 맞바꾸는 것).
  • '세상을 연결한다'는 말은 매혹적이지만, '과학적 방법'을 사용해 그 '전체 결과'(에코 챔버, 조작 등)를 사전에 철저히 생각해야 함.
  • 메트릭: (즉답 불가). 하지만 '올바른 메트릭'(올바른 행동을 유도하는)을 찾는 것이 도전의 절반임. ('올바른 질문' 찾기). 최소한 그 질문에 대한 진지한 생각부터 시작해야 함.

• Q5: 헬렌 란도어 (방문 펠로우)

  • Q: AI가 물리적 세계(우주의 진실)는 돕는데, '도덕적/정치적 세계'는 어떤가? 플라톤의 '국가론'처럼 최고의 헌법/사회 조직(자본주의, 사회주의 등)을 찾는 데 AI가 도움을 줄 수 있나? (예: 소수자 권리 보호 하 다수결 만족).

• A5: 데미스 하사비스

  • A: 도덕/정치 과학은 물리/생명 과학보다 '훨씬 더 어려움'. (인간과 그 동기를 모델링해야 함).
  • AI가 더 나은 구성을 찾아낸다 해도, 인간 사회가 그것을 받아들일지, 이해할지, 올바르게 구현할지 모두 의문임.
  • 더 흥미로운 방향: 다중 에이전트 시스템 (시뮬레이션/샌드박스).
  • (이유: 현재 경제학/정치학은 위험한 '라이브 A/B 테스트'를 현실 세계에 함. 예: 인플레이션 정책 -> 불황).
  • AI 에이전트로 채워진 샌드박스(시뮬레이션)에서 훨씬 낮은 위험으로 실험(시장 역학, 협력 유도 등)이 가능할 것임.
  • (개인적 관심: 산타페 연구소, 악셀로드의 '인공 사회' 작업 등).

• Q6: 청중

  • Q: 강연 제목은 'AI를 통한 과학 발전', 마무리는 '과학적 방법' 접근. 하지만 신경망이 어떤 의미에서 '과학적 방법'(가설, 테스트)을 따르나? 신경망은 불투명하지 않나? AI가 우리를 능가하면 과학적 방법을 버려야 하나?

• A6: 데미스 하사비스

  • A: (정정) '과학적 방법의 이미지'로 AI를 만들자는 것이 아니라, AI에 접근할 때 '과학적 방법의 접근 방식'을 사용하자는 것임.
  • 현재 시스템이 블랙박스(불투명)인 것은 사실임. 하지만 덜 불투명하게 만드는 작업을 더 많이 해야 함.
  • (신경과학 비유): 뇌(궁극의 블랙박스)도 MRI, 단일 세포 기록 등으로 많이 이해하고 있음.
  • 인공 마음은 최소한 실제 뇌만큼은 이해해야 함. (AI는 모든 뉴런 접근, 완벽한 통제 가능).
  • "신경망을 위한 fMRI, 단일 세포 기록은 무엇인가?" (딥마인드 신경과학팀이 이 작업 중).
  • 왜 지금까지 안 됐나? 뇌는 정적이나, AI 시스템은 너무 빨리 변함(예: 알파고는 이미 고대 유물). 시스템 연구에 수년이 걸리는데, 결론이 나올 때쯤 시스템이 구식이 됨.
  • 현재: 이제야 (대형 모델, 알파폴드처럼) 연구 시간을 투자할 가치가 있는 흥미로운 시스템이 나옴. 향후 10년간 이 시스템들에 대한 이해가 훨씬 깊어질 것.
• (나이젤 섀드볼트: 시간 초과로 강연 종료 및 감사 인사).