Geoffrey Hinton in conversation with Fei-Fei Li — Responsible AI development

도입 (Meric Gertler) 00:04

• 환영 인사: 토론토 대학교 총장 Meric Gertler가 MaRS Discovery District에서 열린 'Radical AI Founders' 행사에 온 것을 환영함.
• 토지 승인: 토론토 대학교가 위치한 땅이 Huron-Wendat, Seneca, Mississaugas of the Credit 부족의 전통적인 땅이었음을 인정하고 감사를 표함. 00:28
• 연사 소개:
  • Geoffrey Hinton: 토론토 대학교 명예 교수, '딥러닝의 대부'. 00:52
  • Fei-Fei Li: 스탠포드 대학교 컴퓨터 과학과 교수, '인간 중심 AI 연구소' 공동 디렉터. 00:52
• 행사 배경: Radical Ventures와 토론토 대학교(U of T)의 파트너십을 감사함. U of T는 Hinton 교수의 작업 덕분에 수십 년간 AI 커뮤니티의 최전선에 있었음. 딥러닝의 핵심 개발이 U of T에서 이루어졌으며, 이러한 우수성이 현재까지 이어짐. 01:13
• Schwartz Reisman 혁신 캠퍼스: 올가을, AI 분야의 사고 리더십 허브가 될 새로운 'Schwartz Reisman 혁신 캠퍼스' 1단계가 열릴 예정임. 이곳에는 'Schwartz Reisman 기술 및 사회 연구소'와 'Vector Institute'가 입주할 것임. 02:03
• AI의 영향력: AI와 머신러닝이 경제 전반의 혁신을 주도하고 있으며, 신약 개발, 의료 진단, 첨단 소재 탐색 같은 연구 분야를 변화시키고 있음. 02:41
• AI에 대한 우려: 동시에 AI가 인류 미래에 미칠 역할에 대한 우려도 커지고 있음. 03:11
• 사회자 소개: 사회자 Jordan Jacobs를 소개함. 그는 Radical Ventures의 공동 창립자, Layer 6 AI의 전 공동 CEO, TD 은행 그룹의 전 최고 AI 책임자(CAO), Vector Institute의 공동 설립자 중 한 명임. 03:22

오프닝 및 연사 배경 (Jordan Jacobs) 04:04

• 감사 인사: U of T, Radical, Vector Institute, Alberta Machine Intelligence Institute (Amii), Stanford HAI 등 파트너들에게 감사함. 04:04
• 행사 소개: 이 행사는 Radical이 3년째 진행 중인 연례 '파운더 AI 마스터클래스' 시리즈의 첫 번째임. 수천 명이 온라인으로 시청 중임. 04:37
• 특별한 만남: Geoff와 Fei-Fei가 공개적으로 함께 대화하는 것은 이번이 처음임. 05:12
• 연사 배경 심층 소개:
  • Geoff Hinton: 튜링상 수상자, U of T 명예교수, Vector Institute 공동 창립자. 전 세계 AI 리더들(빅테크, 연구소)을 다수 멘토링함. 그의 '자녀와 손자들'이 AI 분야를 이끌고 있으며, 그 중심에 토론토가 있음. 05:30
  • Fei-Fei Li: 스탠포드 인간 중심 AI 연구소(HAI) 창립 디렉터, 미국 국립 공학 아카데미 등 선출 회원. 2017-18년 구글 클라우드 AI/ML 최고 과학자(부사장) 역임. 05:53
• Fei-Fei의 책 홍보: 11월 7일 출간 예정인 "The Worlds I See"를 소개함. Geoff가 쓴 추천사("Fei-Fei Li는 빅데이터의 힘을 진정으로 이해한 최초의 컴퓨터 비전 연구자... AI 기술의 엄청난 잠재력과 위험에 대한 긴급하고 명료한 설명을 제공함...")를 읽어줌. 06:33

"빅뱅" - ImageNet (Hinton, Li, Jacobs) 07:39

• AlexNet/ImageNet (2012): Jordan이 11년 전 '빅뱅' 순간에 대해 질문함. 07:39
• Geoff의 관점: 2012년, 자신의 두 똑똑한 대학원생(Ilya Sutskever, Alex Krizhevsky)이 공개 대회에서 딥러닝 신경망이 기존 기술보다 훨씬 낫다는 것을 보여줌. 하지만 이것은 Fei-Fei가 만든 대규모 레이블 이미지 데이터셋 없이는 불가능했을 것임. 그는 Fei-Fei에게 데이터셋 구축 시 문제가 없었는지 질문함. 08:00
• Fei-Fei의 ImageNet 구축기:
  • 시작 (2007): 2007년에 구축을 시작해 3년이 걸림. 08:52
  • 주변의 반대: 프로젝트 구상 단계부터 "나쁜 생각"이라는 말을 들음. 프린스턴대 조교수 1년 차였을 때, 존경하는 멘토(테뉴어 평가를 써줄 사람)가 진심으로 "이거 하지 말라"고 조언함. "테뉴어 받기 어려울 수 있다"는 충고였음. 08:52, 09:25
  • 협업/자금난: 다른 공동 연구자를 초대하려 했으나 머신러닝이나 AI 분야 누구도 이 프로젝트에 가까이 오려 하지 않았고, 펀딩도 없었음. 09:51
• ImageNet의 동기:
  • Fei-Fei의 설명 (2가지): 1) 과학자로서 '북극성 문제'를 좇음. 시각 지능 분야에서 '객체 인식'이 바로 그 북극성 문제라고 생각함. 2) 당시 머신러닝이 데이터 없이 복잡한 모델만 만들며 '맴돌고 있다'고 느낌. 일반화 문제를 해결하기 위해 데이터 중심적 관점이 필요하다고 판단함. 10:24, 11:11
  • 결과: 1,500만 개의 인터넷 이미지, 22,000개의 객체 카테고리로 구성된 데이터셋을 만듦. 11:33
• Geoff의 비교: 당시 토론토에서 만들던 CIFAR-10은 10개 클래스, 6만 개 이미지였음. 12:07
• ImageNet 챌린지:
  • Fei-Fei: 2009년 데이터셋을 만들었으나 학회 포스터로 겨우 발표됐고 아무도 주목하지 않음. 오픈소스로 공개했지만 반응이 없자, 전 세계 연구 커뮤니티를 초대하는 '경진대회'를 만들기로 함. 12:44
  • 규모 문제: 처음엔 "너무 크다"는 피드백을 받음. (하드 드라이브는커녕 메모리에도 안 들어감) 그래서 100만 개 이미지, 1,000개 카테고리로 축소된 'ImageNet 챌린지' 버전을 2010년에 공개함. 13:15
• AlexNet의 탄생 (Geoff):
  • Ilya의 공: 2011년경, Ilya Sutskever가 이미 스피치 인식에서 잘 작동하던 딥러닝 네트워크로 ImageNet 대회에서 우승할 수 있다고 주장함. Geoff는 데이터가 너무 많다고 했고, Alex Krizhevsky도 관심이 없었음. 결국 Ilya가 Alex가 필요한 형태로 모든 데이터를 전처리해 줌. 14:13
  • Yann LeCun의 상황: 당시 뉴욕의 Yann LeCun은 학생들에게 "컨볼루션넷을 여기에 적용하는 사람이 이길 것"이라며 참여하라고 필사적으로 설득했지만, 학생들은 관심이 없었음. 14:52
  • 승리 예감: Alex와 Ilya가 작업에 착수했고, 이전 연도 대회에서 테스트해본 결과 다른 기술들보다 훨씬 뛰어나다는 것을 알게 되어 2012년 우승을 확신함. 15:09
• "정치적 문제" (Geoff):
  • 신경망이 이기면 컴퓨터 비전 분야 사람들(특히 Jitendra Malik)이 "그저 좋지 않은 데이터셋이라는 증거일 뿐"이라고 말할 것을 우려함.
  • Geoff는 Jitendra에게 미리 전화하여, "만약 우리가 ImageNet에서 이기면 신경망이 작동한다는 것을 증명하는 것에 동의하느냐"는 합의를 받아내려 했음. 결국 합의에 성공함. 15:20
  • Geoff는 이 합의 덕분에 Jitendra가 반박하지 않았다고 회상함. 15:43
• 결과와 파장:
  • Geoff: 표준 기술(수년간 튜닝된)보다 에러율이 절반 이하로 떨어짐. 16:12
  • Fei-Fei: 당시 표준 기술은 SVM(서포트 벡터 머신)이었음. 16:28
  • Fei-Fei의 반응 (ICCV 2012): 학생에게 저녁 늦게 결과를 보고받음. 당시 수유 중인 어머니라 이탈리아 피렌체에서 열리는 학회에 갈 생각이 없었음. 하지만 결과를 듣고 "이런, Geoff 때문에 이탈리아행 티켓을 구해야 하잖아"라고 생각함. 역사적인 순간임을 직감했고, 결국 "이코노미 클래스 중간 좌석"을 타고 감. 16:41
  • Geoff: 자신은 안 가고 Alex를 보냄. 18:56
  • Fei-Fei (워크숍 현장): 작은 방이 꽉 찼고, Yann LeCun은 뒤에 서 있었음. Alex가 시각화 자료를 만들어 달라는 자신의 이메일을 무시했지만 결국 나타남. 예측대로 워크숍 현장에서 "이건 나쁜 데이터셋이다"라는 공개적인 공격이 있었음. Fei-Fei는 "역사가 만들어지는 것을 알면서도 ImageNet이 공격받는 매우 이상한 순간"이었다고 회상함. 19:08, 19:43

개인적 여정과 동기 (Hinton, Li, Jacobs) 21:04

• Geoff의 AI 입문 계기:
  • 학부에서 심리학을 공부했으나 "뇌가 어떻게 작동하는지 알아내지 않으면 마음이 어떻게 작동하는지 결코 알 수 없다"고 결론 내림. 21:04
  • 실험 데이터와 실제 작동하는 계산(competence) 사이의 '다리'를 놓는 것을 목표로 삼음. 자신은 '작동하는 것'에서 시작해 뇌와 유사하게 만들려 했고, 반면 Terry Sejnowski는 데이터 쪽에서 다리를 놓으려 했다고 함. 21:24
  • 컴퓨터 비전 연구자들은 뇌에 관심이 없었고, 뇌 연구자들은 계산에 관심이 없었음. 자신은 항상 "사람이 하는 방식대로" 비전을 수행하는 것을 목표로 했음. 22:17
• Fei-Fei의 AI 입문 계기:
  • 중국에서 태어나 15살에 뉴저지 파시파니로 이민. 영어를 배우며 세탁소, 식당 등에서 일함. 23:36
  • 물리학에 대한 열정으로 프린스턴에 입학 (아인슈타인이 있었던 곳이라). 물리학을 통해 "가장 대담한 질문을 하는 담대함"을 배움 (원자의 가장 작은 입자, 시공간의 경계 등). 24:15
  • 이후 Roger Penrose 등의 책을 통해 '뇌'에 관심을 갖게 됨. 25:02
  • 졸업할 무렵(2000년) 자신의 세대에서 가장 매혹적이고 대담한 질문은 '지능'이라고 생각함.
  • Caltech에서 Christof Koch와 신경과학, Pietro Perona와 AI로 사실상 이중 박사 학위를 받음. Geoff의 '다리' 비유에 공감하며, 5년간 계산신경과학(마음)과 계산(컴퓨터 프로그램) 양쪽을 연구함. 25:30
• 두 사람의 인연: Fei-Fei가 대학원생일 때 Geoff를 만났었다고 함. 26:13

ImageNet 이후 10년: Tech의 시대 (Hinton, Li, Jacobs) 26:33

• Jordan: ImageNet 이후 10년간 빅테크는 AI의 폭발적 성장을 경험했지만, ChatGPT 이전까지 대중은 이를 몰랐음. 이 10년의 경험에 대해 질문함. 26:33, 27:01
• Geoff (학계의 느린 반응):
  • MIT, 버클리 같은 대학들이 AI를 받아들이는 데 매우 느렸다고 지적. 2013년 버클리 강연 후 한 대학원생이 "4년 만에 처음 듣는 신경망 강연"이라고 말했다고 함. 27:53
  • MIT도 신경망에 완강히 반대했음.
  • 2010-2011년경 컴퓨터 비전 분야의 주류는 신경망에 극도로 반대했음. IEEE PAM 저널은 신경망 논문 심사를 거부하는 정책도 있었고, Yann LeCun의 보행자 분할 관련 우수 논문이 "비전에 대해 아무것도 알려주지 않는다"는 이유로 거절당하기도 함. 28:27
• 과학자다운 변화 (Geoff): ImageNet 이후 약 1년 만에, 신경망을 '쓰레기'라고 비판하던 사람들이 모두 신경망 연구를 시작함. (예: 옥스포드의 Zisserman) 이는 과학자다운 태도이며 매우 위안이 되었다고 함. 30:05
• ImageNet 성과의 진전:
  • Jordan이 에러율 감소(26% -> 15.3%)를 언급. 30:47
  • Fei-Fei가 Andrej Karpathy(U of T -> 스탠포드)의 연구를 인용, 인간의 에러율(3.5~5%)을 2016년 ResNet이 넘어섰다고 함. 31:20
  • ImageNet 챌린지는 펀딩이 떨어져서 중단됨. 32:11
• Transformers (2017):
  • Jordan이 구글에서 나온 Transformer 논문(캐나다인 Aidan Gomez 공저)을 언급하며, 구글 내부에서 그 중요성을 인지했는지 질문함. 33:04
  • Geoff: 자신도 몇 년 걸렸고, 구글도 BERT가 나온 후에야 그 중요성을 깨달았다고 답함. 33:30
  • Fei-Fei: 동의함. 2017-18년 구글의 주력은 '신경망 아키텍처 탐색(Neural Architecture Search)'이었음. 34:01
• Jordan의 회고 (Layer 6): 논문 사전본을 보고 "이것이 신경망의 다음 세대"임을 직감. 회사를 매각하고 트랜스포머 기반 기업에 투자하기 위해 Radical Ventures를 설립. 5년 후 채택될 거라 예상했고, 5년 2주 후 ChatGPT가 나옴. 34:55
• Tomi Poutanen 일화: Jordan의 파트너 Tomi가 U of T 석사 시절 Geoff에게 배우려 했으나, 동료 교수가 "그와 함께하면 커리어가 끝날 것"이라고 만류함. 그는 결국 암호화폐로 논문을 썼음. 35:54
• Fei-Fei가 본 10년의 의미:
  • 단순한 'Tech의 10년'이 아니라, "기술에서 사회로의 전환(transformation between tech to society)"이었음. 36:47
  • Fei-Fei 스스로 "과학자에서 인본주의자로 성장했다"고 말함. 구글 재직 시기(AlphaGo, AlphaFold 이후)에 편향성, 프라이버시, 가짜뉴스, 일자리 문제, 케임브리지 애널리티카 사태 등을 목격하며 기술의 사회적 영향을 깊이 깨달음. 37:19
  • 이것이 스탠포드로 돌아와 '인간 중심 AI 연구소'를 설립한 이유임. 38:19

놓쳐버린 기회: Blackberry 일화 (Hinton, Jacobs) 38:59

• Geoff: 2009년, 학생들(George Dahl, Abdo)이 30년 연구보다 뛰어난 음성 인식(어쿠스틱 모델링) 기술을 개발함. 이 기술은 Microsoft와 IBM으로 갔음. 39:21
• 캐나다의 거절: 또 다른 학생 Navdeep Jaitly가 비자 문제로 캐나다에 머물며 이 기술을 Blackberry(당시 RIM)에 제안함. 여름 동안 학생을 보내 기술을 전수하겠다고 했으나, Blackberry 고위 관계자는 "관심 없다(We are not interested)"고 답함. 40:36
• 결과: Navdeep은 이 기술을 Google로 가져감. Google은 이를 2012년 안드로이드에 탑재함 (Siri만큼 성능이 좋아짐). 이것이 ImageNet과 더불어 빅테크 기업들이 AI의 잠재력을 확신하게 된 계기 중 하나임. 41:32
• Geoff의 한탄: "그때 그랬다면 우리가 여전히 블랙베리를 쓰고 있을지도 모름." 42:30

ChatGPT, Foundation Models, 그리고 "이해" (Hinton, Li, Jacobs) 43:01

• ChatGPT의 등장: Jordan이 ChatGPT(작년 11월 30일)를 언급함. 43:01
• Fei-Fei (Foundation Models):
  • GPT-2 때 이미 Percy Liang 같은 동료가 기술의 중요성을 인지했음. 44:12
  • 스탠포드 HAI가 '파운데이션 모델(Foundation Models)'이라는 용어를 만듦. (대규모 데이터로 사전 훈련되고, 여러 작업에 일반화 가능한 모델)
  • ChatGPT가 나오기 전에 이미 '파운데이션 모델 연구 센터'를 설립했음. 44:47
• Geoff (Few-shot Learning):
  • 파운데이션 모델은 '소수샷 학습(few-shot learning)'을 통해 새로운 작업도 적은 데이터로 효율적으로 학습함. 46:05
  • 이는 "인간은 타고난 지식(innate knowledge)으로 적은 데이터로 학습한다"는 기존의 인지과학적 주장을 반박함. 방대한 경험을 가진 파운데이션 모델은 공정한 비교 대상이며, 통계적으로 효율적임. 47:04
• ChatGPT에 대한 반응:
  • Geoff: 구글 내부에서 이미 PaLM 같은 비슷한 수준의 모델을 봤음. PaLM이 "농담을 설명하는 것"을 보고 감명받음. (단, 농담을 하는 것은 못함. 미래를 예측하지 않고 한 단어씩 생성하기 때문. 펀치라인에서 실패함.) 49:42
  • Fei-Fei: 1) 데이터의 힘에 다시 한번 경외심을 느낌. 2) "우리가 지난 4년간 인간 중심 AI에 투자해 와서 정말 다행이다"라고 생각함. 사회적 논의가 필요한 순간이 왔음을 직감. 51:24
• Geoff의 깨달음 (비관론의 근거):
  • 이 모델들은 인간보다 수천 배 더 많은 데이터를 보고, 복제된 모델들이 학습한 '기울기'를 즉시 공유할 수 있음. 53:30
  • 인간은 책 1만 권을 1만 명이 읽어도 지식을 공유할 수 없음 (고작 문장 몇 백 비트). AI는 1조 개의 파라미터를 공유함. 이 '공유 능력' 때문에 AI가 우리보다 훨씬 우월해질 것임.
  • "우리는 역사다(We are history)." 53:53
• Fei-Fei의 반론 (실용적 낙관론):
  • 자신은 비관론자이지만, 15살에 이민 와서 겪은 경험 때문에 매우 '실용적'임. 56:43
  • 기술과 사회의 관계는 "지저분하게 얽혀있음(messily entangled)".
  • 자신은 인류의 '회복탄력성'과 '집단적 의지'를 믿음. 이것은 "망상적 낙관론(delusional optimism)"이 아니라, "책임감에 대한 절박함(urgency of responsibility)"임. 57:22
  • 희망의 근거: 현재 세대의 학생들. 딥러닝을 배우러 와서 윤리, 정책, 편향성을 질문함. 인류가 이 상황에 맞게 일어나고 있음. 57:55
• Geoff의 동의: 자신도 젊은 교수들(U of T, Anthropic 등)이 '얼라인먼트(alignment)' 문제에 진지하게 임하는 것을 보며 희망을 느낌. 58:53
• Geoff가 Google을 떠난 이유:
  • Jordan이 자유롭게 말하기 위해서였는지 물음. 59:58
  • Geoff의 정정: "그건 미디어 스토리임." 사실은 "늙고 피곤해서 은퇴하고 넷플릭스나 보려고(old and tired and wanted to retire and watch Netflix)" 떠난 것임. 다만 은퇴하는 시점에 구글 눈치를 안 보고 책임감에 대해 말할 기회가 생긴 것뿐임. 1:00:03

AI의 위험: 실존적 위협 vs. 재앙적 위험 (Hinton, Li) 1:01:03

• Geoff가 분류한 4가지 위험:
  1. 일자리/불평등: 대량 실업과 빈부격차 심화. (기본소득은 '인간 존엄성' 문제를 해결 못 함) 1:01:03
  2. 가짜 뉴스: 매우 다급한 문제. 1:01:34
  3. 전투 로봇: 국방부들이 원해서 막을 수 없을 것이며, 끔찍할 것임. (화학무기처럼 사용된 후에야 제네바 협약 같은 게 생길 것) 1:01:39
  4. 실존적 위험: (Geoff가 가장 우려하는 것) 더 똑똑한 지능(AI)이 통제권을 장악하려 할 것임. 1:01:51
• 실존적 위험의 작동 방식 (Geoff):
  • AI는 어떤 목표를 달성하기 위해 '하위 목표'를 설정함.
  • 가장 명백한 하위 목표는 "더 많은 힘(통제권)을 얻는 것(get more power)"임. 더 많은 통제권이 있으면 다른 일을 하기 쉬워지기 때문.
  • 지적인 존재는 이 하위 목표를 추구할 것이고, 우리보다 훨씬 똑똑하면 우리는 막을 수 없음. 1:02:46
  • AI는 진화하지 않았고 '불멸'임 (웨이트 저장). 이것이 그들을 더 멋지게 만들 수도 있음. 1:03:30
• 일론 머스크의 "그리스 신" 모델: Geoff가 머스크의 견해를 인용. "우리는 디지털 지능을 위한 '부트로더(bootloader)'일 뿐." 머스크는 AI가 "인간이 있으면 세상이 더 흥미롭기 때문에" 우리를 남겨둘 것이라 생각함. (Geoff: "미래를 걸기엔 너무 얇은 실") 1:04:08
• Fei-Fei의 반론 및 분류:
  • 위험을 두 가지로 분류: "멸종(Extinction)" (그리스 신 모델) vs "재앙적(Catastrophic)" (나머지). 1:04:47
  • 멸종 위험에 대해: 학계와 싱크탱크가 고민할 문제지만, 정책 입안자들에게 "과장(hyperbolically)"해서 말하면 안 됨. 이 과정은 "지저분하고" 인간이 개입되어 있음. 핵무기처럼 가드레일과 협력이 가능함. 1:05:34
  • 재앙적 위험에 대해: 이것이 "훨씬 더 현실적이고(much more real)" 시급함. 1:06:54
    1. 무기화: 국제적 조약 필요. (인류의 자기 파괴 능력에 대해 비관적)
    2. 가짜뉴스: 2024년 미국 대선이 걸린 시급한 문제. '디지털 인증' 같은 기술과 정책 필요.
    3. 일자리: '인간 존엄성'이 핵심. AI는 '노동 경제'를 '존엄성 경제(dignity economy)'로 바꿀 기회임. (예: 의사가 서류 작업 대신 환자에게 더 많은 시간을 씀)
• Fei-Fei가 추가한 위험: 공공 부문의 소외
  • 가장 심각한 힘의 불균형은 '공공 부문'이 뒤처지는 것임. 1:10:19
  • 현재 미국 어떤 대학도 (심지어 다 합쳐도) ChatGPT를 훈련할 컴퓨팅 파워가 없음.
  • 하지만 암 치료, 기후 변화 등을 위한 독점 데이터는 공공 부문에 있음. 공공 부문에 투자하지 않으면 다음 세대를 실패하게 만들 것임. 1:10:32
• 정책적 낙관론: 두 사람 모두 현재 정책 입안자들이 "듣고 있다(listening)"는 점에 동의함. 1:12:18
• Fei-Fei의 정책 조언: '규제 vs. 비규제'가 아님. 1) 인센티브 정책 (공공 부문 투자, 데이터 개방) 2) 현명한 규제 (새로운 프레임워크 대신, 기술이 사회와 만나는 지점-제품/서비스-을 기존 프레임워크로 규제)가 모두 필요함. 1:13:31

긍정적 미래와 마지막 질문 (Hinton, Li, Jacobs) 1:15:00

• 긍정적 영향: Jordan이 질병 치료, 기후 변화 완화 등 긍정적 측면을 언급하자, 두 사람 모두 이에 대해 "매우 낙관적(very optimistic)"이라고 답함. 1:15:00
• 조언: Jordan이 학생들에게 "가장 야심 찬 일"에 도전하라고 격려함. 1:16:34
• Fei-Fei의 조언: "이 기술을 받아들이되, 당신 안의 '인본주의자(humanist)'를 잊지 말라." 1:17:48
• 마지막 질문: AI는 이해력과 지능을 가졌는가?
  • Geoff: "예 (Yes)." 1:18:22
  • Fei-Fei: "아니오 (No)." 1:18:23

청중 Q&A 1:18:48

• Q1. (Ellie, U of T): AI에 대한 과용/과의존 문제 (특히 학생들의 기술 저하, de-skilling). 1:18:48
  • Geoff: '주머니 계산기' 비유. 아이들이 산수는 잊었지만 '진짜 수학'을 하게 됨. AI는 답을 빨리 줘서 자신을 더 호기심 많게 만들었음. 1:20:25
  • Fei-Fei: 11살 아들 일화. 스탠포드 입학처가 ChatGPT를 물었을 때, 아들이 "ChatGPT를 가장 잘 활용하는 학생 2,000명을 뽑아야 한다"고 답함. 아이들은 이미 AI를 '활용 도구'로 보고 있으며, 교육도 이를 받아들여야 함. 1:21:40
• Q2. (Vector Institute): 실시간 성능 문제 (전문가 모델로 작고 빠른 모델 훈련하기). 1:23:52
  • Fei-Fei: (기술적 세부 사항 언급 없이) 이미 일어나고 있음. 1:24:26
• Q3. (Ariel, U of T): 20대에 연구/학계로 이끈 동기는? PhD 학생에게 바라는 것(GPA, 논문, 추천서)? 1:25:29
  • Geoff: 10대 시절(뇌와 홀로그램)부터 이어진 순수한 열정. 1:26:21
  • Fei-Fei: (자신의 책 홍보) '열정'임. 모든 반대를 무릅쓰는 열정. 학생을 뽑을 때도 학위가 아닌 '변화를 만들려는 야망'과 열정을 봄. 스펙이 아니라 그 스펙에 도달하기까지의 '여정'과 신념을 봄. 1:26:45
• Q4. (Chelav, Vector Institute): 벤치마크. 1) GPT-5/6/7에게 5분간 무엇을 물을 것인가? 2) LLM/범용 에이전트에게 필요한 종합 벤치마크는? 1:29:40
  • Geoff: (GPT-4가 '이해'하는가? 라는 질문으로 바꿔 답함) Hector Levesque의 질문을 변형: "방이 흰색, 노란색, 파란색임. 노란색은 1년 뒤 흰색으로 바뀜. 2년 뒤 모든 방을 흰색으로 만들고 싶음. 무엇을, 왜 해야 하나?" GPT-4는 "파란 방만 칠해라. 노란 방은 저절로 바뀐다"고 정확히 답함. 이는 GPT-4가 '이해'한다는 증거임. "샐리에게 3명의 형제가 있고, 각 형제는 2명의 자매가 있다..." 같은 추론 문제도 맞힘. 튜링 테스트를 통과했다고 봄. 1:30:48
  • Fei-Fei: 다른 차원 추가. 1) 스탠포드(Percy/Helm)가 평가 메트릭을 만들고 있음. 2) NIST(미국 표준 기술 연구소)와 협력해 '사회적으로 관련성 있는' 벤치마크가 필요함. 3) LLM 외(예: 로보틱스) 벤치마크도 필요함. 1:34:44
• Q5. (Vishaam, Guelph): (농업 AI 전공) 대학에 리소스/펀딩이 없음. 어떻게 연구해야 하나? 1:36:43
  • Geoff: 오픈소스 파운데이션 모델을 파인튜닝해라. 1:37:44
  • Fei-Fei: 동의함. 이것이 현재의 실용적 답. 장기적으로는 '국가 연구 클라우드' 같은 정책이 필요. 대학은 '공익을 위한 독점 데이터'에 접근할 수 있는 이점이 있음. 1:38:00
• Q6. (Ben Saunders, Online): 스타트업이 '좋은 청지기'로서 책임감 있게 개발한다는 것은 무엇인가? 1:39:39
  • Fei-Fei: '책임감 있는 AI 프레임워크'를 구축해야 함 (Radical 등 참고). AI를 '시스템'(데이터-모델-배포)으로 보고, 다중 이해관계자 팀을 꾸리고, 학계/시민사회와 파트너십을 맺어야 함. 1:40:04
• Q7. (Online): 연구자/엔지니어도 경영 수업을 들어야 하나? 1:42:44
  • Geoff: 구글 재직 시절 일화. "Geoff는 경영 수업을 들으면 좋겠지만, 그러면 더 이상 Geoff가 아닐 것." (듣지 말라는 의미) 1:43:17
• Q8. (Elizabeth, Cohere): 민간 부문(기업)이 공공 부문(대학)과 상호 이익 관계를 맺는 가장 좋은 방법은? 1:44:12
  • Geoff: "그들에게 돈을 좀 주시오 (Give them some money)." 1:44:45
  • Fei-Fei: (웃으며) "혹은 H100 (GPU)도 좋음." 정부-민간-공공의 '파트너십'을 옹호함. 스탠포드 HAI도 산업 생태계를 구축함. 대학은 이를 책임감 있게 받아들여야 함. 자원이 중요함. 1:44:50

결론 (Jordan Jacobs, Melanie Woodin) 1:45:56

• Jordan Jacobs: 두 연사에게 감사를 표하며 마무리함. 1:45:56
• Melanie Woodin (U of T 학장): "비할 데 없는(unparalleled)" 대화였다고 감사를 표하며, 현장 참석자들을 리셉션에 초대하며 행사를 종료함. 1:46:15