What Happens When Digital Superintelligence Arrives? Dr. Fei-Fei Li & Dr. Eric Schmidt at FII9

대화 정리

1. 대화 시작 및 주제 소개 (Peter)

• 초대: 모두를 환영. 00:00
• 대화 주제: 미래(기업, 국가, 자녀의 미래), 특히 '초지능'. 00:01
• 주요 논의: 초지능의 의미, 그것이 도래할 때 일어날 일. 00:10
• 관련 용어: AI(인공지능), AGI(일반인공지능), 그리고 디지털 초지능(DSI) 또는 ASI(인공초지능). 00:18

2. 초지능(Super Intelligence)의 정의 (Peter, Eric, Fei-Fei)

• Peter (질문): 초지능은 무엇이며, 언제 도래할 것으로 보는가? 00:27
• Eric (답변):
  • AGI (일반지능): 인간 수준의 지능. 인간은 아이디어, 친구, 생각, 창의성을 가짐. 00:50
  • 초지능: 모든 인간의 지능을 합친 것과 같거나 그보다 뛰어난 지능. 01:05
  • 업계의 믿음: 초지능 도달은 확실하나 시기는 불명확. 01:15
  • '샌프란시스코 컨센서스': 3-4년 내 도래 주장. (Eric은 날씨나 마약 탓일 수 있다 농담). 01:26
  • 개인 의견: 그보다 더 오래 걸릴 것. 01:33
  • 컨센서스 근거: 현재 관측되는 '복합 효과'(compounding effects)가 예상보다 빠른 속도를 낼 것이라 주장. 01:40
• Peter (질문): AI의 현재 성능은 예상을 초월. 스케일링 법칙이 놀라운 능력을 줌. Fei-Fei(World Labs 창립자, 스탠포드)의 생각은? 업무에서 초지능을 논하는가? 01:50
• Fei-Fei (답변):
  • AI의 기원: 앨런 튜링의 "생각하는 기계" 질문에서 시작. 지능의 근본과 경계를 탐구하는 분야로 탄생. 02:13
  • 현재: 튜링 이후 75년, '초지능'이 실리콘 밸리 화두. 02:48
  • 통속적 정의 (Eric 동의): AI/컴퓨터가 어떤 인간보다 뛰어난 능력. 02:54
  • 주의점: 현 AI도 이미 일부 영역에선 인간을 능가. 03:11
    • 예 1: 수십 개 언어 구사 및 번역 (인간은 불가능). 03:20
    • 예 2: 빠른 계산 속도. 03:32
    • 예 3: 화학, 생물학, 스포츠 등 방대한 지식 보유. 03:32
  • 남은 질문: AI가 뉴턴, 아인슈타인, 피카소가 될 수 있는가? "모르겠다." 03:53
  • 한계 예시: 모든 항성 데이터를 AI에 줘도, 뉴턴의 운동 법칙(창의성, 추상화 결합)을 추론하지 못함. 04:11
  • 결론: 현재나 미래 AI가 (인간 수준의) 창의성, 추상화를 할 수 있을지 불확실. 04:29

3. 창의성의 한계와 알고리즘 (Eric)

• Eric:
  • 창의성 예시: 1902년의 모든 지식으로 '상대성 이론'을 발명할 수 있는가? 현재 답은 '아니오'. 04:43
  • 기술적 한계: 현재 시스템은 추론 중 학습한 것을 즉시 피드백하지 못함 (수학자는 가능). 05:03
  • 인간의 창의성: 한 분야 전문가가 다른 분야에서 직관을 얻어 문제를 푸는 능력. AI가 배워야 할 부분. 05:41
  • 대안 (강화학습): 무차별 대입 방식은 조합적 비용(전력 등)이 엄청남. 06:01
  • 초지능 도달 조건: 새로운 '알고리즘적 돌파구' 필요. 06:14
  • 기술적 난제: '목표의 비정상성'(non-stationarity of objectives). 창의성은 고정된 목표가 아닌, 수행 중 목표를 변경하는 능력이 필요. 06:24

4. '탈희소성 사회' 비전 (Peter, Fei-Fei)

• Peter (질문):
  • AI 성능: GPT-5 Pro IQ 148 달성 등 상한선 없는 발전. 06:39
  • 보급: 80억 인구가 (창의성 외) 아인슈타인급 지능을 보유 가능 (Starlink, 50달러 폰). 06:51
  • 결합: 휴머노이드 로봇 등 다른 기술과 결합. 07:15
  • 전망: '탈희소성 사회'(post scarcity society)로 가고 있음. 동의하는가? 07:17
• Fei-Fei (답변):
  • 신중론: 실리콘 밸리 유행어(AI, 초지능, 휴머노이드) 결합에 주의 필요. 07:32
  • 로보틱스: 갈 길이 멈. 인간 수준의 조작 능력은 훨씬 더 기다려야 함. 07:45
  • 탈희소성 사회: "모르겠다." 실리콘 밸리 낙관론에 동의하지 않음. 08:18
  • 핵심: AI는 인간 능력을 심오하게 '증강'할 것. 08:23
  • 결론: '인간-AI 협업'이 가장 생산적이고 유익할 것. 08:39

5. 경제적 영향과 부의 분배 (Peter, Eric, Fei-Fei)

• Peter (질문):
  • 경제 효과: 2030년까지 AI가 15조 달러 가치 창출 전망. 08:52
  • 패러다임 전환: 국부 기반이 자본/노동에서 '컴퓨팅 지능'으로 이동. 08:56
  • 질문: 글로벌 경제 영향은? 부/능력 재분배는? 국가 간 격차 해소 vs 독주 승자 발생? 09:05
• Eric (답변):
  • '풍요 가설'의 결함: '모두를 위한 풍요'를 가정하지만, 네트워크 효과가 소수 승자(국가, 기업, 개인)에게 집중될 증거 많음. 09:21
  • 이슈: 이는 '공공 정책'의 문제. 09:51
  • 부 창출은 확실: 효율성에서 비롯. AI 도입 기업은 막대한 이익. 09:51
    • 예(사우디): 석유 네트워크 손실 10-20% 개선 가능. 10:01
    • 예(의학/재료): 신약 승인 단축, 재료 개발 효율화. 10:12
  • 결론: AI 조기 도입자가 불균형적 수익 획득. 10:26
  • 쟁점: 이익이 균등(희망)한가 vs 초기 도입자, 네트워크 효과, 자본 중심(Eric 견해)인가. 10:34
• Peter (반론/질문):
  • 서비스 보급: 자율주행차(비용 1/4), AI 의사/헬스케어(무료) 등 대규모 '탈화폐화'(demonetization) 발생. 10:43
  • 접근성: 스마트폰만 있으면 누구나 이용 가능. 11:06
  • 질문: 이런 서비스 분배를 막을 요인이 있는가? 11:14
• Fei-Fei (답변):
  • AI의 민주화: 동의. (헬스케어, 교통, 지식). 11:28
  • 한계 (Eric 동의): 글로벌 생산성 증가가 '공유된 번영'(shared prosperity)으로 자동 연결되지 않음. 11:38
  • '공유된 번영': 기술 역량과 다른 문제. 정책, 지정학, 분배가 얽힌 깊은 사회적 문제. 11:47

6. 국가별 AI 전략 (Peter, Eric, Fei-Fei)

• Peter (질문): ASI를 남의 일로 보는 국가 지도자들에게 조언한다면? 12:05
• Eric (답변):
  • 미국: 막대한 자본 시장, TSMC 칩 덕에 '하이퍼스케일러' 구축 압도적 선두. 초지능은 여기서 나올 것 (예: 구글). 12:22
  • 중국: 2위. 자본 시장, 칩 부족. 13:01
  • 기타 국가: 격차 큼. 13:01
  • 사우디/UAE: 미국과 파트너십 (좋은 전략). 13:10
  • 조언: (미국) 편에 서서 미국 기업과 협력. 13:20
• Fei-Fei (답변):
  • 조언: 모든 국가는 '인적 자본', 파트너십, 자체 기술 스택/생태계에 투자해야 함. 13:25
  • AI 미투자: 거시적으로 잘못된 선택. 13:44
• Peter (질문): 모든 국가가 '주권 AI'(sovereign AI) 데이터센터를 지어야 하는가? 13:56
• Fei-Fei (답변):
  • "상황에 따라 다름." 14:09
  • 중동: 에너지 저렴. '절대적으로' 맞음. 14:19
  • 소규모 국가: 감당 어려울 수 있음. 다른 투자 영역 존재. 14:31
• Eric (답변):
  • 유럽: 에너지/금융 비용 높아 대형 데이터센터 구축 확률 낮음. 14:46
  • 대안: 파트너십 (예: 프랑스-아부다비). 14:54
  • 아프리카 우려: 안정적 정부/대학/산업 구조 부족으로 뒤처질 것. 이 문제는 미해결 상태. 15:11

7. 5년 내 과학의 미래 (Peter, Eric, Fei-Fei)

• Peter (질문):
  • 현황: AI가 '수학 풀이' 시작 (물리, 화학, 생물학 파급). 15:38
  • 잠재력: 5년 내 '모든 것을 푸는' 위치 도달. 발견/신소재/치료제 개발 속도 '초지수적' 증가. 15:48
  • 질문: 5년 후 세계를 어떻게 보는가? 16:18
• Eric (답변):
  • 발생 가능성 높음. 16:21
  • 이유 (LLM): 본질은 '다음 단어 예측'. 16:21
  • 핵심: 수학, 소프트웨어, 사이버 공격 등 '제한된 어휘' 영역은 '규모 제약 없이'(scale free) 발전 가능. 16:28
  • 예상: 향후 몇 년간 (검증 가능한) 수학, 소프트웨어 분야에서 가장 큰 발전. (현실 세계는 시간 더 필요). 16:46
• Fei-Fei (반론):
  • 반대: 5년 내 모든 근본적 과학/수학 문제 해결 못 함. (Eric과 FII14에서 내기). 17:21
  • 인간의 능력: '새로운 문제'를 고안하는 것. 17:39
  • 아인슈타인 인용: "과학의 대부분은 올바른 질문을 하는 것". 17:47
  • 미해결 문제: 과학/수학에 근본적 질문 많이 남아있음. 17:55

8. 가상 세계와 'World Labs' (Peter, Fei-Fei)

• Peter (질문): Fei-Fei의 'World Labs'(사실적 가상 세계 생성) 관련, 미래에 우리가 가상 세계에 더 많이 살게 될까? (일 감소, 여가 증가, 로봇 시중). 18:04
• Fei-Fei (답변):
  • World Labs: LLM 다음 단계인 '거대 세계 모델'(large world models) 구축 중. 18:41
  • 인간의 '공간 지능': 3D 세계를 이해, 상상, 추론하는 능력. 18:43
  • World Labs: 이 능력을 가진 '최초의 거대 세계 모델' 생성. 19:10
  • 미래 전망: 가상 세계 '멀티버스'에서 더 많은 시간 보낼 것. (현실이 사라지는 건 아님). 19:17
  • 핵심: 생산성, 교육, 엔터테인먼트 등이 '가상-물리 하이브리드'가 될 것. 19:38
    • 예(의학): 수술이 AR, VR, 물리적 현실의 하이브리드. 19:53
  • 결론: 인류는 거대 세계 모델을 통해 '무한한 우주'로 진입 중. 20:08
• Peter (코멘트): World Labs 기술은 세상을 바꿀 것. 20:16

9. 인간 지성의 궁극적 기능 (Peter, Eric, Fei-Fei)

• Peter (질문): 초지능이 '인류의 마지막 발명'으로서 모든 것을 자동화한다면(최고의 전략/결정 기계가 수행), 10-20년 후 인간 지성/리더십의 '대체 불가능한 궁극적 기능'은 무엇인가? 20:31
• Eric (답변):
  • 인간의 관심: 20년 후에도 로봇이 이기는 걸 알면서 '인간 스포츠'(예: F1) 관람. 인간은 다른 인간의 능력에 관심. 21:08

  • Peter 전제 반박:

    1. 컴퓨터 지능이 인간 같을 것? (아마 '다른 종류'의 지능일 것). 21:37

    2. 인간이 과정에 비관여? (매우 그럴 것 같지 않음). 21:49

       • 핵심: '인간-컴퓨터 상호작용'이 될 것. 21:55
       • 미래: 똑똑한 인간이 AI를 활용해 더 생산적으로 변함. '인간의 판단력 + 슈퍼컴퓨터의 사고력'이 팀을 이뤄 승리. 22:02
       • 한계: 초지능도 '에너지' 필요. 22:23
       • SF적 상상: AI가 에너지 부족 인지 -> 스스로 새 에너지(핵융합 등) 고안. 22:28
       • Fei-Fei (마무리):
       • 가장 중요한 것: AGI/ASI 논의 시 '인간의 존엄성'과 '인간의 주체성'을 잊지 말아야 함. 22:56
       • 세상의 중심: 세계는 '인간 중심'이어야 함. 23:10
       • 적용: 자동화든 협업이든, 기술/비즈니스/정책 모두 인간 웰빙을 중심에 둬야 함. 23:15
       • Peter (종료): (Amen). 두 연사에게 감사. 23:34