2025. 8. 12. 확장: 일리아 수츠케버

제공된 스크립트 내용을 빠짐없이 자세히 정리함.

패널 소개 및 서론

• 주제: 컴퓨팅 세계의 혁명적 변화, 머신러닝(ML), 인공지능(AI).
• 현황: ML과 AI가 매일 주목받고 있으며, 긍정적인 이야기와 위험에 대한 이야기가 공존함. 컴퓨팅 역사의 다른 변곡점처럼 많은 변화와 불확실성이 보임.
• 스탠포드 HCAI 보고서:
  • 지난 10년간 중요한 ML 시스템의 극적인 증가.
  • 활동 중심이 산업계로 이동: 학계(3개) 대비 산업계(32개)에서 10배 이상 많은 시스템 배포 (작년 기준).
  • AI 연구 출판물 전반적 증가: 패턴 인식, ML, 컴퓨터 비전 등 주제의 AI 출판물 수가 5년 만에 2배 이상 증가.
• 우려: AI가 널리 적용되면서 오용에 대한 우려도 급증. 새로운 종류의 통제, 정책, 규제 요구 발생.
• 패널 소개:
  • 일리아 수츠케버 (Ilia Sutskever):
    • 2012년: AlexNet 공동 발표.
    • 3년: 구글 브레인 팀.
    • 7년: OpenAI (공동 창립자 겸 수석 과학자).
    • 20년: AI 연구.
    • 4 GPTs.
    • OpenAI 임무: 모든 인류에게 이익이 되는 인공 일반 지능(AGI) 구축.
    • OpenAI 연구 주도, GPT 모델 설계자 중 한 명.
    • AlexNet, Sequence-to-sequence learning 공동 발명가.
  • 에릭 호르비츠 (Eric Horvitz):
    • 3,510: 첫 번째 마이크로프로세서(6502)의 트랜지스터 수 (1984년 프로그래밍).
    • $150: 마이크로소프트 입사 시 주가.
    • 1998년: 첫 ML 기반 이메일 스팸 탐지기 개발.
    • 102: 마이크로소프트에서 멘토링한 인턴 수.
    • 1,500 KHz: 출생 시 축하받은 라디오 주파수 (비하인드 스토리 있음).
    • 마이크로소프트 수석 과학 책임자(CSO), AI 사용 문제 연구.
    • 대통령 자문위원회 위원.
• 진행자: 다이앤 그린 (Diane Greene) - 터프츠(Tufts) 대학 교수, 전미과학위원회(NSB) 전 의장, 현 컴퓨터 역사 박물관(CHM) 이사.

1부: 알토(Alto)의 유산과 연구 문화

• 다이앤 질문: 알토의 유산을 현재 연구와 어떻게 연결하는가?
• 에릭의 알토 경험:
  • 1980년대 초 스탠포드(Margaret Jacks Hall)에서 알토를 처음 봄.
  • 당시 메인프레임 프로그래머로서 "미래에서 온 것" 같은 충격을 받음.
  • 이 경험이 알토 팀과 연구 스토리를 탐구하게 만듦 (JCR 리클라이더, 버네바 부시, 더그 엥겔바트 언급).
  • 리클라이더의 꿈인 "인간-컴퓨터 공생(symbiosis)"을 추구하는 연구의 틀을 잡게 됨.
• 다이앤 질문: 각 조직의 현재 문화와 환경은 어떠하며, 파크(PARC)와 어떻게 비교되는가?
• 일리아 (OpenAI vs. 파크):
  • 파크와 비교하기 어렵다. 파크는 다른 문제를 마주함.
  • 기술이 발전함에 따라 문제와 해결 접근 방식, 이를 지원하는 문화도 변함.
  • 파크의 목표: "미래에서 온 컴퓨터로 무엇을 할 것인가?"를 파악하는 것. 위대한 연구자들이 상상 못 한 새로운 사용법을 발견함.
  • OpenAI 상황: 다름. (설립 7년 차).
  • OpenAI 문화 변화:
    • 초기 1년: 탐색적 (무엇을 할지, 핵심 아이디어 파악).
    • 이후: 대규모 엔지니어링 프로젝트의 측면을 채택하기 시작.
    • 이유: 목표가 발명뿐 아니라 구축(build)하는 것이기 때문.
    • 구축에는 정교한 엔지니어링 결과물을 만들기 위해 대규모 팀이 협력하는 강력한 엔지니어링 문화가 필요.
    • 이것이 아마도 파크와의 가장 큰 차이일 것.
• 에릭 (Microsoft Research 문화):
  • 대부분 시간을 MSR(Microsoft Research)에서 보냄 (창립자 릭 라시드 언급).
  • 2년 전 CSO가 됨. 현재 '응용 연구 위원회(Applied Research Council)'를 이끌며 캠퍼스 전반의 연구(HoloLens, 검색팀, 클라우드 연구 등)를 조정.
  • MSR (1991년 설립) 임무: "최첨단 기술 발전 (Advancethe state-of-the-art)". (마이크로소프트 언급 없음).
  • 릭 라시드와의 일화: 에릭이 입사 첫해 제품팀과 협력하며 흥분하자, 릭이 "제품팀이 고마워하겠지만, 당신의 시간을 올바른 곳에 쓰고 있는지 확신하는가?"라고 질문.
  • 핵심 원칙:
    1. 깊은 사고와 창의력 발휘: 현재 제품이나 이해에 얽매이지 않음.
    2. 개방성 (Openness): 출판물이나 외부 연구자 교류에 통제 없음. (앨런 케이가 언급한 ARPA 커뮤니티와 유사). 마이크로소프트 같은 회사도 타사, 대학 등과 깊이 연결된 거대 커뮤니티의 일원임.
    3. 알토 방식: 마법 같고 미래지향적인 것을 창조 -> 현재로 가져옴 -> 격차를 메우는 다리를 만듦.

2부: 컴퓨팅과 AI의 미래

• 다이앤 질문: 현재 컴퓨팅의 가장 중요하거나 대담한 목표는 무엇인가?
• 일리아의 목표:
  • 명백함. 컴퓨팅의 유일한 목표: "인류를 사랑하는(loves Humanity) 인공지능을 구축하는 것".
  • 현재 AI는 딥러닝(대형 컴퓨터 속 디지털 두뇌 구축)에 기반.
  • 사람들이 미래 지향적 아이디어를 내면화할 때 상당하고 생산적인 진보 가능.
• 에릭의 목표:
  • 일리아 의견에 깊이 공감. (수년 전 일리아가 회의실 화이트보드에 AGI 계획을 그렸던 일화 언급).
  • 자신의 배경: 생물물리학(신경생물학) 전공 -> 마음(Minds)에 대한 통찰을 얻는 가장 빠른 길이 '계산(computation)'이라 판단.
  • 대담한 목표: 인류가 마음과 인간 지성의 기반을 깊이 이해하는 것.
  • 단기 목표:
    1. 리클라이더의 '인간-기계 공생' 비전 달성: (버틀러, 앨런 케이 언급 인용). 시스템이 인간을 보완하는 방법을 깊이 추론해야 함. (인간의 사고 과정, 추론의 격차 이해 등). 리클라이더는 컴퓨터를 "과학적 조수(scientific apprentices)"로 봄. (알토 비전의 연장선).
    2. 생명과학 및 헬스케어 적용: AI(특히 딥러닝)를 적용해 의학과 생명과학의 거대한 변화 및 가속화 예상.
• 다이앤 질문: (3부작 질문) 1. 무엇이 일어나길 바라는가?
• 일리아의 희망:
  • AI가 계속 발전하고 똑똑해지면서, 사회가 가진 해결 불가능했던 수많은 문제를 해결하는 데 사용되길 희망.
  • (예: 지구 온난화, 국제 관계, 대규모의 저렴한 자율 헬스케어, 질병 치료, 생명 연장, 타 행성 거주 등).
• 에릭의 희망:
  • 일리아와 뜻이 같음. AI는 매우 파괴적일 것임 (불안감 유발).
  • "모든 것이 잘 되길(it all goes well)" 희망.
  • AI가 직업, 경제, 교육, 정체성 등에 미칠 영향 언급.
  • 역사상 유례없이 정부, 민간, 시민 사회 등 여러 부문에서 깊이 숙고하고 있으며, 이들이 협력해 일이 잘 풀리도록 보장할 것임.
• 다이앤 질문: 2. 무엇이 일어날까 두려운가?
• 일리아의 두려움:
  • 일어나지 않길 바라는 것: AI는 믿을 수 없을 정도로 강력할 것.
  • 이 엄청난 힘으로 인해 "일이 우리가 원하는 대로 흘러가지 않을 가능성" 존재.
  • 위험: 1) 강력한 도구를 관리할 수 있을까? 2) 해당 도구를 잘 작동하도록(well behaved) 만드는 기술적 과제.
• 에릭의 두려움:
  • 많은 것이 잘못될 수 있음 (시스템의 한계, 거친 부분).
  • 주요 우려: 악의적인 행위자(국가, 집단)의 손에 기술이 들어가는 것.
  • 가장 큰 두려움: 적절한 정책/기술적 가드레일 없이는, AI의 조작/합성/대안 현실 창조 능력으로 인해 아무도 무엇이 진실인지 모르는 "탈인식론적 세계(post-epistemic world)"로 진입할 수 있음.
  • 기술, 정책, 법률 분야에서 탐색 중인 방법들이 이 가능한 미래보다 앞서 나가길 희망.
• 다이앤 질문: (일리아에게) 원치 않는 일을 막기 위해 어떤 가드레일이 필요하다고 보는가?
• 일리아 (가드레일):
  • 전적으로 동의. 많은 계층의 가드레일 필요.
  • 1. 개발자 계층: 기술이 오작동하지 않고, 용납할 수 없는 요청을 거부하도록 만듦.
  • 2. 배포 계층: 가장 강력한 시스템은 API 뒤(서버)에 두는 것.
  • 3. 사회적 계층: 현명하게 선택된 사회적 수준의 규칙(규제)이 필요함. (어렵지만) 모든 회사와 노력이 더 나은 환경적 결과를 위한 집단적 선택을 하도록 도울 수 있음.
• 에릭 (가드레일 - GPT-4 사례):
  • GPT-4 기반(base) 모델은 세상에 그대로 내보내기에 안전하지 않았음.
  • 기반 모델에서 3월 초 공개된 GPT-4로 가기까지 (OpenAI와 MS의) 광범위한 기술적 작업과 투자가 필요했음.
  • 조작, 환각, 독성 발언, 고정관념 생성 능력 등을 측정하는 별도 작업 스트림과 메트릭이 있었음.
  • 희망: 이 기술들(가드레일)이 널리 공유되지 않았는데, 앞으로 더 투명하게 공개되어 더 넓은 커뮤니티(컴퓨터 과학자)가 이 방법론에 대해 협력하길 바람.
• 일리아 (가드레일 - 기술적 부연):
  • 현재 패러다임 설명:
    1. 사전 훈련 (Pre-training): 신경망이 인터넷으로부터 세상에 대해 배움.
    2. 행동 형성 (Shaping Behavior): 신경망의 행동에 대한 높은 수준의 명세를 설계하고 이를 신경망에 각인시킴. (미래에는 이 두 단계가 더 통합될 것).
  • 이것이 GPT-4 같은 시스템이 (사람들의) 집중적인 공격에도 잘 견디게 하는 기술적인 부분임.
  • 하지만 이것은 문제의 기술적 부분일 뿐.
  • 시스템의 힘이 커질수록, 이 기술적 안전성은 점점 더 중요해질 것.
  • 추가적으로: 정부와 사회가 이 AI 시스템을 이해하고, 에릭이 지적한 (인식론적) 우려에 대한 "항체(antibodies)"를 개발해야 함. (예: 인터넷에서 읽는 것을 맹목적으로 신뢰하지 않는 것에 익숙해지기).
• 다이앤 질문: 3. 무엇이 일어날 것이라 예측하는가?
• 일리아의 예측:
  • (현명한 이의 말 인용: "예측은 어렵다. 특히 미래는.") 1. AI는 계속 발전할 것. 1. AI는 사회에서 가장 많이 논의되는 단일 주제가 될 것. 1. 많은 사람이 AI가 제기하는 질문에 대해 생각하고 창의적이고 예상치 못한 해결책을 찾기 시작할 것. 1. 엄청난 수의 놀라운 애플리케이션과 용도가 등장하고, 기존 문제들이 해결되기 시작할 것. 1. 막대한 경제 성장이 있을 것. 1. AI로 인해 발생하는 새로운 문제들도 보게 될 것.
  • (정확한 비율은 예측 불가능하지만, "지루하지는(boring)" 않을 것).
• 에릭의 예측:
  • 지금은 놀라운 시기.
  • 500년 후에도 지금부터의 15년은 (매우 중요하게) 인식될 것.
  • 최고를 희망하며 낙관적이지만, 변혁적(transformational)일 것임 (과학 분야의 마법 같은 돌파구 포함).
• CHM 전통: 한 단어 조언:
  • 에릭: 탐험하라 (Explore).
    • (이유: 평생 해온 일이며, 탐험하고 배우는 것은 인간의 근본적인 열망).
  • 일리아: 인내하라 (Persevere).
    • (이유: 일이 쉬울 때는 재미있고 노력이 덜 들지만, 어려워질 때 인내가 중요하며, 그때가 가장 결정적인 순간).
• 마무리: 다이앤이 두 사람에게 감사하며 대화 종료.