Fei-Fei Li | Firing Line with Margaret Hoover (PBS)

영상 내용 상세 정리

• 오프닝: 'AI의 대모'로 불리는 스탠포드 대학의 페이페이 리 박사(Dr. Fei-Fei Li) 소개. 올해 웨비상(Webbys)에서 AI 연구 공로로 평생 공로상 수상.
• 리 박사의 연구: 컴퓨터 비전, 컴퓨터가 3D 세계를 보고 생성하도록 가르치는 연구실 운영. 이 기술의 막대한 혜택과 위험을 동시에 예견함. "인간이 불을 발견했을 때도 치명적일 수 있었음. 모든 기술은 양날의 검."
• 스탠포드 인간 중심 AI 연구소: 리 박사는 인류의 삶을 개선하는 데 초점을 맞추기 위해 이 연구소를 공동 설립함.
• 2023년 상원 증언: AI 사용에 대한 의회의 가드레일(보호 장치) 필요성 경고. "AI는 공익을 위해 많은 문제를 해결할 수 있지만, 해를 끼치도록 오용될 수도 있음. 미국 정부가 이러한 시스템의 윤리적 조달 및 배포를 주도해야 함."
• JD 밴스 부통령의 반대 의견: "AI 분야에 대한 과도한 규제는 막 도약하려는 변혁적 산업을 죽일 수 있음. AI 미래는 안전에 대해 전전긍긍해서 이기는 것이 아님. 구축함으로써 이기는 것임."
• 프로그램 소개: 마가렛 후버(Margaret Hoover)의 "파이어링 라인(Firing Line)" 및 후원사 소개.
• 인터뷰 시작 (페이페이 리 & 마가렛 후버):
  • Q: 현재 AI는 얼마나 지능적인가?
    • A: 매우 지능적임. 하지만 아직 인간처럼 생각하지는 못함. 빠르게 발전 중. 언어 지능 같은 일부는 매우 발전했지만, 감성 지능이나 인간 고유의 창의성 등은 인간에 비할 바 아님.
  • Q: "이 기술에 '인공적(artificial)'인 것은 없다"고 쓴 의미는? (인간이 만들고, 인간처럼 행동하도록 의도됐으며, 인간에게 영향을 미침)
    • A: 인간에게 미치는 영향, 상호작용, 우리 세계와 삶에 대한 영향력. 이것들은 인공적이지 않음.
  • Q: 새 교황 레오 14세는 AI의 인류 기여에 대해 낙관적이지 않음. (산업 혁명을 겪은 레오 13세의 이름을 따름). 그는 "AI 분야의 발전이 인간의 존엄성, 정의, 노동 수호에 새로운 도전을 제기한다"고 말함. 그의 지적에 일리가 있나?
    • A: 절대적으로 동의함. 기술이 무엇을 할 수 있든, 인간의 존엄성(human dignity)은 문명의 중심임. 이것이 내가 스탠포드 인간 중심 AI 연구소를 공동 설립한 이유. 기술은 항상 양날의 검이며, 스스로 선하거나 악한 일을 하지 않음. 양쪽으로 사용될 수 있음.
  • Q: 당신은 AI에 대해 이상적인 전망을 가졌고, 인간 조건을 향상시키기 위해 인간 중심이 될 수 있다고 확신하는 듯함. AI가 어떻게 인간 조건을 향상시킬 수 있나?
    • A: AI는 도구임. 인류는 대체로 삶과 일을 더 낫게 만들 의도로 도구를 발명함. AI도 마찬가지. 약 12년 전, AI 과학자로서의 책임을 생각함. 코드 코딩이나 컴퓨터 과학 기술 개발을 넘어, 이 기술로 선을 행할 책임이 있음을 깨달음.
    • 예시: AI는 신약 개발, 환자 안전 증대, 생물 다양성 지도화, 신소재 발견, 사회 과학자들의 방대한 데이터 분석(경제 작동 방식 이해) 도움, 정부 효율성 증대 등에 기여 가능함.
  • Q: 당신은 2018년 뉴욕 타임스에 "인간의 관심사에 의해 인도되어야 한다"고 썼음. AI의 편향성에 대해 우려해왔음. (예: 흑인을 고릴라로 잘못 분류, 어두운 피부의 보행자를 덜 감지하는 자율주행차, 인종차별적/성차별적 이미지 생성). AI 분야에 여성이나 유색인종이 많지 않은데, 이것이 알고리즘, 결과, 사회 전반에 영향을 미치나?
    • A: 전적으로 옳음. AI는 기술 시스템이며, 설계의 모든 단계에 사람이 관여함 (데이터 큐레이팅, 레이블링, 알고리즘 설계 등). 따라서 다양한 배경의 사람들이 더 많이 참여할수록, 그들의 통찰력, 지식, 다운스트림 애플리케이션에 대한 감성적 이해가 시스템의 입력에 영향을 미침.
  • Q: 현재 다양성, 형평성, 포용성(DEI) 프로그램을 없애려는 강한 압력이 있음. 이런 상황에서 (다양한 입력을 생각하는 것이) 흐름을 거스르는 것 아닌가?
    • A: 우리 모두는 더 나은 세상을 원함. 더 많은 사람이 혜택받고 참여하기를 원한다는 상식적인 가치를 믿음. 물론 이 믿음을 어떻게 실행으로 옮길지가 문제.
    • 여전히 가능한 한 많은 사람을 참여시켜야 함. 시골, 도심, 예술가, 이민자, 소녀, 미래의 언론인, 변호사, 의사 등 모든 배경의 학생들이 AI를 배우고 이 기술에 대해 발언권을 가져야 함.
  • Q: 인간 중심 AI 접근법의 일환으로 커뮤니티 협업과 다양한 이해관계자를 언급했지만, AI 투자의 대부분은 민간 부문에서 나옴. "AI는 너무 중요해서 민간 기업만이 소유해서는 안 된다"고 말했는데, 이 문제를 어떻게 해결해야 하나?
    • A: 이 점에 대해 우려하고 있음. 한편으로 미국 민간 산업이 AI 기술을 활발히 개발하고 사람들에게 도움이 되는 제품으로 만드는 것에 자부심을 느낌.
    • 반면, 오늘날 민간 부문의 활력은 지난 수십 년간 연방 정부, 공공 부문, 학계, 민간 부문이 협력하여 기술을 성장시킨 건강한 생태계의 결과임.
    • 이 생태계는 건강한 계주 경기와 같음. 공공 부문과 학계가 첫 번째 배턴(기초 과학 연구)을 받고, 더 발전하면 산업계에 전달하며, 결국 사회 구성원 모두가 혜택을 봄.
  • Q: 지금 모델은 그 반대인가?
    • A: 대학의 자원이 고갈되고 있음. 칩은 대학에 없고, 데이터도 대학에서 거의 사용할 수 없으며, 많은 인재가 산업계로만 가고 있음. 학계로 충분한 자원이 돌아오지 않음.
    • 훈련의 상당 부분이 대학에서 이루어지기 때문에 걱정됨. 오늘날 빅테크 기업의 인재 대부분도 학계 프로그램(컴퓨터 과학 교육, PhD, 석사 과정) 출신임. 우리는 여전히 이것이 필요함.
  • Q: 대학 자원 고갈 외에 정부 투자의 역할은?
    • A: 기초 과학에 대한 정부의 투자는 우리 국가와 사회에 근본적으로 중요함. 학계의 호기심 기반 연구는 공공재를 생산함.
    • 공공재는 지식 확장, 과학적 발견, 인재의 형태를 띰. 학생들이 대학에서 최고의 연구자들 밑에서 배우고, 최신 지식을 얻는 것은 사회에 근본적으로 중요함.
  • Q: 이 시스템이 위험에 처했다고 보나?
    • A: 거의 10년 동안 이 말을 해왔음. 몇 년 전부터 자원 고갈을 목격하고 있으며, 계속 걱정하고 있음. 균형 잡힌 생태계를 옹호함.
    • 민간 부문의 성과도 기쁘지만, 스탠포드의 동료들이 암 치료법을 발견하고, 뇌 작동 방식을 밝히고, 고래의 대화를 듣고 이동 경로를 이해하는 것에도 똑같이 기쁨. 이것들은 계속 필요한 중요한 지식과 과학적 발견임.
  • Q: 올해 초 "공상 과학이 아닌 과학에 기반하여 통치하는 것이 필수적"이라고 말했음. AI 거버넌스의 잘못된 접근 방식의 예는?
    • A: 과장에서 시작하는 것. "이 기술이 인류를 종말시킬 것이다" 또는 "이 기술은 유토피아일 뿐이며 AI로 잘못될 것은 아무것도 없다"는 식의 과장.
    • 이 두 가지는 어떤 기술에도 거의 존재하지 않음. 인간이 불을 발견했을 때도 치명적일 수 있었지만, 초기 인류의 삶과 식습관을 바꿔 더 강하게 만들었음. 모든 기술은 양날의 검. 과장에 초점을 맞추고 그런 렌즈를 통해 정책을 추진하는 것은 건설적이지 않음.
  • Q: AI 거버넌스는 "유해한 결과로부터 보호하고 자비로운 사용을 보장해야 한다"고 썼음. 정책 입안자들에게 실제로 어떻게 조언하나?
    • A: 스탠포드 인간 중심 AI 연구소에서 많이 논의하는 주제임. 애플리케이션에 초점을 맞추고 기술의 안전한 전달을 위한 가드레일을 보장하는 실용적인 접근 방식이 좋은 출발점.
    • 예: 의학. FDA라는 규제 프레임워크가 있음. 완벽하진 않지만 소비자를 안전하게 보호함. AI가 식품, 의약품 분야에 더 큰 영향을 미치게 되면, 이러한 변화에 맞춰 FDA를 업데이트해야 함.
    • 더 좋은 예: 교통. 자율주행차에 가까워지고 있으므로, 가드레일과 책임 소재를 이해할 수 있도록 규제 프레임워크를 업데이트해야 함.
    • 잠재적 해가 있다고 해서 자동차 생산을 중단해서는 안 됨. 100년 전에는 지금보다 치명적인 자동차 사고가 더 많았음. 하지만 GM이나 포드를 폐쇄하는 대신, 안전벨트와 속도 제한을 만들었음. 좋은 규제 프레임워크는 기술의 유용성을 안전하게 유지하면서 혁신을 지속적으로 장려함.
  • Q: 그 완벽한 균형을 실제로 어떻게 구현하나?
    • A: 교육과 대화로 시작함. 과장된 목소리가 증폭되고 대중이 극단적인 이야기만 듣게 될 때 매우 걱정됨. 기술 세계와 정책 세계 간에 많은 교육과 대화가 필요.
    • 그래서 우리 연구소(HAI)가 워싱턴 DC에 가서 초당파적으로 정책 입안자 및 의원들과 대화함. 이것은 정치적 주제가 되기에는 너무 중요함. 정책이 만들어지는 과정에 기술 전문가들을 참여시켜야 함.
  • Q: 1990년대 인터넷이 등장할 당시 이 프로그램("파이어링 라인")의 원조 버전에서도 이 문제를 다뤘음. 1996년 존 발로(John Barlow, 시인/에세이스트, 사이버 자유지상주의자)의 인터넷 찬가 영상을 보겠음.
    • [영상 클립] "나는 사이버스페이스에서 왔음.... 지구 전체와 빠르게 증가하는 인구를 포함하는 사회적 공간이 존재함. 그 안에는 문화가 있고, 아이디어 교환과 자유 시장이 있음. 그들은 미국 의회의 과도한 간섭에 취약하지 않음. 우리는 미국 의회가 인류의 나머지에게 강요하려는 모든 것으로부터 자유롭고 주권적임."
  • Q: 그 시대를 돌아보면, 정책 입안자들의 실수 중 하나는 인터넷, 소셜 미디어, 프라이버시 위협, 민주주의 위협 등에서 발생할 실제 위험을 예측하거나 처리할 메커니즘이 없었다는 것임. 이 시대에서 AI 시대의 규제 프레임워크와 거버넌스에 대해 어떤 교훈을 얻을 수 있나?
    • A: 놀라운 회고임. 희망을 갖고 기술을 선하게 사용하려는 것은 좋지만, 어떤 기술이든 사람에게 해를 끼칠 수 있음을 알아야 함. 순진해서는 안 됨.
    • (당신이 나를 이상주의자라고 불렀지만) 나는 실용주의자(pragmatist)임. 이 기술의 잠재적 해악을 절대적으로 고려해야 함.
  • Q: JD 밴스 부통령은 올해 초 국제 AI 서밋에서 과도한 규제가 AI 산업을 위축시킬 수 있다고 경고했음. ("AI 미래는 안전에 대해 전전긍긍해서 이기는 것이 아님. 구축함으로써 이기는 것임.") 정부가 AI 정책을 만들 때 혁신과 안전의 균형을 어떻게 생각해야 하나?
    • A: 업스트림(upstream)의 과학적 발견과 연구는 장려되는 거버넌스 모델을 원함. 그것이 사회의 혁신 엔진이기 때문.
    • 하지만 기술이 소비자, 사용자, 중소기업의 손에 가까워질수록, 과도한 해를 끼치지 않도록 가드레일을 설치해야 함.
  • Q: 올해 초 중국 스타트업 딥시크(DeepSeek)가 미국에서 개발된 모델을 훨씬 저렴한 비용으로 능가하는 챗봇을 공개했음. 워싱턴 정책 입안자들은 중국이 AI 개발에서 미국을 앞지를 수 있다고 우려함. 이러한 발전이 어디에서 이루어지는지가 중요한가?
    • A: 우리가 어떤 가치를 중시하는지가 중요함. 그래서 내가 계속 '인간 중심 AI'로 돌아오는 것임. "독립적인 기계 가치는 없다. 기계 가치는 인간 가치다"라는 말을 좋아함.
    • 만약 우리가 존엄성, 주체성(agency), 자유를 믿는 사회라면, 이러한 가치를 해치지 않는 기술을 만들어야 함.
  • Q: 샘 알트먼(Sam Altman)은 상원의원들에게 "미국이 주도하는, 자유와 투명성 같은 민주적 가치에 기반한 AI 버전이 권위주의적 버전을 이긴다면, 미래는 상상할 수 없을 정도로 밝을 수 있다"고 말함. 동의하나?
    • A: 민주적 가치가 매우 중요하다고 절대적으로 믿음.
  • Q: 중국군은 이미 딥시크를 비전투 임무에 통합하기 시작했다고 함. 세계에서 가장 진보된 군대가 이 강력한 도구를 배치할 때, 항상 인간 중심을 우선시하지는 않을 것임. 무엇이 가장 우려되나?
    • A: 솔직히 AI에 대해 많은 우려가 있음. 국가 안보에 초점을 맞춘다면, 물론 AI가 사람들에게 해를 끼치는 것을 걱정함. 아무도 해악, 전쟁, 가족 해체를 원하지 않음.
    • 나는 프린스턴에서 물리학도였음. 아인슈타인에게 영감을 받음. 기술이 전쟁에서 사람들에게 해로워질 수 있음을 보았음. 당연히 그런 것을 보고 싶지 않음.
    • 동시에 AI가 사람들을 뒤처지게 하는 것, 즉 사회경제적 웰빙도 걱정됨. 걱정되는 것이 많음.
  • Q: 당신은 어머니이기도 함. 구글이 최근 제미나이(Gemini) 챗봇을 어린이들에게 제공한다고 발표했음. 많은 안전장치가 있지만, 여전히 원치 않는 콘텐츠를 접할 수 있다고 경고함. AI는 아이들 손에 쥐어줄 준비가 되었나?
    • A: 일반적으로 학습자라면 누구나 AI를 도구로 사용해야 한다고 생각함. 우리 아이들은 태어날 때부터 배움.
  • Q: 학생들이 과제나 숙제 부정행위에 챗봇을 과도하게 의존한다는 보도를 어떻게 막을 것인가? 챗봇과 AI가 독립적 사고와 비판적 사고 발달을 저해한다는 비판이 있음.
    • A: 만약 그런 일이 생긴다면, 그것은 학생의 실패가 아니라 교육의 실패(failure of education)임.
    • 우리가 책임감 있는 도구 사용법을 가르친다면, 학생들은 AI, 계산기, 컴퓨터로 인해 더욱 강력해질(superpowered) 것임.
    • 어머니로서 우리는 아이들에게 불 사용법을 가르침. 스토브 켜는 법을 가르치는 날을 생각해보면 무섭지만, 가르쳐야 함. 불의 유용성과 해악을 모두 배워야 함. AI도 마찬가지.
    • "학생들이 부정행위를 한다"에만 초점을 맞추는 것은 건설적이지 않음. 우리가 잘 가르치지 않고, 그들이 건설적인 도구 사용법을 아는 학습 환경을 만들지 않으면 부정행위를 하는 것임. AI를 아이들의 학습과 교실에 절대적으로 통합해야 함. 이것은 우리에게 유용한 도구임.
  • Q: 마지막 질문. 헨리 키신저(Henry Kissinger)는 2018년 AI에 대한 에세이에서 "우리가 향하는 세상에 대한 가장 어렵지만 중요한 질문은 이것이다: 만약 AI가 인간의 설명력을 능가하고, 사회가 더 이상 자신들이 거주하는 세계를 의미 있는 용어로 해석할 수 없게 된다면, 인간의 의식(human consciousness)은 어떻게 될 것인가?"라고 물었음. AI로부터 얻을 수 있는 모든 것에도 불구하고, 우리는 인간성의 근본적인 무언가를 잃을 위험에 처해 있나?
    • A: 훌륭한 질문임. 이는 '주체성'이라는 단어와 연결됨.
    • 만약 우리가 포기한다면, 그렇게 될 것임. AI뿐만 아니라 권위주의에, 해로운 방식의 인터넷에 굴복한다면, 우리는 주체성을 잃을 것임. AI도 마찬가지임. 우리는 주체성을 포기해서는 안 됨.
• 클로징: 페이페이 리 박사에게 감사 인사.
• 프로그램 후원사: "파이어링 라인" 후원사 재언급.
• 종료: (음악) - [Announcer 2] You're watching PBS.