AI가 모든 것을 바꿀 것이다! 페이페이 리 박사와 함께

소개

호스트(Hala)가 스탠퍼드 대학교 컴퓨터 과학 교수이자 스탠퍼드 인간 중심 AI 연구소 공동 소장인 페이페이 리 박사를 소개함. 이 대화의 주제는 컴퓨터 비전을 통한 'AI를 위한 눈' 개발임. 호스트는 AI에 대한 잘못된 정보에 기반한 대중 담론이 위험하다고 지적하며, "AI가 눈을 갖게 되면 살아있거나 지각이 있는 존재가 되는 것인가?"라는 철학적 질문을 던짐. 리 박사는 AI가 나쁜 용도로 사용될 수 있으며 매우 잘못될 가능성이 있다는 두려움을 인정함.

호스트(Yap Gang)는 'AI의 대모'인 리 박사를 환영하며, 리 박사의 신념(AI는 인류의 웰빙을 향상하고 강화해야 함)을 강조함. 이 대화에서는 컴퓨터 비전 모델 훈련 방식, 능력과 한계, 그리고 필수적인 AI 윤리 문제를 다룰 예정임. 또한 AI가 생명을 구하고, 질병을 발견하며, 구조 임무를 돕는 사례와 더불어, AI가 인간에게 유리하게 작동하기 위해 필요한 위험과 안전장치에 대해 논의할 것임.

AI 개발 현황: 가능한 것과 불가능한 것

호스트는 AI의 발전 과정, 현재 능력과 한계에 대해 질문함.

리 박사는 AI 과학자조차 AI의 진보를 따라잡기 어렵다고 느낌. AI는 약 70년 된 젊은 분야지만 매우 빠르게 발전 중임.

가능한 것

AI는 이미 우리 주변 모든 곳에 존재함.
AI의 다른 이름은 머신러닝(ML)임.
머신러닝은 컴퓨터 프로그램이 데이터를 기반으로 예측하거나 결정하는 모델을 더 잘 만들도록 반복하고 학습하는 수학적 모델임.
예시: 아마존 앱 추천, GPS 경로 매핑, 넷플릭스 추천, 영화 특수 효과 및 애니메이션 제작 등이 모두 머신러닝/AI를 활용함.

불가능한 것

물리적 작업: 빨래 개기, 오믈렛 요리하기 등은 불가능함.
복잡한 인간의 추론: AI는 복잡한 인간 수준의 추론을 할 수 없음.
인간 방식의 창조: 추론, 논리, 아름다움, 감정이 결합된 인간 방식의 창조는 불가능함.
1970년대 인용구: "가장 진보된 컴퓨터 AI 알고리즘이라도 방에 불이 났을 때 여전히 훌륭한 체스 수를 둘 것이다.".
의미: 기계는 특정 작업을 수행하도록 프로그래밍되어 있음. 반면 인간은 자신의 생각, 감정, 주변 상황에 대해 유동적이고 유기적이며 맥락적인 인식을 가짐. 오늘날의 AI는 그렇지 않음.

AI vs. 머신러닝

호스트는 머신러닝이 AI의 기본이나 도구처럼 보인다고 언급함.

리 박사는 뉴턴 시대의 물리학(분야)과 미적분학(도구) 관계에 비유함.

AI (인공지능): 기계가 인간처럼 생각하게 만드는 기술을 연구하고 개발하는 과학 분야임.
ML (머신러닝): AI 분야에서 주로 사용되는 수학적/컴퓨터 과학 도구이며, 특히 신경망 알고리즘이 지배적임.

AI 학습 방식 (ChatGPT 예시)

호스트는 스티븐 울프럼 박사와의 인터뷰를 언급하며, ChatGPT가 간단한 규칙에서 복잡성을 생성하고 인간처럼 글을 쓰는 능력에 놀라움을 표함. 우리가 AI를 만들었지만 그것이 어떻게 학습하는지 완전히 이해하지 못하는 점에 의문을 제기함.

리 박사는 AI가 완전히 흰색 상자(이해 가능)도 검은색 상자(이해 불가능)도 아닌 '회색 상자'(Gray Box)라고 답함.

우리가 아는 것

ChatGPT 같은 모델은 신경망 알고리즘(예: 트랜스포머 모델)에 기반함.
모델은 방대한 문서 데이터를 통해 단어(또는 하위 단어) 간의 패턴과 연결을 학습함. (예: "how" 뒤에 "are"가 오고, 그 뒤에 "you"가 오는 경향).
이 패턴 예측 능력은 거대한 신경망에서 학습되며, 이를 통해 인간과 유사한 대화가 가능해짐.
모델은 훈련 데이터 속 방대한 지식(화학, 영화 리뷰 등)을 '암기'하여 좋은 답변을 제공함.
우리는 알고리즘 작동 방식, 훈련 필요성, 패턴 학습 및 예측 사실을 앎.

우리가 모르는 것

모델은 수천억 개의 매개변수로 매우 거대함.
우리는 이 수십억 개의 매개변수가 정확히 어떻게 패턴을 학습하고 저장하는지 모름.
왜 때때로 부정확한 정보(환각)를 생성하고, 왜 정확한 답을 내놓는지 그 이유를 모름.
특정 순간에 AI가 왜 다른 단어가 아닌 특정 단어를 선택했는지 정확히 설명하는 수학적 방정식이 아직 없음.
이것이 '회색성'임: 수학적으로 정확히 설명되지 않는 행동을 보이는 대형 모델.

신경망 vs. 인간 두뇌

호스트는 신경망이 인간 두뇌를 '복제'하는 것인지 질문함.

리 박사는 '복제'가 아니라 '영감'을 받은 것이라고 강조함.

유사점: 작은 노드들로 만들어지고, 계층적으로 연결됨.
차이점: 인간 두뇌는 화학적-전기적 방식으로 작동하며, 뉴런 소통(스파이크, 화학 물질 방출)이 훨씬 복잡하고 미묘함. 뇌 영역 간의 연결 방식도 신경망과 동일하지 않음.

AI 모델 훈련 방식

리 박사는 AI 학습이 방대한 양의 데이터로 시작한다고 설명함.

지도 학습: 인간이 '고양이', '개'처럼 이미지에 라벨을 붙인 데이터를 사용함. AI가 패턴과 라벨을 연관 짓는 법을 배움.
자기 지도 학습: (주로 언어 모델) 라벨 없이 수조 개의 문서를 제공. AI가 데이터 속 단어 시퀀스를 기반으로 다음 단어 예측을 학습함.

훈련 과정

데이터가 알고리즘에 입력됨.
알고리즘은 '목표'(예: 다음 단어 정확하게 예측)를 가짐.
훈련 중 실수(예측 오류)가 발생하면, 알고리즘은 되돌아가서 수학적 규칙에 따라 매개변수를 반복적으로 업데이트함.
중지 기준(예: 인간이 멈춤)에 도달할 때까지 이 과정이 반복됨.
결과: 방대한 데이터로 훈련되고, 학습된 매개변수를 가진 거대한 신경망이 생성됨.
사용: 이 훈련된 모델에 새로운 문장(입력)을 넣으면, 모델이 학습된 매개변수를 사용해 적절한 응답(출력)을 예측함.

ChatGPT: 언어 vs. 수학

호스트는 ChatGPT가 인간 언어는 잘하지만 간단한 수학에서 실수하는 이유를 질문함.

리 박사는 인간이 수학을 하는 방식과 언어를 사용하는 방식이 다르기 때문이라고 답함.

언어: 순서에 따른 명확한 통계적 패턴이 있음 (예: "how" 다음 "are").
수학: 단순한 순서 패턴을 따르지 않음 (예: "1 +" 뒤에 빈도만으로 다음 숫자가 오지 않음). "1+2=3"이라는 더 깊은 규칙이 존재함.
수학은 단순한 통계적 패턴을 따르는 것보다 더 높은 수준의 '추론'을 요구함.
대형 언어 모델(LLM)은 대체로 통계적 패턴을 따르므로, 수학적 추론이 부족할 수 있음.

리 박사의 책: "내가 보는 세상" (The Worlds I See)

호스트는 책 제목 "내가 보는 세상"의 의미를 질문함.

리 박사는 책을 쓰는 여정이 여러 다른 경험의 '세계'를 들여다보는 과정이었다고 말함.

AI의 세계: 과학자로서의 성장기 및 과학을 경험한 세계.
이민자로서의 세계: 세계 여러 지역에서 삶을 살아간 경험.
인간으로서의 세계: 편찮으신 부모님을 돌본 여정. 이 경험이 인격을 형성하고, 과학을 (그런 경험이 없는 다른 과학자들과) 다른 시각으로 보게 만들었다고 함.
이 책은 이 서로 다른 세계들이 혼합된 이야기임.

AI의 사회적 측면

호스트는 리 박사가 말하는 AI의 '사회적 측면'이 무엇인지 질문함.

리 박사는 처음엔 순수한 과학적 호기심(기계가 생각하고 보게 만들기)으로 AI를 연구했다고 함.

변화 (2017-2018년경): AI가 성숙기에 이르러 사회에 실질적인 영향을 미치고 있음을 깨달음.
AI는 인간의 사고와 행동에서 영감을 받았기에, 개인과 사회에 막대한 인간적 함의를 가짐.
선택: 리 박사는 단순히 연구실에 머무르는 대신, 과학자, 교육자, 시민으로서의 '사회적 책임'을 다하기로 선택함.
책임의 내용:
1. 교육: 젊은 세대에게 코딩뿐 아니라 AI의 사회적 영향을 가르침.
2. 소통: AI에 대한 (특히 LLM으로 인해 심화된) 잘못된 대중 담론은 위험하고 불공평함(특히 권력 없는 이들에게). 올바른 정보를 전달해야 함.
3. 기관의 책임 (스탠퍼드): 정책 입안자, 시민 사회, 기업 등을 교육하고 통찰력을 제공하여 세상을 더 나은 곳으로 만드는 데 기여.
이것이 현실 세계를 만나는 '지저분함'이며, 피해서는 안 된다고 느낌.

컴퓨터 비전

호스트는 컴퓨터 비전이 무엇이며 왜 흥미를 느꼈는지 질문함.

정의: AI의 일부로, 컴퓨터가 '보고' '본 것을 이해하게' 만드는 분야.
심오함: 인간은 세상을 볼 때 단순히 색이나 형태가 아닌 '의미'(예: 책상 위 컵, 휴대폰, 약)를 봄. 또한 인간은 시각적으로 그림, 조각, 건축 등 '창조'를 함.
컴퓨터 비전은 컴퓨터에 이렇게 보고, 창조하고, 이해하는 내재적 능력을 부여하고자 함.

시각, 의식, 그리고 지각

호스트는 의식이 있는 모든 것(벌레, 물고기)이 눈을 가졌다는 사실이 무섭다며, AI가 눈을 가지면 살아있거나 지각 있는 존재가 되는 것인지 질문함.

리 박사는 시각 감지가 5억 4천만 년 전 동물에게서 발달하기 시작한, 진화적으로 매우 오래되고 지능 발달에 내재된 능력임을 인정함.

철학적 질문: 하지만 "눈을 가진 모든 것이 의식을 가졌는가?"는 다른 문제. (예: 작은 새우가 바위를 보고 피하는 것이 의식인가, 아니면 단순한 감각 반사인가? 리 박사는 답을 모름).
명확화: 따라서 '보는 것' 자체가 '의식'을 의미하지는 않음.
단서: 하지만, 인간이 가진 수준의 시각 지능(이해, 창조, 복잡성 표현)은 (적어도 인간에게는) 의식을 필요로 함.
호스트는 새우의 예시가 기계가 눈을 갖는 것에 대한 두려움을 덜어준다고 말함.

생물학적 시각의 재현

호스트는 컴퓨터가 생물학적 시각을 어떻게 '복제'하는지 질문함.

리 박사는 '복제'가 아닌 '생물학적으로 영감'을 받은 것이며, 이는 두 가지 영역에서 나타난다고 설명함.

알고리즘 영감: 오늘날 신경망 알고리즘 자체가 1950-60년대 고양이 시각 시스템(계층적 뉴런) 연구에서 영감을 받아 구축됨. 동물의 시각적 뇌 구조가 AI 기술의 기초적인 영감임.
기능성 영감: 인간은 모든 색 파장을 보는 데는 뛰어나지 않지만, 대신 '의미'와 '감정'을 봄. 이러한 기능들을 기계에 구현하려는 시도에서 영감을 받음.

응용 분야

시각 장애 환자가 세상을 이해하도록 도움.
단순한 룸바(Roomba)를 넘어, 집안을 더 복잡하게 이해하는 청소 로봇.
구조 로봇: 후쿠시마 원전 유출 사고처럼 인간에게 위험한 재난 지역에 투입되어 깊은 시각 지능으로 임무를 수행.

인간 중심 AI (Human-Centered AI)

호스트는 이것이 리 박사의 '인간 중심 AI' 개념과 연결된다며 정의를 요청함.

정의: AI를 개발하고 사용할 때 인간, 인간의 가치, 인간의 존엄성을 중심에 두는 프레임워크.
목표: 인간에게 해로운 기술을 개발하지 않고, 기술을 선의의 방식으로 사용하는 것.
리 박사는 기술이 양날의 검이며 나쁘게 사용될 수 있음을 알지만, AI의 선한 개발과 사용에 집중해야 할 '집단적 책임'을 강조하기 위해 이 개념을 만듦.
기원: 2018년경 업계(안식년)에서 AI의 거대한 비즈니스 기회와 그것이 모든 개인의 삶에 미칠 영향을 목격함. 스탠퍼드로 복귀하여, 고등 교육 기관으로서 이 기술의 최전선에서 올바른 관점을 제시해야 함을 깨닫고 이 프레임워크를 공식화함.

AI와 일자리

호스트는 AI가 모든 일자리를 대체할 것이라는 두려움에 대해 질문함.

리 박사는 먼저 '일자리'의 핵심 의미를 생각해야 한다고 말함.

일자리의 의미:
1. 인간 번영: 가족과 자신을 위한 재정적 보상.
2. 인간 존엄성: 돈 너머의 삶의 의미와 자존감.
기술 발전으로 일자리가 변화하는 것은 역사적으로 항상 있었지만, 번영과 존엄성에 대한 필요는 변하지 않음.
예: 헬스케어:
- 리 박사는 헬스케어 AI 연구를 진행함.
- 의료 종사자의 일은 '인간이 인간을 돌보는 것'이며, 이 감정적 유대와 존엄성은 결코 대체될 수 없음.
- 문제: 간호사들은 과로에 시달림.
- AI의 긍정적 역할: AI가 차트 작성, 약품 운반 같은 반복적이고 보람 없는 작업을 도와 의료진의 부담을 줄여준다면, 이는 인간의 존엄성을 보호하고 인간의 능력을 '증강'시키는 것임.
AI 설계의 중요성:
- 리 박사 연구실은 로봇이 1000가지 일상 작업을 하도록 연구할 때, 인간이 도움을 원하는 작업에 초점을 맞춤.
- 인간이 원하지 않는 작업: 결혼반지 사기, 크리스마스 선물 열기 (감정, 유대감이 중요).
- 인간이 원하는 작업: 화장실 청소 (모두가 로봇의 도움을 원함).
- 핵심은 인간이 소중히 여기는 것을 대체하는 것이 아니라, 인간에게 유익하고 환영받는 기술을 만드는 것임.
정책적 차원: 기술자들은 모든 것을 알지 못하며, 정책계, 법률계, 경제학자 등과 협력하여 AI의 영향을 이해해야 함. 스탠퍼드 '디지털 경제 랩'이 이 역할을 함.

인간 중심 AI의 세 기둥

호스트가 인간 중심 AI 프레임워크의 세 기둥에 대해 질문함.

리 박사는 이것이 스탠퍼드 같은 고등 교육 기관이 할 수 있는 '사상 리더십'에 대한 프레임워크라고 설명함.

학제간 본성: AI의 본성을 인식하고, 다중 이해관계자 연구, 교육, 정책을 통해 AI가 사회 구조에 '선의로' 내재되도록 보장.
인간 증강: 인간의 능력, 웰빙, 존엄성을 빼앗는 대신 '향상시키는' 기술을 창조.
인간 지능으로부터의 영감:
- 인간과 '호환되는' AI 기술 개발. 오늘날 AI는 감정, 의도, 공감 등 인간 지능의 풍부함이 부족함.
- 효율성 영감: AI는 에너지 효율 면에서 인간보다 훨씬 나쁨. 인간 두뇌는 약 20와트(매우 희미한 전구)로 피라미드 건설, E=mc² 발견, 음악 작곡 등을 해냄. 반면 AI는 매우 에너지 소모가 크고 거대함. 인간 지능은 차세대 AI가 더 효율적이 되도록 영감을 줄 수 있음.

초지능(Apex Intelligence)에 대한 두려움

호스트는 AI가 인간보다 똑똑해져 세상을 장악할 것이라는 두려움(초지능)에 대해 질문함.

리 박사는 "두려움이 있다"고 인정함.

우리 문명은 선과 악의 투쟁으로 정의되며, 인간 DNA에는 선함과 "악함"이 모두 존재함.
두려움: 기술로서의 AI가 그 "악함"에 의해 사용될 수 있다는 점.
대처법: 선의의 사용을 옹호하고, 악함과 싸우기 위해 이 기술을 사용하며, 건설적으로 도움이 되려 노력함.
AI에 대한 희망은 결국 인간에 관한 것임 (마틴 루터 킹 인용: 역사의 활은 정의를 향해 휨).
현실적 위험: 우리는 '지각 있는 AI'까지 기다릴 필요도 없음. AI가 악의적 행위자나 소수 권력자의 손에 집중되면 매우 잘못될 수 있음.
예시: 오늘날 기술로도, 나쁜 마음을 먹은 자동차 제조사가 브레이크를 오작동시키거나 보행자를 치도록 프로그래밍하는 것이 (기술적으로) 가능함.
이것이 일어나지 않는 이유: (1) 인간 본성은 대체로 선함 (2) 법과 사회적 제약이 있음 (3) 선한 방향으로 교육하려 노력함.
결론: AI가 나쁜 짓을 하지 않도록 보장하기 위해 AI 분야에서도 동일한 '노력'이 필요함.

AI-자연 비유 (스티븐 울프럼)

호스트는 스티븐 울프럼의 비유(우리는 이미 통제 불가능하고 복잡하며 우리보다 '똑똑한' 자연과 공존하고 있음. AI도 이와 같을 수 있음)를 소개함.

리 박사의 반응:

흥미로운 표현.
동의하는 점: 인간이 복잡하고 강력한 것들과 '공존'할 방법이 있다는 아이디어.
동의하지 않는 점: 자연은 AI가 아님. 자연은 프로그래밍 불가능하며, 집단적 의도(예: 지구가 더 커지고 싶어 함)가 없음.
비유 확장: 우리는 또한 우리보다 강하고 똑똑한 다른 '인간'들과도 공존함 (대체로 서로 죽이지 않음).
경고: 하지만 여기서도 우리는 인간 본성의 어둠(서로 해를 끼침)을 목격함.
과제: 우리의 지능을 닮은 기계를 만들 때, 그것이 우리에게 비슷한 해를 끼치는 것을 방지하고 우리 내면의 더 나은 부분을 이끌어내야 함.

젊은 기업가들을 위한 조언

호스트가 AI 시대를 받아들일 젊은 기업가들에게 조언을 요청함.

리 박사의 조언:

"내가 보는 세상"(리 박사 저서)을 읽을 것: 이 책은 젊은이들을 위한 '성장기'이며, 핵심 주제는 자신의 '북극성'(열정)을 찾고 모든 역경에 맞서 그것을 쫓는 것임. 이것이 기업가 정신의 핵심임.
AI를 도구로 볼 것: AI는 엄청나게 강력하고 '수평적인' 도구임. AI는 비즈니스에 힘을 주거나, 제품의 핵심이 되거나, 경쟁력을 유지시킬 수 있음.
스스로 교육할 것: AI에 대해 모른다면 반드시 배워야 함. AI는 (당신이나 당신의 경쟁자에게) 유리하게 작용할 가능성이 높기 때문임.

10년 후(2034년)의 비전

호스트가 10년 후의 '인간 중심 AI 세계'와 '그렇지 않은 세계'를 그려달라고 요청함.

인간 중심 세계 (2034):
- (불완전하지만) 강력한 민주주의와 개인의 존엄성을 믿는 오늘날의 북미 세계와 크게 다르지 않음.
- AI가 과학적 발견, 자율주행(교통 약자 보조, 체증 감소), 개인화된 교육, 의료 종사자 역량 강화, 질병 치료법 발견, 고령화 문제 완화, 효율적 농업, 기후 해결책 등에 긍정적으로 기여함.
디스토피아 세계 (2034):
- AI가 민주주의를 무너뜨리는 나쁜 도구(특히 '허위 정보')로 사용됨.
- AI가 국가나 개인 등 소수 권력에 '집중'됨. 사회는 그 권력의 의지에 종속됨.
- 역사가 보여주듯, 집중된 권력은 항상 나쁘며, '집중된 권력 + 강력한 기술'은 결코 선을 위한 조합이 아님.

결론

호스트는 AI 세계를 선하게 형성하도록 돕는 리 박사에게 감사를 표하며, 더 많은 정보를 얻을 곳을 질문함. 리 박사는 자신의 책과 '스탠퍼드 인간 중심 AI 연구소'의 뉴스레터 및 웹사이트를 확인하길 권함.