대담 주요 내용
1. 샘 알트먼의 성장 과정과 창업 전 이야기
- 고등학생 시절: 평범한 컴퓨터 '너드'였으며, 프로그래밍을 배우고 친구들과 어울리며 스포츠(수구, 수영, 펜싱 등)를 즐김. 당시 특별한 걱정 없이 일상을 보냄.
- 대학 선택 및 생활 (스탠포드): 컴퓨터 과학을 공부하고 싶어 스탠포드를 선택. CS 수업 외에도 다양한 분야의 수업(과학, 작문 등)을 들었던 것이 훗날 큰 도움이 되었다고 언급. 특히 AI 랩에서 일하며 AI의 잠재력에 매료됨 (당시 AI는 주류가 아니었음). 가장 흥미로운 사람들은 CS 분야에서 찾았다고.
- 19세의 자신에게 하고 싶은 말: "세상에서 당신도 무언가를 해낼 수 있다. 허락을 기다리거나 특별한 자원이 없어도 놀라운 일을 성취할 수 있다." (본인은 19세 때 이를 몰랐고, 과소평가했으며 잘못된 일에 힘썼다고 회고)
2. Loopt 창업과 '끈질긴 자원 확보(Relentlessly Resourceful)'
- Loopt 창업: 19세에 첫 회사 Loopt(원래 Viendo)를 공동 창업. (패트릭 정이 첫 투자자) 04:04
- 난관 극복: 당시 무명의 스타트업으로서 대형 이동통신사와 계약을 맺기 위해 30번 이상 다른 경로로 접촉 시도. 결국 "그만 귀찮게 하라"는 말을 듣기 위해 만남이 성사되기도. 이는 폴 그레이엄의 "끈질기게 자원을 찾아라(be relentlessly resourceful)"라는 조언을 실천한 사례. 포기 시점에 대한 명확한 기준은 없으며, 판단의 문제라고 설명.
3. OpenAI 창업: 비영리 연구소에서 시작
- 창업 배경 (2015년): Y Combinator 대표 시절 이후 AI 분야에 뛰어들기로 결심. 당시 딥러닝의 가능성은 보였지만, 구체적으로 무엇을 해야 할지는 불분명. 초기에는 순수 연구소 형태로 시작하여 논문 발표, 아이디어 구상에 집중. 제품이나 수익 모델, 심지어 언어 모델조차 먼 미래의 이야기였다고.
- 초기 연구 방향의 어려움: 딥러닝이 규모에 따라 성능이 향상된다는 사실은 알았지만, 구체적으로 어떤 연구를 해야 할지 막막했음. DOTA 2 게임 AI, 루빅스 큐브 푸는 로봇 손 등 다양한 시도를 통해 딥러닝의 가능성을 탐색.
- 언어 모델로의 전환점: 알렉 래드포드(Alec Radford)의 비지도 학습 및 언어 모델 연구(아마존 리뷰 감정 분석 뉴런 발견)에서 큰 영감을 얻음. 이것이 GPT-1 개발로 이어짐.
- 풀타임 전념 계기: 언어 모델의 잠재력과 '스케일링 법칙'을 통해 AI가 예측 가능하게, 그리고 엄청나게 발전할 수 있다는 확신을 얻으면서 OpenAI에 풀타임으로 전념. 이 발견을 "살아있는 동안 접한 가장 중요한 새 지식"이라고 표현. 당시 이 중요성을 다른 사람들에게 설명하고 투자를 유치하는 데 어려움을 겪었다고 회고.
4. OpenAI의 제품 결정: ChatGPT의 기능과 한계
- 연구 방향 결정의 중요성: 제품 결정은 연구 방향 결정의 하위 문제. 어떤 연구를 추구하고 포기할지가 가장 어렵고 중요한 결정. 22:36
- ChatGPT 행동 설정의 어려움: ChatGPT가 어떤 요청을 거부하고 수용할지, 어떤 한계를 설정할지 등 '정렬(alignment)'에 관한 결정이 가장 어려운 제품 관련 문제. 22:54
- 사례: 법률 자문 제공 여부: 현재는 부정확성으로 인한 오용 가능성 때문에 대부분 제공하지 않음. 그러나 법률 자문을 받기 어려운 사람들에게는 불완전하더라도 도움이 될 수 있다는 딜레마 존재. 향후 모델이 발전하면, 사용자가 위험을 명확히 인지하고 선택할 수 있도록 하는 방안 고려.
- 사례: 폭력적인 콘텐츠 번역: 스페인어로 작성된 폭력 선동 글을 영어로 번역 요청 시 수용 여부. 이처럼 미묘한 경계에 대한 판단이 필요. 25:33
- 사회적 합의의 필요성: OpenAI가 단독으로 이러한 결정을 내리기보다, 사회 전체가 이 기술을 어떻게 사용할지에 대한 합의 과정이 필요하다고 강조. 기본 설정은 보수적일 수 있지만, 사용자가 사회적으로 합의된 넓은 범위 내에서 커스터마이징할 수 있어야 한다고 주장. 26:33
5. AGI(인공 일반 지능)와 사회적 영향
- AGI에 대한 변화된 비전:
- 초기 생각: AGI는 특정 임계점을 넘어 자기 개선하는 초지능으로, 탑 속의 마법 같은 존재. 28:02
- 현재 생각: AGI는 사회와 경제에 참여하여 개인의 생산성을 높이는 도구이자, 인간과 AI, 그리고 기술적 기반(scaffolding) 사이의 상호작용을 통해 창발되는 거대한 공유 지능. 단일 데이터센터나 AI 복제본에 존재하는 것이 아니라, 지능과 기술 트리의 광범위한 생산과 축적의 결과. 이는 훨씬 더 인간 친화적이고 관리 가능한 시나리오라고 평가.
- 오해와 진실: 사람들이 흔히 저지르는 실수는 AI 발전이 곧 정체될 것이라고 가정하는 것. 내부적으로는 발전이 계속 극적일 것으로 예상. 31:10
- 불평등 해소: AI로 인해 인지 노동 비용이 크게 낮아지면, 부유층보다 빈곤층에게 더 큰 혜택을 줄 수 있음. 양질의 의료 자문, 교육 등을 누구나 무료로 이용 가능하게 되어 불평등 감소에 기여할 것으로 기대. OpenAI의 사명 중 하나는 훌륭한 AI 도구를 (광고 없이) 무료로 제공하는 것.
- 컴퓨팅 접근성과 '컴퓨팅을 위한 UBI': 미래에는 컴퓨팅 파워와 에너지가 유일하게 중요한 상품이 될 수 있음. 이 경우, 컴퓨팅 접근성을 기본 인권으로 간주하고 '컴퓨팅을 위한 보편적 기본소득(UBI for compute)'을 제공하는 세상을 상상.
6. AI 시대의 경쟁, 교육, 에너지
- 경쟁에 대한 관점: 경쟁사를 완전히 무시하지는 않지만, 시장 점유율보다는 다음 패러다임과 위대한 아이디어를 찾는 데 집중. 매년 불가능하다고 여겨졌던 혁신을 이루는 것이 목표. 누군가 가능한 것을 알게 되면 빠르게 모방되는 것은 당연.
- AI 시대의 교육:
- AI 도구 활용 교육: 학교에서 AI 도구를 금지하기보다, 학생들이 효과적으로 사용하는 방법을 배우도록 장려해야 함. 이는 미래의 업무 방식.
- AI 기초 소양 교육: CS 비전공자도 CS 개론을 듣듯, 모든 대학 신입생이 GPT-2 수준의 모델을 직접 훈련해보는 경험을 통해 AI 스택에 익숙해지는 것이 유익할 것. (3년 안에 보편화될 것으로 예상)
- AI와 에너지 문제: AI 발전의 가장 큰 제약은 에너지. 지능의 비용은 궁극적으로 에너지 비용에 근접할 것. 핵융합, 태양광+저장 등 에너지 기술 발전에 대한 투자와 노력을 강력히 촉구. AI와 에너지는 미래를 위한 두 가지 핵심 요소이자 깊이 연관된 문제.
7. OpenAI 내부의 의견 불일치와 리더십
- 가장 격렬한 논쟁 지점:
- 제한된 자원(컴퓨팅, 인력)으로 어떤 연구 방향을 선택할 것인가와 같이 회사의 미래를 거는 중대한 결정.
- 또는, 다음 모델 이름을 무엇으로 할 것인가와 같은 매우 사소해 보이지만 중요한 문제.
- 과학적 진보와 책임감 (오펜하이머 관련 질문): 과학적 호기심만으로 세상에 큰 영향을 미칠 결정을 내려서는 안 됨. 그러나 어떤 결정이 중대한 영향을 미칠지 당시에는 알기 어려움. GPT-5 배포 여부와 같은 명백히 중요한 결정은 신중을 기하지만, 현재 사내에서 이루어지는 어떤 발견이 미래를 바꿀지는 예측 불가능. (나비 효과)
8. 대중의 오해와 OpenAI의 전략
- AI에 대한 가장 큰 오해: 모델이 얼마나 더 좋아질지에 대한 과소평가. OpenAI는 점진적 배포 전략을 통해 대중이 AI 발전에 점진적으로 적응하도록 유도.
9. 기타 (가벼운 질문)
- 바비 vs 오펜하이머: 오펜하이머. 52:45
- 틱톡 vs 인스타그램 릴스: 둘 다 별로지만 굳이 고르라면 틱톡. 53:01
- 영리 vs 비영리: 과거로 돌아간다면 영리 기업을 선택했을 것. 53:14
- 일론 머스크 vs 마크 저커버그 (격투 시합 승자 예상): 저커버그. 53:21
- 인간 vs 기계: 인간. 53:33
- 개인적 휴식 방법: 아무런 죄책감 없이 자연 속에서 걷거나 하이킹하는 것. 53:42
이 대담에서 샘 알트먼은 AI가 인류 역사상 가장 중요한 기술 중 하나이며, 그 발전 과정에서 신중한 접근과 사회적 논의가 필수적임을 강조했다. 그는 AI가 가져올 막대한 혜택을 낙관하면서도, 불평등, 오용 가능성 등 잠재적 위험에 대한 깊은 고민을 드러냈다.