주요 내용 상세 정리
- 인간과 AI의 차이, 그리고 9년 전 예측:
- 샘 알트만은 '유머', 미라 무라티는 '감정'을 인간을 정의하는 한 단어로 꼽음.
- 9년 전 샘 알트만은 AI가 데이터 분석은 잘하겠지만 판단력, 창의력, 공감 능력은 인간에 미치지 못할 것이라고 예측했었음. 현재 그는 이 예측이 부분적으로 맞고 부분적으로 틀렸다고 평가함.
- 과거에는 AI가 로봇 수술과 같은 정밀 작업은 잘해도 창의적인 작업은 못할 것이라는 인식이 지배적이었으나, 달리3(DALL·E 3)나 GPT-4가 보여주듯 AI는 예상보다 창의적인 작업(이미지 생성, 창의적 글쓰기)을 더 잘 수행하고 있다고 함. 하지만 여전히 인간 의사를 원하는 사람들의 선호는 변하지 않았다고 덧붙임.
- AGI(인공 일반 지능)의 정의와 목표:
- 미라 무라티: AGI는 여러 영역에 걸쳐 일반화할 수 있는 시스템으로, 인간의 작업과 동등한 수준의 생산성과 경제적 가치를 창출할 수 있는 단일 시스템이라고 정의함.
- 샘 알트만: 향후 수십 년간 인간의 상태를 개선하고 우리가 원하는 것을 더 많이 제공하는 데 가장 중요한 두 가지는 '풍부하고 저렴한 지능(AGI)'과 '풍부하고 저렴한 에너지'라고 강조함. AGI는 인류가 만든 최고의 도구가 되어 모든 종류의 문제를 해결하고, 새로운 창의적 표현을 가능하게 하며, 세상을 위해 놀라운 것들을 만들 것이라고 믿는다고 함. 변화는 쉽지 않겠지만 엄청난 긍정적 효과가 있을 것이라고 낙관함.
- AGI 도래 시점과 지능의 정의 변화:
- 미라 무라티: AGI가 언제 올지 정확히 예측하기는 어렵지만, 아마도 향후 10년 이내일 것이라고 예상함. 하지만 지능, 의식, 감각 등 인간의 지능을 기준으로 AI를 정의하는 것은 적절하지 않으며, AI는 다른 종류의 지능을 구축하는 것이라고 설명함. 체스, 바둑을 두던 AI에서 GPT 시리즈로, 그리고 그 이후로 AI의 지능 정의는 계속 진화하고 있다고 함.
- 샘 알트만: 과거에는 GPT-4나 GPT-5 수준이면 AGI라고 생각했을 사람들이 많았지만, 이제는 '그냥 좋은 챗봇' 정도로 인식하는 것처럼 목표 지점이 계속 바뀌고 있으며, 이는 더 열심히 노력하게 만드는 긍정적인 현상이라고 봄. AGI의 기준이 무엇이든 그 기준에 가까워지고 있으며, 10년 이내에 어떤 형태로든 도달할 가능성이 있다고 언급함.
- AGI와 '중간 수준 인간(Median Human)':
- 샘 알트만은 특정 분야의 전문가들은 오랫동안 AI 시스템보다 뛰어난 성과를 낼 것이지만, 자신이 전문가가 아닌 평범한 작업을 수행할 때는 미래의 AI 시스템이 큰 도움을 줄 수 있을 것이라고 설명함. '중간 수준 인간'은 특정 작업에 대해 평균적인 능력을 가진 사람을 의미하며, AI는 이러한 영역에서 먼저 인간의 능력을 넘어설 수 있다고 봄.
- GPT-5 개발 현황과 모델 발전 방향:
- 미라 무라티는 GPT-5 개발에 대해 구체적인 언급을 피하면서도, 항상 다음 기술을 개발 중이라고 답함.
- 과거에는 학문적 벤치마크를 기준으로 모델을 평가했지만, 이제는 실제 세계에서의 작업 수행 능력을 더 중요하게 본다고 함. 고객들이 특정 영역에서 어떻게 활용하고 비즈니스에 어떤 영향을 미치는지 실시간으로 확인하고 있다고 함. (GPT-4는 SAT, LSAT 등 시험에서 좋은 성과를 보임)
- 모델의 능력 향상과 함께 신뢰성과 안전성을 동시에 추구하는 것이 매우 중요하며, 이 두 가지는 밀접하게 연관되어 있다고 강조함.
- 다음 모델 개발에서는 스케일링에 계속 투자하는 동시에, 다중양식(multimodality, 텍스트 외 이미지, 소리 등 다양한 방식으로 세상 인지)을 통해 모델이 인간과 유사하게 세상을 인식하고 견고한 세계 표현을 갖도록 하는 데 중점을 두고 있다고 함.
- 환각(Hallucination) 문제 해결:
- 미라 무라티는 GPT-4에서 환각 문제를 많이 개선했지만 아직 목표 수준에는 도달하지 못했다고 인정함. 인간 피드백을 통한 강화 학습(RLHF)을 지속하고, 검색(retrieval and search) 기능을 추가하여 모델이 더 사실적인 답변을 제공하도록 하는 등 여러 기술을 조합하여 환각 문제를 줄여나가고 있다고 설명함.
- 학습 데이터와 저작권 문제:
- 샘 알트만은 모든 사람이 만족하는 방식으로 데이터 사용 문제를 해결하고 싶으며, 데이터 소유권과 경제적 흐름에 대한 새로운 기준을 찾기 위해 다양한 형태의 파트너십을 실험 중이라고 밝힘.
- 모델이 더 똑똑해지고 능력이 향상됨에 따라 필요한 학습 데이터의 양은 줄어들 것이라고 예측함. 미래에는 특정 가치 있는 데이터(예: 월스트리트저널 콘텐츠)가 중요해질 것이며, 이를 위한 새로운 경제 모델을 찾을 것이라고 함.
- GPT 모델의 핵심은 특정 지식의 암기가 아니라 '추론 능력'이며, 이것이 점점 더 중요해질 것이라고 강조함.
- Microsoft와의 관계:
- 샘 알트만은 Microsoft와의 관계가 완벽하지는 않지만 '프레너미(frenemy)' 수준은 아니며 매우 좋다고 평가함. 언어 인터페이스라는 핵심 기술을 두고 많은 기업들이 경쟁하겠지만, API 제공 등에서는 협력하며 서로 이익을 얻고 있다고 설명함. (서로 자주 문자하는 친구 관계라고 표현)
- 개인화와 AI와의 깊은 관계:
- ChatGPT 음성 기능 시연 후, 미라 무라티는 AI 시스템이 집, 교육, 직장, 여가 등 모든 환경에 존재하게 될 것이므로 사용자와의 상호작용을 신중하게 설계하는 것이 매우 중요하다고 강조함. 사용자가 제어 가능하고 신뢰할 수 있으며, 창의성과 생산성을 향상시키는 방향으로 나아가야 한다고 함.
- 개인의 선호도, 사용 정보, 기억 기능 등이 추가됨에 따라 AI는 더욱 개인화되고 유용해질 것이며, 이는 목표하는 바라고 함.
- 샘 알트만은 여러 AI 플레이어가 등장할 것이며, 기술 발전의 방향은 궁극적으로 사회 전체의 논의를 통해 결정될 것이라고 말함. 개인적으로는 AI 친구와 인간 친구보다 더 가까워지는 미래를 원하지 않으며, ChatGPT라는 이름을 인간 이름 대신 사용한 것도 의도적인 것이라고 밝힘. AI와 대화할 때 상대가 인간이 아님을 명확히 하는 미묘한 장치들을 사용하고 있다고 함.
- AI 상호작용을 위한 이상적인 디바이스:
- 샘 알트만은 조니 아이브(Jony Ive)와 이상적인 AI 인터랙션 디바이스에 대해 논의하고 있다고 인정하면서도, 아직 구체적인 아이디어는 초기 단계라고 말함. 현재 스마트폰은 훌륭하지만, AI가 가져올 근본적으로 새로운 가능성을 담을 새로운 컴퓨팅 플랫폼이 등장할 수 있다고 생각하며, 이를 위한 노력이 가치 있다고 봄. (인간형 로봇은 아닐 것이라고 함)
- 자체 칩 개발 가능성:
- 자체 칩 개발 가능성에 대해, 세상을 놀라게 할 만한 규모로 AI를 제공하기 위해 필요한 것이 무엇인지 파악 중이며, 현재 파트너사들과의 협력이 훌륭하다고 평가함. 기본적으로는 자체 개발을 하지 않겠지만, 가능성을 완전히 배제하지는 않는다고 함.
- 엔비디아 외의 대안과 Arm과의 관계:
- 엔비디아는 놀라운 기술을 가지고 있지만, 자본주의의 마법이 작동하여 많은 다른 기업들이 노력하고 있으며 결과를 지켜볼 것이라고 말함. Arm CEO 르네 하스와는 친구 관계라고 언급함.
- OpenAI의 자금 조달 및 성장:
- OpenAI가 800억~900억 달러의 기업 가치를 평가받고 10억 달러의 매출을 예상한다는 보도에 대해, 현재 당장 자금 조달을 하고 있지는 않지만 미션 완수를 위해 막대한 자본이 필요하며 이는 계속 밝혀온 사실이라고 말함.
- 현재 제품 부문, 특히 플랫폼과 자체 제품 양쪽에서 수익이 발생하고 있으며, ChatGPT 플러스 유료 구독자가 많다고 언급함. (가족 요금제에 대한 요청에 대해서는, 모델 운영 비용이 저렴하지 않지만 효율성을 높여 더 많은 가치를 제공하고 싶다고 답함)
- AI의 위험성과 안전 조치:
- 샘 알트만은 현재의 챗봇이 세상을 끝낼 것이라고 생각하지는 않지만, AI 기술이 계속 발전하여 새로운 지식을 생성하고 해킹이나 생물학적 병원체 설계 등에 악용될 가능성에 대해서는 신중한 접근이 필요하다고 경고함.
- 이러한 위험 때문에 AI 개발을 멈춰서는 안 되며, 위험을 예측하고 측정하며 기술 자체에 완화 장치를 구축하고 새로운 안전 기술을 다른 사람들과 공유해야 한다고 강조함.
- 미라 무라티는 AI의 엄청난 능력에는 항상 어두운 면이 존재하며, 이를 이해하고 완화 도구를 구축하는 것이 중요하다고 말함. 이는 데이터, 모델, 제품 도구, 정책 등 모든 단계에서의 개입을 필요로 하며, 사회 전체의 인프라가 기술 발전에 발맞춰야 한다고 함.
- 기술을 실험실에 가둬두는 것보다 현실 세계에 점진적으로 출시하여 실제 영향을 이해하고 사회가 적응하도록 하는 것이 안전한 배포 방식이라고 주장함. (예: 비행기 기술 발전 과정)
- 정부 규제와 딥페이크 문제:
- 샘 알트만은 현재나 내년에 존재할 모델이 아닌, 진정한 초지능 또는 인간의 능력을 훨씬 뛰어넘는 시스템에 대해서는 국제적인 규제가 중요할 것이라고 생각하지만, 오픈소스 모델이나 스타트업의 모델 학습 및 배포에 대한 규제는 재앙적인 실수가 될 것이라고 경고함. AI의 경제적, 사회적 혜택을 수용하되 미래의 위험에 대비해야 한다고 주장함.
- 딥페이크 문제에 대해, 사회가 빠르게 학습하고 적응하겠지만, 진짜 문제는 가짜 이미지 자체가 아니라 개인화된 일대일 설득 능력일 수 있다고 예측함.
- AI 생성 콘텐츠 책임과 탐지 기술:
- 미라 무라티는 OpenAI가 개발하고 출시하는 기술에 대해 책임감을 느끼며, 잘못된 정보 확산 문제를 해결하기 위해 이미지나 텍스트의 출처를 밝히고 AI 생성물을 탐지하는 기술을 개발 중이라고 밝힘. 하지만 사용자 유연성과 모니터링 사이의 균형, 그리고 비사용자에 대한 영향까지 고려해야 하는 미묘한 문제라고 함.
- 이미지의 경우 거의 99% 신뢰할 수 있는 탐지 기술을 초기 단계에서 테스트 중이며, 텍스트의 경우 어떤 방식이 합리적일지 연구 중이라고 함. 워터마킹에 대해서도 모든 사람이 찬성하는 것은 아니며, 기술적으로도 완벽하지 않을 수 있어 사회적 합의가 필요하다고 샘 알트만은 덧붙임.
- AI의 미래에 대한 희망과 두려움, 그리고 벙커:
- 샘 알트만은 미래가 놀랍도록 멋질 것이라고 믿으며, AI가 인류의 가장 중요한 발명품 중 하나가 될 것이라고 기대함. 하지만 강력한 기술에는 예측 불가능한 영향이 따르므로 두려움도 존재한다고 인정함. (벙커는 없지만 '구조물'은 있다고 농담처럼 말하며, AGI가 잘못되면 벙커는 소용없을 것이라고 함)
- 미라 무라티는 AI가 집단 지성을 증강시켜 문명을 발전시키기를 희망하며, 동시에 많은 것을 망칠 수도 있다는 두려움도 가지고 있다고 말함.
- AGI로의 전환점:
- 샘 알트만은 AGI로의 전환이 특정 순간이 아니라 아름다운 지수 곡선을 따라 지속적으로 이루어질 것이라고 설명함. 매년 극적인 발전을 이루겠지만, 특정 시점을 전환점으로 지목하기는 어려울 것이라고 함.
- AI와 일의 미래, 그리고 사회적 대응:
- 한 청중이 AI로 인해 일의 본질이 바뀌고 많은 사람들이 논의에서 소외될 수 있다는 우려를 제기함.
- 미라 무라티는 AI가 불평등을 심화시킬 수도 있지만, 창의성과 생산성을 향상시키고 사람들이 더 적게 일하고 다른 활동을 할 수 있게 만들 수도 있다고 답함. ChatGPT 출시를 통해 AI를 대중의 의식 속으로 가져왔으며, 사람들이 직접 기술을 경험하고 사회 제도도 변화에 대비하는 것이 중요하다고 강조함.
- 샘 알트만은 모든 기술 혁명이 고용 시장에 영향을 미쳤으며, AI도 마찬가지일 것이지만 두렵지 않다고 말함. 하지만 변화의 속도가 문제이며, 사회가 적응할 시간을 주어야 한다고 강조함. 기본소득만으로는 충분하지 않으며, 사람들이 미래 설계에 참여하고 주체성을 가질 수 있도록 하는 것이 중요하다고 함. ChatGPT를 널리 보급하여 사람들이 다가올 미래를 생각하고 대화에 참여하며, 도구를 사용하여 미래를 만들어나가는 것이 중요하다고 믿는다고 함.
이 대담에서 샘 알트만과 미라 무라티는 AI 기술의 엄청난 잠재력과 함께 그에 따르는 책임과 도전에 대해 솔직하게 논의합니다. 그들은 AGI가 가져올 긍정적인 변화를 강조하면서도, 안전성, 데이터 프라이버시, 일자리 변화, 규제 등 해결해야 할 과제들에 대해 깊이 고민하고 있음을 보여줍니다.