The Next Frontier: Sam Altman on the Future of A.I. and Society

이 영상은 OpenAI의 CEO 샘 알트만(Sam Altman)과의 대담으로, ChatGPT 출시 이후의 AI 발전, 초지능의 가능성, AI 확장의 요소, Microsoft와의 관계, AI 안전성, 그리고 AI가 사회와 인간의 가치에 미칠 영향 등에 대해 논의합니다.

주요 내용 상세 정리

• ChatGPT 출시와 그 이후:
  • 샘 알트만은 ChatGPT 출시로 인해 전 세계적인 대화, 자금 조달, 기술 기업들의 우선순위 등이 근본적으로 변화했다고 인정함.
  • OpenAI 내부적으로는 언어 모델이 계속 확장되어 유용한 기능을 수행할 것이라는 점이 명확했지만, ChatGPT 출시 시점에 정확히 어떤 이유로 그렇게 큰 반향을 일으켰는지에 대해서는 여러 추측이 있을 뿐이라고 말함. (GPT-3 API 출시나 GPT-4 출시 시점과는 다른 파급력)
  • GPT-3 API의 주요 사용 사례 중 하나가 개발자들이 플레이그라운드에서 모델과 대화하는 것이었으며, 이를 더 쉽게 사용할 수 있도록 대화형으로 튜닝한 것이 ChatGPT라고 설명함.
  • 원래 GPT-4와 함께 출시할 계획이었으나, GPT-4 완성(2022년 8월) 후에도 한동안 보류했다고 밝힘. ChatGPT 출시 시점에 이 정도의 파급력을 예상하지는 못했다고 함.
• 초지능의 도래 가능성:
  • 알트만은 최근 "수천 일 내에 초지능이 나타날 수 있다"고 언급한 것에 대해, 불확실성이 크고 초지능의 정의도 다양하지만 2년 전부터 상당히 가파른 발전 곡선을 예상했다고 말함.
  • OpenAI는 딥러닝이 인류의 놀라운 발견이며 초지능으로 이어질 수 있다는 믿음으로 설립되었으며, 이를 잘 이끌고 혜택을 널리 공유할 의무가 있다고 생각한다고 함.
  • 초지능 달성이 확실하지는 않지만, 그리 멀지 않은 미래에 가능할 수 있다고 믿으며, 2025년에는 현재 회의적인 사람들조차 놀랄 만한 시스템이 등장하여 에이전트(복잡한 작업을 수행하고 가치를 창출하는 AI 시스템)가 중요한 역할을 할 것으로 예상함.
• AI 확장과 "벽은 없다(There is no wall)":
  • AI 확장 속도가 둔화되고 있다는 주장에 대해, 알트만은 "벽은 없다"는 트윗을 통해 지속적인 발전을 확신한다고 명확히 밝힘.
  • 사람들이 발전 곡선을 보기보다는 '벽'의 존재에 대해 추측하는 것을 좋아한다고 지적하며, 곧 새로운 성과들을 공개할 것이라고 예고함 (인터뷰 시점 다음 날부터 'OpenAI의 12일'이라는 이름으로 매일 새로운 데모나 출시 예정).
• AI 확장의 핵심 요소: 컴퓨팅, 데이터, 알고리즘:
  • AI 확장의 세 가지 핵심 요소는 컴퓨팅, 데이터, 알고리즘이며, 이들은 서로 상충 관계를 가질 수 있다고 설명함 (예: 더 좋은 데이터는 더 적은 컴퓨팅을 필요로 하거나, 더 많은 컴퓨팅으로 합성 데이터를 생성).
  • 한동안 컴퓨팅을 통한 손쉬운 발전이 있었고, 최근에는 알고리즘적 발전이 두드러졌지만, 세 가지 요소 모두 동시에 추진해야 한다고 강조함.
  • 이 중 가장 큰 영향력을 가진 것은 알고리즘적 발전이라고 생각하며, 트랜스포머(Transformer)가 최근의 좋은 예라고 언급함.
• 컴퓨팅 파워 경쟁과 Microsoft와의 관계:
  • 현재 컴퓨팅 파워 확보를 위한 경쟁이 치열하며, 이는 가장 극적이고 주목받는 부분이지만, 최고의 알고리즘 아이디어나 새로운 데이터 소스 확보를 위한 경쟁도 치열하다고 말함.
  • Microsoft와의 관계에 대해, 일부 불일치나 도전 과제는 있지만 전반적으로 양사에 매우 긍정적이었으며 앞으로 더 많은 협력을 기대한다고 밝힘. (최근 Microsoft와 OpenAI의 관계가 멀어지고 있다는 보도에 대한 반박)
  • 장기적으로 자체 처리 능력을 확보할 필요성에 대해서는, 필요한 종류와 양의 컴퓨팅을 안정적으로 확보하는 것이 중요하며, 자체 하드웨어 구축에 대한 생각은 열려 있지만 현재로서는 연구와 제품에 집중하는 것이 좋다고 생각한다고 함. (과거 모든 회사가 자체 하드웨어를 구축해야 했던 시대와 AWS 등장 이후의 변화를 언급)
• OpenAI의 제품 전략과 경쟁사:
  • Microsoft가 코파일럿(Copilot)에 OpenAI 제품을 사용하고, Apple도 최근 OpenAI 기술을 도입하는 등 플랫폼 사업과 자체 상용 제품 판매를 병행하는 것은 일반적인 기업 전략이라고 설명함.
  • OpenAI의 빠른 성장(2년 만에 주간 활성 사용자 3억 명 이상, 일일 메시지 10억 건 이상, 개발자 130만 명 이상)으로 인해 예상보다 많은 컴퓨팅이 필요했고, 이로 인해 Microsoft와 약간의 긴장이 있었던 것은 사실이지만, Microsoft 서비스 사용 강요 등에 대한 불만은 들어본 적 없다고 함.
• AGI(인공 일반 지능)와 초지능의 의미 변화:
  • Microsoft와의 계약에서 AGI 달성 시 계약 조건이 달라질 수 있다는 조항에 대해, AGI를 여정의 이정표로 취급할 의도라고 설명함.
  • AGI는 생각보다 빨리 달성될 수 있지만, 그 영향은 예상보다 적을 수 있으며, 많은 안전 문제는 AGI 시점이 아니라 그 이후의 초지능 단계에서 발생할 것이라고 예측함. AGI가 구축되어도 세상은 크게 변하지 않고 경제 성장 속도가 빨라지는 정도일 것이라고 봄.
• AI로 인한 경제적, 사회적 변화와 안전 문제:
  • AGI로 인해 단기적으로는 사회적 관성 때문에 큰 변화가 없겠지만, 이후 경제에 미치는 영향은 생각보다 클 것이라고 예상함. 일자리가 없어지지는 않겠지만, 직업 전환 속도는 전례 없이 빠를 것이라고 전망함.
  • 위험한 수준의 초지능은 당분간 등장하지 않을 것이며, 기술적 안전 문제는 세계 최고의 연구자들이 해결할 것이라고 낙관함. (딥러닝이라는 강력한 과학적 도구가 있음)
  • 하지만 모든 인류를 합친 것보다 더 똑똑한 진정한 초지능 시스템이 등장했을 때, 기술적 안전성을 확보하더라도 사회적 문제, 정부의 역할, 국제적 공조 등이 큰 도전 과제가 될 것이라고 우려함.
• OpenAI의 안전성에 대한 비판과 반복적 배포의 중요성:
  • OpenAI가 안전에 충분히 집중하지 않는다는 내외부의 비판에 대해, ChatGPT는 사회적으로 수용 가능한 수준의 안전성과 견고성을 갖추고 있다고 반박함.
  • 일부는 ChatGPT 자체가 충분히 안전하지 않다고 비판하고, 일부는 다음 시스템의 안전 계획을 문제 삼으며, 또 다른 일부는 OpenAI가 AI 경쟁을 가속화하여 안전 연구 시간을 줄였다고 비판한다고 언급함.
  • OpenAI는 '반복적 배포(iterative deployment)'가 매우 중요하다고 믿으며, 시스템을 세상에 내놓고 사회와 기술이 함께 진화하며 낮은 위험 단계에서부터 사용 방식을 이해하고 문제점을 파악해야 한다고 주장함.
• XAI 및 Elon Musk와의 경쟁:
  • XAI를 심각한 경쟁자로 간주하며, 그들이 매우 빠르게 데이터 센터를 구축한 것에 대해 존경심을 표함.
  • 프론티어 모델들의 성능은 현재 상당히 비슷해졌다고 평가함.
• AI 기술의 상품화와 트랜지스터 비유:
  • 딥러닝이라는 과학적 발견은 결국 많은 사람들에 의해 활용될 것이며, 이는 트랜지스터와 유사하다고 비유함. 트랜지스터는 사회를 변화시키고 널리 사용되지만, 구글을 트랜지스터 회사라고 부르지 않는 것처럼 AI도 마찬가지일 것이라고 함.
  • 매우 뛰어난 AI 모델이 널리 사용되고 모든 제품과 서비스에 탑재되어, 스마트하지 않은 제품은 상상할 수 없는 시대가 올 것이며, AI 자체는 상품화될 것이라고 전망함. 이는 과학이 사회 전반에 확산되는 좋은 현상이라고 생각하며, 이것이 ChatGPT와 같은 제품을 만드는 이유라고 설명함.
• Elon Musk와의 개인적인 관계와 소송:
  • Elon Musk가 OpenAI를 상대로 소송을 제기한 것에 대해 "엄청나게 슬프다(tremendously sad)"고 표현함.
  • 어린 시절 Elon Musk를 영웅으로 여겼으며, 그가 세상을 위해 하는 일들이 놀랍다고 생각했다고 함. 여전히 그가 존재한다는 사실 자체는 기쁘게 생각하며, 그가 세상을 더 야심 차게 생각하도록 자극했다고 평가함.
  • OpenAI를 함께 시작했지만, 어느 순간 그가 OpenAI에 대한 믿음을 잃고 자신의 길을 가기로 결정했으며, 현재는 그를 경쟁자로 여기고 법적 다툼보다는 기술과 시장에서 경쟁하기를 바란다고 말함.
• Elon Musk의 정치적 영향력에 대한 우려:
  • Wall Street Journal 기사에서 제기된, Elon Musk가 정치적 영향력을 이용하여 경쟁사(OpenAI 등)에 불이익을 줄 수 있다는 우려에 대해, 자신은 그렇게 생각하지 않는다고 단언함.
  • Elon Musk가 그런 행동을 하지 않을 것이라고 믿으며, 미국인들이 그러한 권력 남용을 용납하지 않을 것이라고 생각한다고 밝힘.
• OpenAI 투자 조건에 대한 해명:
  • Elon Musk가 OpenAI가 XAI 등의 잠재적 투자자들이 OpenAI와 경쟁사에 동시에 투자하는 것을 막고 있다고 주장한 것에 대해, 이는 사실이 아니라고 반박함.
  • OpenAI의 표준 투자 조건은, 경쟁사에 투자할 경우 정보 접근 권한 등을 중단하는 것이며, 이는 일반적인 조건이라고 설명함.
• OpenAI의 기업 구조 변화 가능성:
  • OpenAI가 비영리 연구 기관으로 시작했지만, 막대한 자본 필요성으로 인해 현재의 '제한된 영리(capped profit)' 자회사 구조를 갖게 되었다고 설명함. (Elon Musk가 비영리 법인에 대한 자금 지원을 중단한 것도 한 가지 이유)
  • 현재의 구조가 필요한 자본 규모를 감당하기에는 한계가 있어 변화를 모색 중이며, 이사회에서 복잡한 문제를 논의 중이라고 밝힘. 어떤 형태로든 비영리 법인의 역할은 유지될 것이며, 예를 들어 비영리 법인이 PBC(Public Benefit Corporation)의 큰 지분을 소유하고 그 부를 비영리 목적에 사용하는 방안 등이 검토되고 있다고 함.
• 자신의 OpenAI 지분 및 보상에 대한 생각:
  • 자신이 OpenAI의 지분을 전혀 가지고 있지 않으며, 연봉은 76,000달러라고 확인해 줌. (이에 대한 질문을 많이 받는다고 함)
  • 과거로 돌아간다면 이 질문을 피하기 위해서라도 약간의 지분을 받았을 것이라고 말함. 하지만 돈 때문에 더 열심히 일하거나 덜 일하지는 않을 것이며, AGI 연구라는 어린 시절 꿈을 이루는 현재의 일이 어떤 추가적인 돈보다 더 가치 있다고 강조함. 투자 유치 시 지분이 없는 점이 일부 투자자들에게는 걸림돌이 되기도 했다고 함.
• 뉴욕타임스 소송 및 콘텐츠 저작권:
  • 뉴욕타임스가 OpenAI와 Microsoft를 상대로 제기한 콘텐츠 학습 관련 소송에 대해, AI가 물리학 교과서를 읽고 물리학을 배우듯 학습할 권리가 있으며 저작권법의 공정 이용 원칙이 계속 적용되어야 한다고 믿는다고 밝힘.
  • 동시에 창작자들이 새로운 수익원을 얻을 수 있는 새로운 경제 모델을 찾아야 하며, 특정 스타일(예: 앤드류 로스 소킨 스타일)로 콘텐츠를 생성할 때 해당 창작자에게 보상이 돌아가는 마이크로페이먼트 등의 아이디어를 탐색하고 있다고 함.
  • 뉴욕타임스는 여러 면에서 역사의 잘못된 편에 서 있다고 생각하며, 법정에서 이를 논할 것이라고 언급함.
• AI 시대의 인간과 자녀 양육:
  • 곧 태어날 아이에 대해 이야기하며, 아이를 갖는다는 기대감은 AGI에 대한 흥분감보다 훨씬 크며, 무엇이 진정으로 중요한지 깨닫게 한다고 말함.
  • 산업 혁명, 컴퓨터 혁명 등 과거의 기술 혁명 때마다 제기되었던 인간의 역할과 의미에 대한 질문처럼, AI 시대에도 유사한 논의가 있겠지만 결국 인간에게 가장 중요한 것은 변하지 않을 것이라고 생각함. 경제 구조와 직업 유형은 변하겠지만, 자녀에 대한 사랑과 같은 깊은 인간적 동기는 어떤 기술보다 강력하게 유지될 것이라고 강조함.

이 대담에서 샘 알트만은 AI 기술의 현주소와 미래에 대한 낙관적인 전망을 제시하면서도, 그 과정에서의 도전 과제와 사회적 책임에 대해 진솔하게 이야기합니다. 특히 AI의 빠른 발전 속도, 그에 따른 컴퓨팅 자원 확보 경쟁, 그리고 AI가 가져올 경제적, 사회적 변화에 대한 그의 통찰을 엿볼 수 있습니다.