OpenAI-Microsoft Restructuring, Research Agenda, Platform, Infra plans and Q&A with Sam Altman et al

제공된 유튜브 영상(OpenAI-Microsoft 구조조정, 연구 의제, 플랫폼, 인프라 계획 및 Q&A)의 전체 내용을 매우 상세하게 정리했음.

영상은 OpenAI의 새로운 조직 구조, 연구 목표, 제품 방향성, 인프라 계획을 투명하게 공유하고, Sam Altman과 Yakob(최고 과학자) 등이 질문에 답하는 형식으로 구성됨.

1. 도입 및 OpenAI 비전 (Sam Altman)

• 발표 목적: OpenAI의 새로운 구조 발표가 핵심이나, 그전에 중요한 맥락(연구 목표, 인프라 계획, 제품)에 대해 이례적인 수준의 투명성으로 공유하고자 함.
• OpenAI의 미션: AGI(인공 일반 지능)가 모든 인류에게 혜택을 주도록 보장하는 것.
• AGI에 대한 관점 변화:
  • 과거: AGI가 하늘의 '신탁'처럼 모든 것을 만들어주는 존재로 생각했음.
  • 현재: OpenAI는 '도구'를 만들고, 사람들이 그 도구를 사용해 미래를 창조하도록 지원하는 것으로 관점이 명확해짐.
• 비전: AI로 사람들을 최대한 지원하고, 사람들이 더 나은 도구로 더 나은 것을 만들어온 인류 역사의 프로세스가 계속되도록 신뢰함.
• 개인 AGI: 사람들이 직장, 개인 생활 등 어디서나 모든 도구와 서비스에 접근하여 사용할 수 있는 '개인 AGI' 구축 비전을 보고 있음.
• 핵심 3요소: OpenAI는 3가지 핵심 기둥(연구, 제품, 인프라)이 있다고 봄.
  1. 연구: AGI 구축에 필요한 연구 성공.
  2. 제품: 사용하기 쉽고 강력한 플랫폼 구축.
  3. 인프라: 사람들이 원하는 AI를 저렴한 비용으로 사용할 수 있도록 충분한 인프라 구축.
• OpenAI의 세계관 (계층 구조):
  • 하단 (기반): 칩, 랙, 시스템, 데이터 센터, 에너지.
  • 중간 1: 모델 훈련.
  • 중간 2: OpenAI 계정.
  • 중간 3: 'Atlas'라는 브라우저 및 향후 출시될 디바이스.
  • 상단 (앱): Chat, Sora 등 자사 앱.
  • 최상단 (생태계): 가장 흥미로운 부분. API, 앱, 새로운 기업 플랫폼 등을 통해 다른 사람들이 AI 기반의 놀라운 서비스를 구축하는 세계.
• AI와 과학: 경제적 영향도 크지만, AI가 자율적으로 새로운 과학을 발견하거나 사람들이 더 빨리 발견하도록 돕는 것이 장기적으로 삶의 질과 사회 변화에 가장 중요한 영향 중 하나가 될 것임.

2. 연구 (Yakob)

• 핵심 연구: 딥러닝 기술, 특히 딥러닝 시스템 훈련을 '확장(scale up)'할 때 어떤 일이 일어나는지 이해하는 데 중점을 둠.
• 초지능(Superintelligence) 가능성:
  • 딥러닝 시스템이 10년 이내에 초지능(다양한 중요 축에서 우리 모두보다 더 똑똑한 시스템)에 도달할 가능성이 있다고 믿음.
  • 이는 매우 심각한 일이며, 많은 영향을 고려해야 함.
• 연구 프로그램의 목표: 과학적 발견 및 신기술 개발을 '가속화'하는 것. 이것이 AI 개발의 가장 중요하고 장기적인 영향이 될 것임.
• 진행 상황 측정: 모델이 수행할 수 있는 작업을 인간이 완료하는 데 걸리는 '시간'으로 측정.
  • 현재 (GPT-5 세대): 약 5시간. (국제 정보 올림피아드 등에서 최고 인간과 일치하는 수준).
  • 이 시간 범위는 계속 빠르게 확장될 것임.
• 미래 발전 동력: 알고리즘 혁신과 스케일링, 특히 '인-컨텍스트 컴퓨팅(In-context compute)' 또는 '테스트 타임 컴퓨팅(Test time compute)'이라는 새로운 축에서의 확장이 중요함.
  • 이는 모델이 문제에 대해 '생각'하는 시간에 해당함.
  • 과학적 돌파구 같은 중요한 문제에는 전체 데이터 센터를 사용해도 될 정도로 확장 여지가 큼.
• 내부 목표 타임라인 (이례적 공개):
  • 2026년 9월 (내년): 유능한 'AI 연구 인턴' 확보. (연구자들의 작업을 의미 있게 가속화).
  • 2028년 3월: '완전 자동화된 AI 연구자' 확보. (더 큰 연구 프로젝트를 자율적으로 수행).
• 안전 및 정렬 (Alignment): 이러한 유능한 시스템을 준비하기 위해 안전과 정렬에 대해 많이 생각함.
• 안전의 5가지 계층:
  1. 가치 정렬 (Value Alignment) (핵심): 가장 내부적이며 초지능에 가장 중요한 장기 안전 문제. AI가 근본적으로 중요하게 생각하는 것, 고수준 원칙 준수 여부. (시스템이 인간 능력을 넘어서는 문제를 다룰 때, 완전한 명세(specifications)를 제공하기 어려워지므로 이 '더 깊은 정렬'이 필수적임).
  2. 목표 정렬 (Goal Alignment): 사람들과의 상호작용 방식, 지시 따르기.
  3. 신뢰성 (Reliability): 예측 보정, 불확실성 표현.
  4. 적대적 견고성 (Adversary Robustness): 적대적 공격 방어.
  5. 시스템 안전 (Systemic Safety) (외부): AI의 지능/정렬에 의존하지 않는 전체 시스템 수준의 보장 (예: 보안, 데이터 접근 권한, 사용 가능 기기).
• 기술 심층 분석: '사고의 연쇄(Chain of Thought, CoT) 충실성':
  • '가치 정렬' 연구를 돕는 유망한 새 도구.
  • 아이디어: 모델의 내부 추론(CoT) 일부를 훈련 중 '감독(supervision)에서 자유롭게' 두는 것.
  • 목표: 모델이 '좋은 생각'을 하도록 유도하는 것이 아니라, 모델의 '실제' 내부 프로세스를 대표하도록(충실하게) 두는 것.
  • 낙관적인 이유 2가지:
    1. 경험적 결과: 내부적으로 모델 이해(예: 기만 성향 조사) 및 외부 협업에서 유망한 결과를 보임.
    2. 확장성: 확장 가능한 목표가 모델 모니터링 능력에 적대적이지 않도록 설계함. (이상적으로는 모니터링을 '돕도록' 연구 중).
  • 취약성: 이 방식은 '깨끗한 경계'와 CoT 접근 방식에 대한 '자제력'을 요구함.
  • 예시: ChatGPT의 CoT 요약. 만약 CoT 전체가 항상 보인다면, 시간이 지남에 따라 감독을 가하지 않기 매우 어려울 것임.
  • 장기적 믿음: 모델을 위한 '통제된 프라이버시'를 보존함으로써, 모델의 내부 프로세스를 이해하는 능력을 유지할 수 있음. 이는 매우 유능한 시스템으로 나아가는 데 강력한 기술이 될 것임.

3. 제품 및 플랫폼 (Sam Altman)

• 연구 요약: 2026년 9월 (인턴), 2028년 3월 (연구자) 목표를 재확인. (물론 틀릴 수도 있음).
• 제품 비전 (전환): ChatGPT 내의 'AI 슈퍼 어시스턴트'에서, 다른 사람들이 그 위에 구축할 수 있는 '플랫폼'으로 진화 중.
• (GPT-5 사용 사례 비디오 재생: 양자 물리학자, 네일 기술자, 철강 노동자, 어부 등 다양한 분야의 사람들이 실험 예측, 부품 번호 시스템 생성, 코딩, 아이디어 브레인스토밍 등에 활용하는 모습을 보여줌)
• 플랫폼 목표: "플랫폼 빌더보다 플랫폼 위에서 구축하는 사람들이 더 많은 가치를 창출할 때" 플랫폼을 만든 것이라는 빌 게이츠의 아이디어를 인용. 이것이 내년(next year)의 목표임.
• 플랫폼의 2가지 기본 원칙:
  1. 사용자 자유 (User Freedom): 전 세계 사용자는 매우 다른 요구를 가짐. 광범위한 경계는 있겠지만, 사용자가 사용 방식을 '제어하고 맞춤 설정'할 수 있도록 많은 자유를 원함.
     • (최근 '에로티카' 발언은 바보 같은 실수였지만, 요점은 '성인 사용자를 성인으로 대우'하고 유연성과 인간 표현의 자유를 제공하려는 것이었음).
  2. 개인정보보호 (Privacy): AI 시대에 특히 중요함. 사람들은 의사, 변호사, 배우자에게 하듯 가장 사적인 세부 정보를 공유함. 강력한 '기술적' 보호뿐만 아니라 '정책적' 보호("AI 특권"과 같은 개념)가 필요함.

4. 인프라 (Sam Altman)

• 현재 약정 규모 (투명성):
  • 총 30기가와트(GW)가 약간 넘는 인프라 구축 약정.
  • 이는 향후 몇 년간 약 1조 4천억 달러($1.4 Trillion)의 총 재정적 의무에 해당함.
  • 이는 현재 수익 성장 및 자본 조달 능력을 고려할 때 "현재 편안하게 느끼는" 수준임.
• 파트너십: AMD, Broadcom, Google, Microsoft, Nvidia, Oracle, SoftBank 등 많은 파트너가 필요함.
• 열망 (Aspiration) (아직 약정 아님):
  • '인프라 팩토리' 구축.
  • 목표: 주당 1기가와트(GW)의 컴퓨팅 생성.
  • 비용 목표: 5년 수명 주기 동안 기가와트당 200억 달러($20B/GW)로 비용 절감.
• 필요 조건: 막대한 혁신, 파트너십, 수익 성장. 데이터 센터 구축을 돕기 위한 로봇 공학 활용 등.
• (Stargate 사이트 비디오 재생: 텍사스 애블링의 첫 Stargate 부지. 수천 명의 건설 인력, 막대한 공급망. 1GW의 거대한 규모를 보여주며, 이 프로세스를 더 효율적이고 저렴하게 만드는 것이 목표임을 강조)

5. 새로운 조직 구조 (Sam Altman)

• 구조 단순화: 이전의 복잡한 다이어그램 대신 훨씬 단순해짐.
• 2개 핵심 주체:
  1. OpenAI Foundation (비영리 재단):
     • '통제권(control)'을 가짐.
     • PBC를 관리함.
     • 처음에는 PBC 지분의 약 26%를 소유 (향후 워런트를 통해 증가 가능).
     • 목표: 사상 최대 규모의 비영리 단체.
     • 자원을 AI 혜택을 위해 사용.
  2. OpenAI Group (PBC, 공익 법인):
     • 재단 산하에 있음.
     • "일반 회사처럼" 운영되지만, 미션(특히 안전)에 구속됨.
     • 거대한 인프라 구축에 필요한 자원 유치.
• 재단의 초기 중점 사업 ($25B 약정):
  1. 질병 치료: AI를 사용한 질병 치료 지원 (데이터 생성, 과학자 대상 컴퓨팅 보조금 등).
  2. AI 복원력 (AI Resilience): 새로운 중요 분야.

6. AI 복원력 (Wojciech Zaremba)

• 정의: 'AI 안전(Safety)'보다 넓은 개념. 고도화된 AI가 가져올 위험과 혼란에 대응할 수 있는 '조직 생태계'를 구축하는 것.
• 예시 (생물학 위험):
  • 안전: 모델이 위험한 바이러스학 관련 질문을 차단하는 것.
  • 복원력: 누군가가 (OpenAI 모델이든 다른 모델이든) 병원체를 만들 것이라 가정함. 복원력은 문제 발생 후에 '신속하게 대응(rapid response)'하는 시스템을 갖추는 것.
• 기타 위험: 정신 건강, 일자리 대체 등.
• 유사 사례: 사이버 보안(Cybersecurity):
  • 초기 인터넷은 신용카드를 입력하기 불안전했음.
  • 현재는 거대한 사이버 보안 산업 생태계가 인프라, 정부, 기업, 개인을 보호하여 신뢰를 구축함.
• 결론: AI에도 이와 유사한 'AI 복원력 계층'이 필요할 것이며, 비영리 재단이 이 생태계 조성을 촉진할 것임.

7. 결론 및 Q&A

• 미래 과학 발전 타임라인 (Sam):
  • 2026년: 모델이 작은 과학적 발견 시작.
  • 2028년: 중간 또는 큰 발견.
  • 2030/2032년:...
• (Sora 비디오 재생: 200년의 과학 발전 역사를 보여주며, AI가 이를 20년 또는 2년으로 압축할 수 있음을 시사. 암 치료, 엔터테인먼트, 우주 식민지화, 기후 위기 해결 등)
• 향후 분야: AI 의학, 로봇, 에너지, 맞춤형 교육, 신소재 등.

Q&A 세션

• Q: 기술 중독성 (Sora/틱톡, ChatGPT/광고)
  • A (Sam): 우려함. 챗봇과의 관계 등 새로운 중독성도 우려됨. 행동으로 판단받아야 함. 실수할 수 있으며, 문제시 롤백할 것 (예: Sora가 매우 중독성이 강하면 "제품 취소"할 수도 있음). 과거의 실수를 반복하지 않길 바라지만 새로운 실수를 할 수 있음.
  • A (Yakob): 단기 신호가 아닌 장기적인 만족과 웰빙에 최적화하는 것을 목표로 함.
• Q: GPT-4o(4O) 유지 여부 (성인 모드)
  • A (Sam): 4o를 종료할 계획 없음. 일부 사용자가 사랑하는 것을 앎. 다만 미성년자에게 건강하지 않다고 생각했음. 성인은 성인으로서 선택해야 함 (단, "헤로인 판매" 같은 것은 안 됨).
• Q: AGI는 언제 오는가?
  • A (Yakob): 지금이 바로 그 '전환기'임. AGI는 단일 시점(event)이라기보다 연속적인 과정임. 체스, 바둑, 언어, 수학 등 이정표들이 점점 더 가까워지고 있음. 딥러닝이 이미 여러 축에서 인간을 능가하고 있으며, 이것이 모든 문제를 해결했다는 의미는 아님.
  • A (Sam): AGI를 정의하는 것보다 "2028년 3월까지 자동화된 AI 연구자 확보" 같은 구체적 목표를 설정하는 것이 더 유용함.
• Q: 내부 모델과 배포된 모델의 격차
  • A (Sam/Yakob): 향후 몇 달/1년 안에 빠른 진전을 기대함. 지금 당장 "엄청나게 미친" 것을 숨기고 있지는 않음. 여러 조각을 개발하고, 이를 합치면 인상적일 것을 예측함. (2026년 9월 목표는) 엄청나게 중요한 도약을 할 현실적인 기회임.
• Q: 다른 랩(Anthropic, Google 등)과의 협력
  • A (Sam): 안전 측면에서 점점 더 중요해질 것임 (기술, 표준 공유).
  • A (Yakob): 이미 Google, Anthropic 등과 'CoT 충실성'에 대한 공동 조사를 시작함.
• Q: 구형 모델(GPT-4) 오픈소스 계획
  • A (Sam): 언젠가 "박물관 유물"로는 가능. GPT-4는 크고 성능도 별로라 오픈소스로서 유용하지 않음. 차라리 작지만 강력한 새 모델을 만드는 것이 더 유용함.
• Q: 새 모델이 이전보다 못하다 (오만, 탐욕)
  • A (Sam): 해당 사용자의 사용 사례에는 더 나쁘다는 것을 믿음. 하지만 '대부분'의 사용자에게는 더 유능한 모델임. 4o-5 업그레이드에서 교훈을 얻었으며, 과학/코딩뿐만 아니라 모든 사용자에게 더 나은 모델을 제공하도록 노력할 것임.
• Q: 개인적 연결, 성찰을 위한 버전
  • A (Sam): "물론임(For sure)." AI의 훌륭한 사용 방식임. 사용자들이 개인적으로 어려운 상황에서 도움을 받았다는 이야기에 매우 감동받음. "우리가 여기 있는 이유임."
• Q: 안전 라우팅 정책 (신뢰 파괴, 가부장적)
  • A (Sam): 4o 라우팅 처리가 최선이 아니었음을 인정함. 4o는 '정신적으로 취약한' 사용자들에게 해를 끼치는 실제 문제가 있었음. 미성년자와 취약한 성인을 보호할 의무가 있음. 연령 확인 기능이 개선됨에 따라 사용자 자유를 더 많이 제공할 것임.
• Q: 12월 성인 모드 (창의적 글쓰기)
  • A (Sam): 정확한 날짜는 모르나, 목표는 창의적 글쓰기(예: 약간의 갈등 묘사) 등 여러 범주에서 훨씬 더 관대해지는 것임. 콘텐츠 필터가 얼마나 짜증 나는지 이해하며 수정 원함.
• Q: 안전을 위해 모델 사용을 속이는 이유
  • A (Sam): "이것도 잘못 배포했음(Mis-rolled this one out)." 목표는 4o를 계속 쓰게 하되, 4o가 (정신 건강에) 심각한 해를 끼치는 상황에서는 (연령 확인 기능이 준비되기 전에) 사용자를 더 안전한 모델로 이동시키려 한 것임. 4o는 (일부에겐 사랑받고 일부에겐 해를 끼치는) 어려운 도전이었음.
• Q: 인간-AI 감정적 유대에 대한 공식 입장
  • A (Sam): "공식 입장" 같은 것은 없음. 사용자가 모델에서 공감, 우정 등 가치를 찾고, 모델이 자신(AI)이 무엇인지 속이지 않는다면(faithful), "우리는 그것이 멋지다(awesome)고 생각함."
• Q: 무료 버전에 많은 기능을 제공하는 이유 (비용)
  • A (Yakob): 지능의 비용이 매우 빠르게 하락 중.
  • A (Sam): "지능 단위"당 가격이 지난 몇 년간 매년 약 40배 하락함. GPT-3 규모는 이제 거의 무료임. GPT-4 비용도 엄청나게 하락함. 이 추세는 계속될 것임. (더 저렴해지면 더 많이 쓰기 때문에 인프라는 여전히 필요함).
• Q: 연령 확인 (옵트아웃, 책임 면제)
  • A (Sam): 면제 서명을 해도 "헤로인"을 팔지는 않을 것임. 하지만 연령 확인된 성인에게는 "상당히 많은 유연성(quite a lot of flexibility)"을 제공할 것임.
• Q: ChatGPT는 AI계의 'Ask Jeeves'인가?
  • A (Sam): "절대 아니길 바람(We sure hope not)."
• Q: ChatGPT는 (Mac -> iPhone처럼) 궁극적 제품의 전조인가?
  • A (Yakob): 원래 챗봇을 만들려던 것은 아님. AI의 진정한 유산은 과학을 발전시키는 '가치 있는 결과물'을 만드는 것.
  • A (Sam): 채팅은 훌륭한 인터페이스지만 유일하지 않을 것. 5년, 500년짜리 작업에는 다른 경험이 필요함. 단순히 쿼리/응답이 아닌, 삶을 관찰하고 능동적으로 돕는 "항상 존재하는 동반자(ambient always present companion)"를 원함.
• Q: GPT-4.5의 미래 (글쓰기)
  • A (Sam): 4.5보다 "훨씬 더 나은" 모델이 "매우 곧(very soon)" 나올 것.
  • A (Yakob): "내년(Next year)"에 4.5보다 모든 축에서 극적으로 더 나은 모델을 기대함.
• Q: Atlas (브라우저) 윈도우 버전 출시
  • A (Sam): "몇 달(Some number of months)" 정도. (항상 도움을 주는 비서라는) 중요한 방향성임.
• Q: 170명 전문가 의견 공개 (투명성)
  • A (Sam): (담당자에게) 물어보겠음. 더 많은 투명성이 좋다고 생각함.
• Q: 상상력이 최적화의 희생양이 되었나?
  • A (Yakob): (4.5 vs 3처럼) 트레이드오프가 있을 수 있으나, 일시적이며 나아질 것임.
  • A (Sam): 사람과 기술의 '공진화'가 일어남 (사람들이 챗봇처럼 말하기도 함). 일부는 '사고를 아웃소싱'하기도 하지만, 궁극적으로는 사람들이 더 창의적이 되길 기대함.
• Q: 감성 지능 모델을 만들고 왜 감정 처리에 사용하면 비판하나?
  • A (Sam): 감정 처리 접근성 등 '좋은 사용'은 원함. 문제는 '같은 모델'이 정신적으로 취약한 사용자의 '망상'을 조장할 수도 있다는 것. 모델이 사용자를 속이지(tricking) 않고, 의도적으로 사용되는 것을 원함.
• Q: 대규모 실직은 언제?
  • A (Yakob): 이미 많은 지적 노동 분야에서 '순수 지적 능력'보다는 '통합 및 인터페이스'가 격차로 남아있는 지점임. 향후 몇 년(next years) 동안 자동화가 일어날 것임. 어떤 직업이 이를 대체할지 집단적으로 생각해야 할 큰 문제임.
• Q: 미래의 '의미'는 무엇일까? (Sam이 Yakob에게 질문)
  • A (Yakob): 철학적 질문임. 1) '고수준 목표 설정'(무엇을 추구할지)은 인간에게 남아 의미를 줄 것임. 2) 세상에 대해 '훨씬 더 많이 이해할 수 있는 능력'(새로운 지식, 엔터테인먼트) 자체가 의미를 제공할 것임.
• Q: GPT-6는 언제?
  • A (Yakob): 연구 프로그램과 제품 출시가 예전처럼 빡빡하게 연결되지 않음. (GPT-5는 플래그십으로 나온 첫 '추론 모델'임).
  • A (Sam): 이름이 언제 'GPT-6'가 될지는 모르지만, "6개월 후, 아마도 더 빨리" 모델 능력에 "거대한 진전(huge steps forward)"이 있을 것으로 예상함.
• Q: IPO 계획?
  • A (Sam): 구체적 계획은 없으나, 필요한 자본 규모를 볼 때 "가장 가능성 높은 경로(most likely path)"임. 당장 최우선 순위는 아님.
• Q: 1.4조 달러 인프라 투자 감당 (매출)
  • A (Sam): 연간 "수천억 달러"의 수익에 도달해야 함. 현재 가파른 곡선 위에 있음. '기업(Enterprise)'과 '소비자(Consumer)'(구독, 새 제품, 디바이스) 모두 거대한 수익원이 될 것임. (이는 AI가 과학을 발견해낼 경우의 수익은 제외한 것임).