데미스 하사비스 인터뷰 — AGI 도래와 급진적 풍요

핵심 요지

• 5~10년 내 AGI 달성 확률 약 50%, 창업 시 20년 계획 중 15년차 순항
• 현 LLM은 추론·계획·기억·진짜 창의성에 구멍, 일관성 부족
• AGI 전환은 마법적 step function보다 점진적, 물리세계 적용은 10년+
• 향후 20~30년 내 급진적 풍요(질병·수명·에너지 근본 문제 해결)
• 풍요 시대엔 '가치·돈' 개념 변화, 새 경제학 필요

AGI 도래 시기와 정의

• 5~10년 내 달성 확률 50%, 15년차 계획대로 순항
• 정의: 인간의 모든 인지 능력 발휘 시스템(인간 뇌가 일반지능 유일 증명 사례)
• 한계: 최신 LLM도 추론·계획·기억·창의성 구멍, 수학 올림피아드 풀다 고교 수학·글자 수 세기 오류 등 일관성 부족

AGI 전환 과정

• 점진적 변화 유력, 물리세계(공장·로봇)는 물리법칙 지배라 현실 적용 10년+
• 하드 테이크오프 가능성: AI 자가 코딩·기하급수 개선 시 며칠 격차가 영원한 격차로, 전개는 미지수

경쟁·위험·규제

• 막대한 자원·압박의 치열한 시기, 질병·에너지 등 이점 크나 잘못된 가치관·불안전 방식이면 재앙
• 2대 위험: 악의적 개인·국가의 오용, AI 고도화에 따른 통제력 상실(가드레일 우회)
• 단일국 규제론 부족, 국제 협력+기민하고 현명한 규제 필요
• 사이버 보안·기계적 해석가능성(mechanistic interpretability) 투자, 거버넌스·국제 합의 시급

일자리와 교육

• 단기엔 파괴보다 보조 도구(알파폴드처럼), 잘 쓰는 사람 생산성 10배·창의성 극대 '황금기'
• 인간 고유: 진단은 AI 의사라도 공감·보살핌 필요한 '간호'는 로봇 대체 원치 않음
• 학생 조언: STEM·프로그래밍으로 원리 이해 + 파인튜닝·프롬프트 마스터해 100% 활용

급진적 풍요의 시대

• 20~30년 내 AGI가 질병·수명·새 에너지(상온 초전도·핵융합) 등 '루트 노드' 문제 해결, 우주 진출·번영 극대
• 제로섬 탈피: 현재는 자원 부족으로 기후 해법 알고도 희생 회피
• 물 부족 사례: 담수화는 에너지 제약, 무한 청정 핵융합 얻으면 쉽게 해결
• 새 경제학 필요: 포스트 AGI엔 가치·돈 개념 변화, 경제학자 선제 연구 필요

대중 반발과 도덕적 당위

• 산업혁명 이상 파급력, 분노·두려움은 거대 변화 앞 자연 반응
• 알파폴드로 불치병 신약 가능함을 설명하면 대부분 공감, 난제 방치가 더 걱정, AI를 올바로 만드는 건 생존 필수 과제