개요
2026년 LangChain 컨퍼런스 Interrupt 26에서 진행된 앤드류 응(딥러닝닷에이아이 창립자, AI Aspire 공동창업자)과의 파이어사이드 챗. 작년 이 자리에서 가장 많은 좋아요와 조회 수를 기록한 세션의 주인공으로 2년 연속 초청됐다. 대담은 코딩 에이전트의 빠른 진화, 소프트웨어 조직이 마주한 새로운 병목, 기업의 AI 도입 방식, FDE의 역할, 오픈소스 모델을 둘러싼 정책 리스크, 데이터 아키텍처 재설계까지 광범위하게 다룬다.
핵심 내용
코딩 에이전트, 예상보다 빠른 도약
- 하이프와 둠세이어 모두 과했다: 지난 1년간 AI 하이프는 응의 예상을 넘어섰고, "일자리 종말론" 같은 비관 서사도 예상보다 더 힘을 얻었다고 평가. 다만 본인은 일자리 종말이 실제로 벌어질 것으로 보지 않음
- 코딩 에이전트는 예상보다 빠르게 확산: "3개월마다 모든 게 바뀐다"는 AI 업계 클리셰가 전반적으로는 과장이지만, 코딩 에이전트 영역에서만큼은 실제로 체감될 만큼 사실이었다고 언급
- 사용 도구 조합이 빠르게 변화: 6개월 전에는 거의 클로드 코드만 썼지만 지금은 오픈AI 코덱스 비중이 늘었고 제미나이 CLI, OpenCode도 병행. 스마트폰으로도 코딩하는 워크플로가 생겨났다고 소개
- 엔터프라이즈로의 확산: 에이전틱 워크플로가 기업 내부로 본격 들어오기 시작한 점을 긍정적으로 평가
소프트웨어 엔지니어링의 새 병목들
- 제품 관리 병목이 심화: 1년 전 응은 "빌딩이 빨라지면 무엇을 만들지 결정하는 제품 관리 작업이 병목이 된다"는 관찰을 글로 남겼는데, 지난 1년간 이 현상이 더 뚜렷해졌다고 진단. 이는 제품 관리가 나빠졌다는 뜻이 아니라 제작 속도가 크게 향상된 결과라는 긍정적 맥락을 함께 강조
- 모든 단계가 병목이 될 수 있다: 소프트웨어 작성이 10-100배 빨라지면 마케팅(신기능을 어떻게 설명할지), 법무(과거엔 3개월 걸리던 개발에 1주일 법무 검토는 문제없었지만 하루 만에 개발이 끝나면 1주일 대기가 병목), 디자인 등 다른 모든 기능이 새로운 병목이 된다고 설명
- 소규모 고맥락 제너럴리스트 팀: 1-10명 규모의 팀에, 폭넓은 가드레일 안에서 자율적으로 움직이는 "고맥락 제너럴리스트"를 배치하는 방식을 실험 중. 이들은 엔지니어링뿐 아니라 마케팅 카피, 이용약관 초안 등 전통적으로 엔지니어링 밖의 의사결정까지 담당
- 비둘기집 원리: 팀이 소프트웨어 엔지니어링·제품 관리·법무·마케팅·디자인 5개 기능이 필요한데 인력이 2명뿐이라면, 원리상 각자 여러 역할을 겸해야 한다는 논리. AI 덕분에 "본업이 아닌 일도 약간 덜 서투르게" 해낼 수 있다는 점이 이를 가능케 함
- 적합한 배경은 다양하지만 엔지니어 출신이 우세: 제품 관리자, 마케터, 오퍼레이션 인력도 코딩을 배워 이런 역할에 진입할 수 있지만, 프런티어 기술에 대한 이해도가 높은 엔지니어 출신이 가장 많이 이 역할을 잘 수행하고 있다고 관찰
실무자가 갖춰야 할 역량
- 빌딩 블록을 아는 폭: 특정 프레임워크 하나의 문법보다 RAG, 에이전트, 평가, 가드레일, 인증, UI, 데이터 저장소가 각각 무엇을 할 수 있는지 넓게 이해하는 것이 중요. 사용 가능한 구성요소가 많을수록 조합 가능한 제품도 기하급수적으로 늘어난다는 시각
- 코딩 에이전트 조립 능력: 모든 구성요소를 직접 구현하기보다 에이전트에게 최신 도구와 문서를 제공하고 빠르게 연결하는 능력이 핵심으로 이동. 모델이 알지 못하는 최신 API를 찾아 문맥에 넣는 작업도 개발자의 역할
- 비개발 직군의 진입 경로: 제품 관리자나 마케터도 코딩 능력을 키워 고맥락 팀에 참여할 수 있으며, 반대로 엔지니어는 AI를 이용해 마케팅·법무 초안 같은 인접 업무 역량을 보완해야 함. 한 분야의 완전한 대체보다 역할 경계의 확장을 예상
빌딩 블록과 Context Hub
- 빌딩 블록 조합의 시대: RAG, 에이전트 프레임워크, 평가, 가드레일 같은 AI 빌딩 블록과 UI 컴포넌트, 인증, 프런트·백엔드 저장소 같은 비AI 빌딩 블록이 폭발적으로 늘고 있다고 진단. 레고 블록에 비유하며 블록 종류가 늘수록 조합 가능한 결과물이 기하급수적으로 증가한다는 논리
- 딥러닝닷에이아이의 역할: 이런 빌딩 블록을 익히도록 돕는 단기 코스를 다수 제공한다고 소개
- 코딩 에이전트의 최신 정보 격차: Nano Banana처럼 모델 지식 컷오프 이후 등장한 신규 API/SDK는 코딩 에이전트가 존재 자체를 모르는 경우가 있다고 지적
- Context Hub: 친구 로힛 프라사드와 함께 만든 프로젝트로, AI 에이전트를 위한 "스택오버플로"에 해당. 최신 API·SDK 문서를 에이전트에 제공하고, 에이전트가 그 문서에 피드백을 남겨 개선하는 구조. 응 본인도 이를 통해 코딩 작업 속도를 상당히 끌어올렸다고 언급 (LangChain이 만든 동명의 다른 프로젝트와는 별개임을 짚음)
교육의 변화 — CodeDream.ai
- 온라인 코스의 한계: 학습 콘텐츠 자체(무엇을 배워야 하는가)는 빠르게 바뀌고 있지만, 교육 전달 방식의 근본적 전환은 아직 오지 않았다고 평가
- CodeDream.ai: 몇 주 전 공개한 프리뷰 사이트. 강의 시청이 아니라 시뮬레이션 화상통화 형식의 "대화"로 설계 - 사용자가 원하면 듣기만 해도 되고, 언제든 AI를 끊고 질문할 수 있음
- 영상 대신 자바스크립트: 정적 영상이 아니라 영상 영역 안에서 직접 클릭해 프롬프트나 쿼리를 입력할 수 있는 인터랙티브 데모를 구현. 실제로 현재 작동 중인 기능이라고 확인
- 콘텐츠 개선 사례: 이날 오전 동료와 함께 트랜스포머 신규 코스를 공개했는데, 10년 전 정적 영상 위주였던 것과 달리 훨씬 인터랙티브한 시각화를 도입했다고 소개
엔터프라이즈 AI 도입 — 상향식 대 하향식
- 상향식 혁신의 한계: "천송이 꽃이 피게 하라"는 상향식 실험 전략에 많은 기업이 투자해왔지만, 대체로 성과가 크지 않다는 게 AI Aspire(응과 크리스 탠이 공동 창업한 AI 자문사)의 관찰. CEO와 이사회는 계속 ROI를 묻고 있음
- 상향식 실험은 계속 필요: 개별 실험이 전사 변혁으로 이어지지 않았다고 해서 중단할 대상은 아니며, 현장 아이디어와 빠른 프로토타입은 계속 유지해야 한다고 선을 그음. 다만 큰 성과를 내려면 경영진이 그중 소수를 골라 전사 워크플로 재설계로 확장해야 함
- 개별 솔루션 대 워크플로 전면 재설계: 상향식 혁신은 대개 기존 프로세스 중 한 단계만 자동화하는 개별 솔루션에 머물러 소폭 효율 개선에 그침
- 은행 대출 심사 사례: 대출 승인 워크플로는 마케팅→신청서 접수→심사·승인→최종 실사→집행의 5단계. 중간 심사 단계만 AI로 자동화하면 사람이 한 시간 검토하던 작업을 AI가 대신하는 정도지만, 일부 은행은 워크플로 전체를 재설계해 "10분 내 승인" 대출 상품을 새로 출시. 신청 라우팅, 마케팅, 데이터 인프라, 최종 실사·집행까지 전 단계를 함께 재설계해야 하므로 더 폭넓은 권한을 가진 리더의 하향식 개입이 필요하다고 설명
- 성장이 비용 절감보다 유망: 비용 절감은 절감할 수 있는 상한이 명확하지만 성장에는 실질적 한계가 없다는 점에서, 더 상상력 있는 AI 활용은 성장 지향이어야 한다고 강조
- 성장 사례: 고객서비스·콜센터 자동화(비용 절감보다 더 많은 고객을 더 빠르게 응대해 고객 경험을 개선), 드라이브스루 음성 주문 자동화 등을 예시로 제시
ROI 측정의 어려움
- 일률적 답은 없다: 기업마다 다양해 ROI 측정에 만능 공식은 없다고 인정
- 점진적 개선이 오히려 어려울 수 있다: "2% 성장"을 지시하면 직원들은 "조금 더 열심히 일하라는 뜻"으로 받아들이지만, "20-50% 성장"을 목표로 하면 단순히 더 열심히 일하는 것으로는 불가능하므로 오히려 더 창의적인 해법을 끌어낸다는 역설을 지적
- 300개 아이디어 스프레드시트 사례: AI Aspire와 함께 일한 한 금융기관은 300개가 넘는 AI 아이디어를 정리한 스프레드시트를 보내며 어디에 자본을 투입할지 도움을 요청. 기술적 실현 가능성 분석과 비즈니스 임팩트 분석 모두 상당한 작업이 필요했다고 설명
- 소수의 신중한 베팅 포트폴리오: 무모하게 한 방을 노리기보다, 성공 시 의미 있는 변화를 만들 소수의 베팅에 자원을 집중하는 포트폴리오 방식을 권장. 에이전틱 코딩 덕분에 프로토타입 비용은 급락했지만, 모든 아이디어에 본격 투자할 수는 없어 자원 배분에는 결국 하향식 개입이 필요하다고 정리
- 예산이 만드는 선택: 프로토타입 비용이 낮아져도 10만 달러 예산으로 모든 아이디어를 실행할 수는 없으며, 소수 프로젝트에 의미 있는 자원을 배분하려면 하향식 의사결정이 필요하다고 설명
FDE의 역할과 트레이드오프
- 하이프는 있지만 좋은 아이디어: 실리콘밸리에서 FDE(forward deployed engineer)가 화제이며, 실제로 좋은 개념이라고 평가. 다만 미래에는 사내 AI 엔지니어 대비 FDE 비중이 작을 것으로 전망, 하이프가 현실보다 다소 과장돼 있다고 지적
- 예상 배치 구조: 모든 기업이 다수의 FDE를 상시 고용하기보다, 더 큰 사내 AI 엔지니어 조직과 소수의 외부·파견형 FDE가 함께 일하는 형태를 예상. FDE는 초기 설계와 변화 관리를 가속하지만 장기 운영 지식은 사내에 축적돼야 한다는 구도
- FDE의 핵심 가치: 에이전트 워크플로 구축은 비즈니스 이해, 고객 대면 역량, 관측가능성·평가 체계 구축, 기술적으로 불가능한 요구를 되짚는 능력, 변화 관리까지 요구하는 어려운 작업으로, 깊은 기술적 판단력이 필요한 역할이라고 평가
- 벤더 중립적 FDE의 어려움: 선도 AI 모델과 코딩 에이전트가 빠르게 바뀌는 현재, 특정 벤더에 깊이 결속된 FDE를 두면 선택권을 잃을 위험이 있다고 지적
- 본인의 계약 원칙: 벤더들이 20-30% 할인 대가로 3년 계약을 제안해도, 1년 후 최선일 벤더를 알 수 없다는 이유로 개인적으로는 1년 이상 장기 계약을 거의 체결하지 않는다고 밝힘
- 벤더 중립 도구의 가치: LangSmith 같은 벤더 중립적 관측 도구가 장기 옵셔널리티 유지에 매우 유용하다고 평가
오픈소스·오픈웨이트 모델과 벤더 중립성
- 6-9개월의 격차, 그러나 유용: 오픈웨이트 모델이 프런티어 모델 대비 지속적으로 6-9개월 정도 뒤처져 있지만, 프런티어 모델 비용이 비싸 많은 유스케이스에서 파인튜닝 유무와 상관없이 오픈웨이트 모델을 사용하고 있다고 밝힘
- 정책 리스크에 대한 우려: 최근 2주간 백악관에서 모델 출시 전 검사를 요구하는 움직임에 우려를 표하며 행정부 내 지인들과 접촉 중이라고 언급. 미중 경쟁 논리 등을 명분으로 오픈소스·오픈웨이트 모델에 대한 "전쟁"이 계속되고 있다고 진단하며, 오픈소스를 보호하는 것이 세계를 풍요롭게 하고 옵셔널리티를 지킨다고 강조
데이터 아키텍처 재설계
- 비정형 데이터가 새 병목: 지난 10-20년간 기업은 정형 데이터(테이블, 관계형 데이터, 스프레드시트)를 정리하는 데 공을 들였지만, 이제 AI가 텍스트·이미지·PDF·오디오·비디오 같은 비정형 데이터를 처리할 수 있게 되면서 이를 올바른 시점·위치에 정리해 AI에 제공하는 작업의 가치가 급상승했다고 진단
- 아직 완전한 솔루션은 없다: 비정형 데이터를 다루는 벤더는 늘고 있지만, 완전히 만족스러운 단일 솔루션은 아직 찾지 못했다며 AI Fund·AI Aspire 내부에서 자체 데이터 재구조화 실험을 진행 중이라고 언급
- 향후 수천만-수억 달러 규모 프로젝트 전망: 과거 정형 데이터 아키텍처 정비가 대규모 프로젝트였듯, 향후 몇 년간 데이터를 AI/에이전트 친화적으로 재설계하는 수천만-수억 달러 규모 프로젝트가 많은 기업에서 벌어질 것으로 전망
- 기존 아키텍처의 문제: 데이터 파편화, 거버넌스 부재, 통일된 스키마 부재, 개인 노트북에 저장된 데이터, 사람 기준으로 설계된 권한 체계(에이전트가 사람의 권한을 그대로 상속해야 하는지 등)를 문제로 꼽음. 금융 서비스 업계에서 컴플라이언스 목적으로 20년간 아무도 열어보지 않은 PDF 문서 더미가 대표적 사례
- 코딩 실전 팁 - NoSQL 선호: 프로토타이핑 단계에서는 관계형 데이터베이스보다 몽고DB 같은 NoSQL을 선호한다고 밝힘. 스키마를 쓰기 시점이 아닌 읽기 시점에 정하면 반복 개발 속도가 빨라지고, AI에게 DB 마이그레이션을 맡길 때 약 100번에 한 번꼴로 전체 DB를 실수로 지우는 위험도 줄일 수 있다는 설명. 다만 대규모 프로덕션 워크로드에는 결국 관계형·확장성 있는 솔루션으로 전환한다고 덧붙임
- 에이전트 권한 모델이 핵심: 사람에게 부여된 접근 권한을 에이전트가 그대로 상속해도 되는지, 에이전트 행동을 어떻게 관측하고 감사할지가 새로운 설계 문제. 단순히 PDF를 벡터화하는 프로젝트가 아니라 권한·거버넌스·관측가능성까지 다시 짜는 작업으로 정의
투자자 관점 시사점
- 코딩 도구 시장은 여전히 유동적: 응 본인도 6개월 새 주력 도구를 클로드 코드에서 코덱스·제미나이 CLI 등으로 다변화했다고 밝힘. 특정 코딩 에이전트 벤더의 록인 효과를 과대평가하지 말아야 하며, 벤더 중립 관측 도구(LangSmith류)의 전략적 가치가 부각
- 엔터프라이즈 AI 지출의 무게중심 이동: 상향식 파일럿 투자의 ROI 정체가 확인되면서, 향후 지출은 워크플로 전면 재설계형 하향식 프로젝트로 이동할 가능성. 이를 실행하려면 여러 단계를 함께 바꿀 수 있는 폭넓은 권한의 리더십과 조직 역량이 필요하다는 설명
- 비정형 데이터 아키텍처가 차세대 대형 IT 지출 항목: 응은 이를 "수천만-수억 달러 규모"로 명시. 관련 벤더 생태계의 잠재 시장 확대 신호로 해석할 수 있으나, 응 스스로 "아직 완전히 만족스러운 솔루션이 없다"고 밝혀 초기 단계임을 시사
- FDE 인력 수요는 실재하나 규모는 제한적: FDE 하이프가 실제 채용 규모보다 과장돼 있다는 진단은, FDE 인력을 다수 보유한 스타트업의 확장성에 대해 신중한 시각을 요구
- 오픈웨이트 모델 규제 리스크: 백악관의 모델 출시 전 검사 논의는 오픈소스 모델 생태계와 이를 활용하는 기업들에 정책 불확실성 요인. 관련 정책 동향을 계속 모니터링할 필요
기억할 발언
- "6개월 전에는 거의 클로드 코드만 썼지만, 요즘은 오픈AI 코덱스도 많이 쓰고 제미나이 CLI와 오픈코드도 섞어 쓴다."
- "소프트웨어 작성이 10배, 100배 빨라지면 제품 관리뿐 아니라 사실상 모든 것이 병목이 된다."
- "저는 뛰어난 마케터는 아니지만, AI를 쓰면 예전보다는 조금 덜 서투른 마케터가 된다."
- "은행이 대출 승인 단계만 자동화하는 대신, 아예 '10분 내 승인' 대출 상품으로 워크플로 전체를 다시 설계했다."
- "우리는 비용 절감에 대해 계속 이야기하지만, 절감할 수 있는 돈에는 한계가 있고 성장에는 실질적 한계가 없다."
- "직원에게 2% 성장하라고 하면 '조금 더 열심히 일하라는 말이군'이라 받아들이지만, 20-50% 성장을 요구하면 더는 열심히 일하는 것만으로 안 되니 더 창의적인 해법을 찾게 된다."
- "저는 개인적으로 어떤 할인을 제안받아도 1년 이상 계약을 거의 체결하지 않는다. 1년 뒤 최선의 벤더가 누구일지 지금은 알 수 없기 때문이다."
- "오픈소스, 오픈웨이트를 지키는 것이 세상을 훨씬 풍요롭게 만들고, 우리 모두의 옵셔널리티를 지켜준다."
- "프로토타이핑할 때는 몽고DB를 많이 쓴다. 스키마를 쓸 때가 아니라 읽을 때 정하면 반복 속도가 훨씬 빨라진다."