虎嗅

코드는 더 이상 귀중하지 않다: 앤드류 유(Andrew Ng)가 에이전트 시대의 소프트웨어 공학 새로운 규율에 대해 이야기하다

原文:代码已不再珍贵:吴恩达谈Agent时代软件工程新纪律

핵심 내용 요약

유단다(Yuanda)는 강연에서 에이전트 기반 AI(Agentic AI)라는 핵심 트렌드를 중심으로 AI가 작업 흐름, 프로그래밍, 데이터 아키텍처, 비즈니스 기회를 어떻게 변화시킬지에 대한 중요한 견해를 공유했습니다. 그는 에이전트 기반 AI가 단순히 한 번에 콘텐츠를 생성하는 것이 아니라, 사람이 글을 쓰듯이 반복적으로 수정하는 과정이라고 설명했습니다. 또한, AI를 이용한 프로그래밍은 프로그래밍을 포기하는 것이 아니라 AI를 “지휘하는” 법을 배우는 것이라고 강조했습니다. 프로토타입 개발의 효율성은 10배까지 향상되었으며, 시행착오의 비용은 매우 낮아졌습니다. PDF 분석과 음성 상호작용은 과소평가된 비즈니스 기회라고 언급했습니다. 데이터는 더 이상 특정 클라우드 플랫폼에 국한되지 않고, 전 세계에서 최적의 서비스를 찾을 수 있습니다. 그의 핵심 논리는 AI가 과거에 “비용이 많이 들었던” 작업들을 저렴하게 만들어주므로, 우리는 무엇이 중요한지, 무엇을 언제든지 포기할 수 있는지 다시 판단해야 한다는 것입니다.

1. 에이전트 기반 작업 흐름: 사람이 글을 쓰듯이 반복적으로 수정

이전에는 대형 모델을 사용하여 한 번에 글을 써야 했으며, 백스텝이나 중단이 허용되지 않았습니다. 비록 AI의 성능은 좋았지만, 이것이 최선의 방법은 아니었습니다. 이제 에이전트 기반 AI는 이러한 제한을 깨뜨렸습니다. 먼저 개요를 작성한 후 자료를 검색하고, 문맥에 맞게 적고, 초안을 수정하는 과정을 여러 번 반복합니다. 이는 보고서를 작성할 때 먼저 체계를 정리하고, 자료를 찾아보고, 초안을 수정한 다음 최종 버전을 확정하는 과정과 같습니다. 유단다는 미래의 많은 비즈니스 프로세스가 이러한 “반복적인” 자동화 작업 흐름으로 바뀔 것이며, 그에 따라 효율성이 더 높아질 것이라고 말했습니다.

2. AI 프로그래밍: “프로그래밍을 배울 필요가 없다”는 말을 듣지 마세요, AI를 “지휘하는” 법을 배우세요

어떤 이들은 “AI가 프로그래밍을 할 수 있으니 프로그래밍을 배울 필요가 없다”고 말하지만, 유단다는 이를 “역사상 최악의 직업 조언”이라고 비판했습니다. 역사적으로 프로그래밍 도구가 발전할 때마다(예: 구멍 뚫기에서 키보드 사용, 어셈블리 언어에서 IDE 사용으로의 전환) 더 많은 사람들이 프로그래밍 분야에 진입했습니다. 이는 진입 장벽이 낮아졌기 때문이며, 실제로는 수요가 더 많아졌습니다. 현재도 마찬가지입니다. AI를 이용한 프로그래밍은 코드를 작성하지 않아도 된다는 것이 아니라, AI에게 자신이 원하는 것을 명확하게 전달하는 법을 배우는 것입니다. 예를 들어, 마케팅 업무를 하는 사람은 직접 코드를 작성하지 않아도 AI에게 데이터 분석 스크립트를 생성하도록 지시할 수 있으며, 이를 통해 경쟁에서 우위를 점할 수 있습니다.

그는 프로그래밍을 두 가지 유형으로 나누었습니다:

  • 생산 수준의 코드: 안정성과 보안성이 요구되며, AI를 사용하면 효율성이 30%~50% 향상됩니다.
  • 프로토타입 개발: 통합이나 보안을 고려할 필요가 없으며, 효율성이 10배 이상 향상됩니다. 그의 엔지니어들은 이전에는 세 명이 6개월이 걸렸던 작업을 하루 오후에 완료할 수 있습니다. 따라서 프로토타입은 자유롭게 시험해볼 수 있으며, “안전하지 않은 코드”를 작성해도 문제가 없습니다. 비용이 매우 낮기 때문입니다.

3. 프로토타입 시행착오: 18개 중 16개가 실패해도 가치가 있습니다

이전에는 프로토타입을 만드는 데 많은 시간과 비용이 들었기 때문에 많이 시도하기 어려웠습니다. 하지만 이제 AI 덕분에 프로토타입의 비용이 급격히 낮아졌습니다. 유단다는 “더 많은 프로토타입을 만들어보세요! 18개의 컨셉을 빠르게 시험해보고, 그중 2개만 유용하다면 그것은 좋은 거래입니다”라고 말했습니다. 그의 팀은 샌드박스 환경에서 자유롭게 실험을 진행하며, 실제 시스템에 영향을 주지 않는 안전한 환경에서만 유망해 보이는 프로토타입만을 심사합니다. 심지어 기업들에게 “이 점을 중심으로 조직을 재구성하라”고 제안합니다. 빠른 시행착오를 통해 더 좋은 제품을 더 빨리 찾을 수 있기 때문입니다.

4. 과소평가된 비즈니스 기회: PDF 분석과 음성 상호작용

유단다는 사람들이 주목하지 않은 두 가지 AI 기회를 언급했습니다:

  • PDF 분석: 기업에서 사용되는 “이미지”의 대부분은 PDF 형태입니다(예: 의료 양식, 재무 보고서, 인보이스 등). 이전에는 AI가 PDF 내의 텍스트와 차트를 이해할 수 없었습니다. 하지만 이제 AI는 PDF를 반복적으로 분석하여 정보를 추출할 수 있습니다. 예를 들어, 인보이스의 금액이 데이터베이스의 금액과 일치하지 않을 경우 AI가 자동으로 표시해줍니다. 그는 한 엔지니어가 반나절 만에 인보이스 매칭 도구를 만들었다는 예를 들었습니다.
  • 음성 상호작용: 많은 사람들이 자신의 생각을 글로 표현하는 데 어려움을 겪지만, 구어는 더 자연스럽습니다. AI 음성 시스템의 문제는 “지연”과 “정확성”의 균형입니다. 예를 들어, 고객 서비스 담당자는 즉시 환불을 약속할 수 없지만, 사용자는 너무 오래 기다릴 수 없습니다. 유단다의 해결책은 AI가 사람처럼 “잘 질문하셨습니다, 생각해보겠습니다”라고 말하게 하는 것입니다. 이는 시간을 벌면서도 사용자가 무시당하는 느낌을 주지 않습니다.

5. 데이터는 더 이상 클라우드 플랫폼에 “구속”되지 않습니다, 어디서 서비스가 좋으면 거기로 이동하세요

이전에는 기업의 데이터가 어떤 클라우드에 저장되어 있으면 그 클라우드의 컴퓨팅 자원만을 사용해야 했습니다(데이터 전송 비용이 많이 들었기 때문입니다). 이를 “데이터 중력(data gravity)”이라고 합니다. 하지만 이제는 생성형 AI의 처리 비용이 전송 비용보다 100배 더 비쌉니다(1GB 데이터 전송 비용은 10센트에 불과하지만, 처리 비용은 30~40달러입니다). 따라서 데이터는 전 세계 어디로든 전송하여 최적의 AI 서비스를 찾을 수 있습니다. 새로운 모델이 나오면 2~3일 만에 바로 적용할 수 있습니다. 이는 기업이 더 이상 특정 클라우드 플랫폼에 의존하지 않고, 더 유연하게 최적의 도구를 선택할 수 있음을 의미합니다.

결론: “무엇이 중요한지” 다시 판단하세요

유단다의 강연은 본질적으로 “가치 재평가”를 제안합니다. 코드는 더 이상 모든 상황에서 귀중한 자산이 아닙니다(프로토타입 코드는 매주 다시 작성할 수 있습니다). 중간 도구 계층(오케이션 계층)은 기본 모델보다 교체하기 어렵습니다. 사람의 “문맥 판단”(예: 사용자가 무엇을 필요로 하는지 아는 것)은 코드를 작성하는 것보다 더 귀중합니다. 핵심 질문은 시행착오의 비용이 거의 0에 가까워질 때, 우리는 어떤 것에 에너지를 집중해야 하고 어떤 것을 포기해야 하는지입니다.