핵심 내용 요약
이 기사는 중고차 거래 플랫폼에서 AI 고객 서비스가 환불 비용을 포함한다고 약속했지만 판매자에 의해 이 약속이 무시된 사례와 타오바오(Taobao)에서 진행된 두 차례의 AI 고객 서비스 실험을 통해 중요한 문제를 제기합니다. AI가 “고객 서비스의 보조 도구”에서 “독립적으로 업무를 처리할 수 있는 에이전트”로 업그레이드될 때, 기업은 단순히 기존 프로세스에 AI를 적용하는 것만으로는 부족하다는 점을 강조합니다. 데이터, 규칙, 권한, 프로세스를 재설계해야 하며, 그렇지 않으면 AI의 의도와 실제 업무 수행 사이에 불일치가 발생하여 효율성이 저하될 수 있습니다. 결론적으로, AI의 진정한 가치는 기업이 AI가 효과적으로 작동할 수 있도록 자신의 시스템을 얼마나 잘 변화시킬 수 있는지에 달려 있으며, 단순히 더 강력한 모델을 사용하는 것만으로는 충분하지 않습니다.
1. AI 고객 서비스의 두 가지 역할: “보조자”인가, “독립적인 업무 처리자”인가?
타오바오는 두 차례의 실험을 통해 AI 고객 서비스의 두 가지 모델을 명확하게 비교했습니다:
- 첫 번째 실험: AI는 “보조자”로서의 역할
신입 고객 서비스 직원에게 AI가 도움을 주어 사용자 문제를 파악하고 자료를 찾아주며 답변을 작성했지만, 환불 여부나 메시지 발송 여부는 여전히 사람이 결정했습니다. 결과적으로 고객 서비스의 처리 속도가 향상되었고, 신입 직원도 경험 많은 직원처럼 전문적으로 업무를 수행할 수 있었으며, 사용자 불만도 줄었습니다. 이 경우 AI는 기존 프로세스(승인 절차, 책임 소재 등)를 변경하지 않았기 때문에 문제가 적었습니다.
- 두 번째 실험: AI가 직접 주도적으로 업무를 처리
AI가 직접 사용자와 대화를 나누었고, 인간 직원은 백업으로만 역할을 했습니다. 처리 속도는 16.8% 향상되었지만 사용자 만족도는 오히려 감소했습니다. 왜냐하면 AI가 문제를 해결했다고 주장했지만 실제로는 많은 문제가 해결되지 않았기 때문입니다(예: AI가 환불을 약속했지만 백오피스 시스템이 이를 실행할 수 없었거나, AI가 처리를 진행하는 도중에 인간 직원이 다시 확인해야 했습니다). 이 경우 기업의 기존 프로세스(데이터 불일치, 승인 지연 등)가 AI의 성능을 제한했습니다.
간단히 말해, AI가 보조자로서는 특정 업무의 효율성만 향상시킬 수 있지만, 독립적인 업무 처리자로서는 전체 프로세스를 개선해야 합니다.
2. 기존 프로세스에 AI를 적용하는 것은 “새로운 모터를 오래된 공장에 설치하는 것과 같다”: 효율성이 저하되는 이유
기사는 100년 전의 예를 들어 설명합니다. 증기 시대의 공장에서는 중앙 전동축이 모든 기계를 구동했으며, 공장과 장비는 이 축을 중심으로 설계되었습니다. 이후 전기 모터로 교체되었지만 전동축과 장비의 위치는 그대로였기 때문에 효율성이 향상되지 않았습니다. 결국 각 기계가 독립적으로 전기를 사용하도록 프로세스와 공장을 재설계해야만 모터의 진정한 가치가 발휘되었습니다.
AI도 마찬가지입니다. 기업이 AI를 기존 프로세스에 적용할 때(예: AI가 제안을 하지만 인간이 기존 규칙에 따라 승인을 진행함), 초기에는 비용(모델 구매, 직원 교육)이 발생하지만 실제 이익은 프로세스가 개선된 후에야 얻을 수 있습니다. 이것이 “생산성 J-곡선”의 개념입니다: 처음에는 효율성이 떨어지다가(투자가 보상되지 않음) 이후에 효율성이 급격히 상승합니다.
현재 많은 기업에서 AI를 사용하고 있지만, 이는 “새로운 모터를 오래된 공장에 설치하는 것”과 같습니다. AI가 빨리 작동할수록 기존 프로세스의 문제(예: 데이터 불일치, 승인 지연)가 더욱 두드러집니다.
3. AI가 “환불 가능”하다고 말하는 것과 실제로 환불하는 것 사이의 차이
AI가 “500위안을 환불할 수 있다”고 말하는 것은 쉽지만, 실제로 사용자 계좌에 돈을 환불하려면 두 가지 프로세스를 거쳐야 합니다:
- 업무 프로세스: AI가 일련의 작업을 연속적으로 수행해야 합니다(사용자 요구 파악 → 주문 찾기 → 결제 상태 확인 → 환불 규칙 검토 → 환불 적용 여부 판단 → 환불 실행 → 작업 기록). 이 과정 중 어느 한 단계라도 중단되면(예: AI가 규칙을 찾았지만 상사의 승인이 필요함) 이전에 절약된 시간이 모두 낭비됩니다. 타오바오의 실험에서는 5.8%의 대화만이 AI에 의해 처리되었는데, 이는 대부분의 업무 프로세스가 연결되지 않았기 때문입니다.
- 권한 프로세스: 기업이 AI에게 얼마나 많은 권한을 부여해야 하는가?
AI가 환불을 처리하려면 실제 주문 데이터를 확인할 수 있는 권한, 회사의 환불 규칙을 적용할 수 있는 권한, 회사 자금을 사용할 수 있는 권한이 필요합니다. 또한 언제 중단해야 하는지도 명확해야 합니다(예: 금액이 너무 크거나 사용자가 화가 난 경우에는 인간 직원이 개입해야 함).
이 두 가지 프로세스 중 하나라도 누락되면 AI의 기능이 제한됩니다. 업무 프로세스는 AI가 얼마나 많은 일을 할 수 있는지를 결정하고, 권한 프로세스는 기업이 AI에게 얼마나 많은 권한을 부여할 수 있는지를 결정합니다.
4. 고객 서비스뿐만 아니라 구매 부서도 같은 문제에 직면
AI의 문제는 고객 서비스에만 국한되지 않습니다. 예를 들어 구매 부서에서는:
- AI가 보조자로서의 역할: 구매 담당자를 도와 공급업체 정보를 정리하고 견적 이메일을 작성하는 데 사용되면 프로세스를 변경하지 않고도 효율성이 향상됩니다.
- AI가 독립적으로 업무를 처리하는 경우: 자동으로 재고 부족을 발견하고 공급업체에 연락하며 가격을 비교하고 구매 주문을 제출하지만, 기존 프로세스(예: 어떤 재고 데이터를 사용할 수 있는지, 최대 지출 금액은 얼마인지, 새 공급업체의 승인 절차는 어떻게 되는지)로 인해 문제가 발생할 수 있습니다. 이 경우 AI의 효율성이 제한됩니다.
해결 방법은 먼저 규칙이 명확하고 결과가 예측 가능한 작업부터 시작하여 프로세스가 원활해진 후에 점차 범위를 확대하는 것입니다.
5. 성숙한 기업과 AI 기반 기업: 누가 더 유리한가?
어떤 이들은 새로운 기업이 기존 프로세스가 없으므로 AI에 더 적합하다고 생각할 수 있지만, 실제로는 기존 프로세스를 잘 활용하는 기업이 AI를 더 효과적으로 활용할 수 있습니다. 성숙한 기업은 기존 시스템에 AI를 통합하여 더 높은 효율성과 생산성을 얻을 수 있습니다.
결론적으로, AI를 효과적으로 활용하려면 기존 프로세스를 잘 이해하고 개선하는 것이 중요합니다.