核心内容の要約
この記事は、中古車売買プラットフォームでのAIカスタマーサービスが「名義変更手数料の含まれると約束したが販売員によって覆された」というトラブルや、淘宝（タオバオ）で行われた2回のAIカスタマーサービスの実験を通じて、重要な問題を浮き彫りにしています。それは、AIが「カスタマーサービスの補助ツール」（AIアシスタント）から「業務を自律的に処理できるエージェント」へと進化する際、企業は単に既存のプロセスにAIを組み込むだけでは不十分であるということです。データ、ルール、権限、プロセスを再設計しなければ、「AIが言うことと実際に行うことが異なる」という問題が発生し、効率の向上も限定的になります。結論として、AIの真の価値は、企業が自社の仕組みをAIに適したものに変えることができるかどうかにかかっており、単により強力なモデルを導入するだけではないのです。
1. AIカスタマーサービスの2つの役割：「補助者」か「自律的なエージェント」か？
淘宝は2回の実験を行い、AIカスタマーサービスの2つのモデルを明確に比較しました：
- 第1回実験：AIは「補助者」として機能する
新しいカスタマーサービススタッフにAIアシスタントを導入し、AIがユーザーの問題を識別したり資料を探したり返信を書いたりしましたが、最終的な決定（返金の有無や送信の可否）は人間が行いました。その結果、処理速度が向上し、新人でもベテランスタッフのように専門的な対応ができ、ユーザーの不満も減りました。この場合、AIは単なるツールであり、企業の既存のプロセス（承認や責任の所在など）は変わりませんでした。
- 第2回実験：AIが自律的に業務を処理する
AIが直接ユーザーを対応し、人間はバックオフィスで監督を行いました。処理速度は16.8％向上しましたが、ユーザーの評価は下がりました。なぜでしょうか？AIは会話を完了させましたが、多くの問題が実際には解決されませんでした。例えば、AIが返金可能と判断してもバックオフィスのシステムがそれを実行できなかったり、AIが処理を進めている途中で人間が再確認を求めたりしました。この場合、AIは実際の業務権限に直面していましたが、企業の古いプロセス（データの不整合や承認の遅さなど）が足かせとなりました。
簡単に言えば、AIが補助者として機能する場合は個々の作業の効率が向上しますが、自律的なエージェントとして機能する場合はプロセス全体を変更する必要があり、その難易度は大幅に上がります。
2. AIを既存のプロセスに組み込むと効率が上がらない理由
記事では100年前の例を挙げて説明しています。蒸気時代の工場では、中央の伝動軸がすべての機械を動かしており、工場や設備はその軸を中心に設計されていました。後に電動機に変わりましたが、最初は蒸気機関を電動機に置き換えただけで、伝動軸や設備の配置は変わりませんでした。効率の向上はありませんでした。電動機の真の価値を発揮するためには、各機械が独立して電力を使用するように工場やプロセスを再設計する必要がありました。
AIも同じです。企業がAIを既存のプロセスに組み込むと（例えばAIが提案を出しても人間が古い規則に従って承認する）、初期にはコスト（モデルの購入やスタッフのトレーニング）がかかりますが、実際の効果はプロセスが改善された後に現れます。これが「生産性のJカーブ」と呼ばれるものです：初期には低下し（投資が報酬に結びつかない）、その後に上昇します（プロセスが適応した後に効率が急上昇する）。
現在、多くの企業ではAIが「新しい電動機を古い工場に組み込んでいる」状態です。AIの処理速度が速くなるほど、既存のプロセスの問題（データの分散や承認の遅さなど）が明らかになります。
3. AIが「返金可能」と言っても実際には2つのプロセスが必要
AIが「500元を返金できる」と言うのは簡単ですが、実際にユーザーのアカウントにお金を振り込むには2つのプロセスが必要です：
- タスクプロセス：AIが一連の作業を連続して行う
ユーザーのニーズの識別 → 注文の検索 → 支払い状況の確認 → 返金規則の確認 → 適用の判断 → 返金の実行 → ワークフローの記録。これらは連携していなければなりません。もし途中で断絶（例えばAIが規則を見つけたが上司の承認が必要な場合）すると、前段階での効率の向上は無駄になります。淘宝の実験では、5.8％の会話のみがAIによって処理されました。これはほとんどのタスクプロセスが連携していなかったためです。
- 権限プロセス：企業はAIにどれだけの権限を与えるか？
AIが返金を行うには、実際の注文データを確認する権限や会社の返金規則を適用する権限、そして会社の資金を動かす権限が必要です。また、いつ停止するか（例えば金額が大きすぎる場合やユーザーが怒っている場合は人間に切り替える必要がある）も重要です。
これら2つのプロセスが欠けていると、AIの能力が十分に発揮されません。タスクプロセスはAIがどれだけのことができるかを決定し、権限プロセスは企業がAIにどれだけのことを許可するかを決定します。
4. カスタマーサービスだけでなく、購買部門も同じ問題に直面する
AIの問題はカスタマーサービスに限られません。例えば購買部門では：
- AIがアシスタントとして機能する場合：購買担当者が供給業者の情報を整理したり見積もりメールを書いたりするのを助け、プロセスを変更する必要がなく効率が向上します。
- AIが自律的に機能する場合：在庫不足を自動的に検出したり供給業者に連絡したり価格を比較したり購入申請を行ったりしますが、カスタマーサービスと同じ問題に直面します。AIがどのような在庫データを見ることができるか、どれだけの金額を使うことができるか、新しい供給業者を誰が審査するかなどです。もしすべての手続きが人間による承認を必要とする場合、AIの効果は限られます。
解決策は、まず「ルールが安定しており結果が取り消し可能な」タスクから試すことです（例えば小額の補充注文など）。プロセスがスムーズになったら徐々に範囲を拡大します。
5. 成熟した企業とAIを専門とする企業：どちらが有利か？
新しい企業は既存のプロセスがないため、AIに適していると思われがちですが、それぞれに課題があります：
- AIを専門とする企業：ゼロからプロセスを設計できますが、「経験の蓄積」が不足しています。例えば、ユーザーによる返金詐欺や供給業者の突然の値上げなどの特別な状況に遭遇した場合、AIにはデータがなくエラーが発生しやすいです。
- 成熟した企業：豊富な歴史データやルール、異常事例を持っていますが、これらの情報はベテランスタッフの頭の中や古いシステムにあります。これらをAIが読み取れるルールに変換する必要があります（例えば「特別な状況は適宜処理する」を「ユーザーのランクがV3以上で注文金額が1000元未満の場合は返金可能」といった形に）。そうでなければ、これらの経験は負担になります。
勝者はどちらかというと、どちらが先に「経験の蓄積」を達成するかです。
6. まとめ
AIを効果的に活用するためには、企業は既存のプロセスを見直し、新しい技術を適切に統合する必要があります。また、人間とAIの協力も重要です。これにより、効率と品質の向上が期待できます。