핵심 내용 요약
국내의 주요 기술 기업들(알리바바, 바이두, 텐센트, 字节)은 업무용 AI 도구(오피스 에이전트)를 “모델 집합” 방식으로 전환하고 있습니다. 이제는 자사의 대형 모델에만 의존하지 않고, 지스푸(JiSpu), 딥시크(DeepSeek)와 같은 제3자 모델도 활용하여 사용자가 자유롭게 선택할 수 있도록 하고 있습니다. 이러한 변화의 핵심 목적은 사용자들이 실제 업무(보고서 작성, PPT 제작, 표 분석 등)를 AI에 맡기도록 유도하여, 작업 분해, 도구 호출, 사용자 피드백과 같은 귀중한 데이터를 축적하는 것입니다. 이 데이터를 바탕으로 AI의 “지휘 시스템(Harness)”을 더욱 최적화할 수 있습니다. 하지만 이와 함께 발생하는 문제는 “루팅(Routing)”입니다: 다양한 작업에 가장 적합한 모델을 어떻게 선택하고, 효과, 속도, 비용이라는 세 가지 요소를 동시에 만족시킬 수 있을까 하는 것입니다. 이것이 미래 경쟁의 핵심이 될 것입니다.
1. 왜 업무용 AI들이 모델을 집합하고 있는가? —— 사용자가 먼저 사용하게 하는 것이 중요
과거에는 대형 모델의 경쟁이 “누구의 모델이 더 강력한가”였지만, 업무용 AI의 단계에서는 논리가 바뀌었습니다: 우선 사용자를 유치하여 실제로 작업을 맡기게 하는 것입니다.
예를 들어, 천문(千问) 오피스는 지스푸 GLM-5.3과 딥시크 V4 Pro를 도입했으며, 텐센트 워크바디(WorkBuddy)는 혼위안(HunYuan), 지스푸, 미니맥스(MiniMax) 등 다양한 모델을 사용하고 있습니다. 왜일까요? 단일 모델로는 모든 작업을 처리할 수 없기 때문입니다 —— 어떤 모델은 콘텐츠 작성에 강하고, 어떤 모델은 표 계산에 강하며, 또 다른 모델은 PPT 제작에 강합니다. 모델 풀이 다양할수록 사용자가 겪는 문제를 해결할 확률이 높아지고, 그 결과 사용자들이 더 많이 사용하게 됩니다.
더 중요한 것은, 사용자가 많이 사용할수록 AI가 얻을 수 있는 “실제 작업 흐름 데이터”도 많아진다는 점입니다. 예를 들어, 사용자가 AI에게 보고서를 요청할 때, AI는 이를 “자료 검색 → 개요 작성 → 내용 채우기 → 수정”으로 어떻게 분해하는지 알 수 있습니다. 어느 단계에서 실패했는지, 사용자가 어디를 수정했는지 등의 데이터는 AI의 진화에 필수적입니다. 바이두 고위 관계자는 공공 데이터는 이미 모델들이 충분히 학습했다고 말하며, 미래 AI의 발전은 “사람이 생성하는 새로운 지식”에 달려 있다고 했습니다. 실제 작업 흐름 데이터가 바로 그 지식의 원천입니다.
따라서 모델을 집합하는 것은 기술을 과시하기 위한 것이 아니라, 사용자가 사용하도록 유도하여 데이터를 축적하고, “사용자 사용 → 데이터 증가 → AI 개선 → 더 많은 사용”의 순환을 만들기 위함입니다.
2. 집합이라고 해서 “경계가 없는 것은 아니다” —— 대형 기업들은 여전히 자신만의 생태계를 지키고 있습니다
모두가 제3자 모델을 도입하고 있지만, 자세히 살펴보면 각 기업의 모델 풀에는 경쟁사의 모델이 없습니다.
예를 들어, 텐센트 워크바디에는 알리바바의 천문이나 字节의 시드(Seed)가 없으며, 字节 TRAE Work에는 텐센트의 혼위안이 없습니다. 왜일까요? 대형 기업들은 경쟁사의 모델을 사용자에게 추천하고 싶지 않기 때문입니다. 사용자가 자사 AI에서 경쟁사의 모델을 사용하면 고객이 빼앗길 수 있습니다. 따라서 집합은 “개방적”이지만, 그 개방에는 한계가 있으며 생태계 장벽은 여전히 존재합니다.
이것은 마치 백화점의 전문 매장과 같습니다: 다른 브랜드를 도입할 수는 있지만, 경쟁사의 매장이 들어와 사업을 빼앗도록 하지는 않습니다.
3. 루팅: 모델 선택의 핵심 문제 —— 어떻게 하면 효율적으로 모델을 선택할 수 있을까?
여러 모델을 AI에 탑재하는 것은 첫 단계일 뿐, 진짜 어려운 것은 각 작업에 적합한 모델을 선택하는 것입니다. 이것이 바로 “루팅(Routing)”입니다.
여기에는 “불가능한 삼각관계”가 있습니다: 효과가 좋은 모델은 일반적으로 비싸고(예: 복잡한 작업에 대형 모델 사용, 한 번의 호출에 몇 원이 소요됨), 속도가 느릴 수 있으며; 속도가 빠른 모델은 효과가 좋지 않을 수 있습니다; 저렴한 모델은 복잡한 문제를 해결하지 못할 수 있습니다. 루팅의 핵심은 이 세 가지 요소 사이에서 균형을 찾는 것입니다:
- 간단한 작업(예: 회의록 생성): 저렴하고 빠른 모델 사용하여 비용을 절약합니다;
- 복잡한 작업(예: 연간 판매 데이터 분석 및 PPT 제작): 효과가 좋은 모델 사용하여 품질을 보장합니다;
- 긴급한 작업(예: 10분 안에 계획안 필요): 속도가 빠른 모델 사용하며, 효과를 약간 희생해도 괜찮습니다.
사용자에게는 “결과의 질, 대기 시간, 비용”이 중요합니다; 기업 고객에게는 대량 작업의 비용 차이가 큽니다 —— 예: 한 번의 호출 비용이 0.1원 차이라도 100만 번이면 10만 원의 차이가 됩니다.
따라서 루팅은 단순한 “모델 선택”이 아니라 “경제적 계산 + 효과적인 결정”입니다.
4. 최종 경쟁: 누구의 “지휘 시스템”이 더 똑똑한가?
모델은 구입하거나 도입할 수 있지만, 작업을 분해하고, 모델을 선택하며, 도구를 호출하고, 실패 시 복구하는 과정을 효율적으로 연결하는 것이 진짜 경쟁 포인트입니다. 이것이 바로 AI의 “지휘 시스템(Harness)”입니다.
예를 들어, 사용자가 “Q3 판매 보고서를 만들어 달라”고 요청하면, AI의 지휘 시스템은 작업을 “Q3 판매 데이터 가져오기 → 성장 추세 분석 → 보고서 개요 작성 → 내용 채우기 → PPT 디자인”으로 분해해야 합니다. 그런 다음 각 단계에 적합한 모델을 선택합니다: 데이터 가져오기에는 표 계산에 강한 모델, 추세 분석에는 논리적 사고에 강한 모델, 내용 작성에는 콘텐츠 작성에 강한 모델을 사용합니다. 만약 어떤 단계에서 실패하면 자동으로 복구할 수 있어야 합니다.
이러한 지휘 시스템의 성능은 플랫폼이 축적한 실제 작업 데이터와 운영 경험에 달려 있습니다. 예를 들어, 같은 모델을 선택하더라도 어떤 플랫폼은 “지스푸를 사용하면 딥시크보다 비용이 절약되고 효과가 비슷하다”고 정확하게 판단할 수 있지만, 어떤 플랫폼은 그렇지 못합니다.
따라서 미래 업무용 AI의 경쟁은 모델의 수가 아니라 지휘 시스템의 능력입니다. 즉, 효과, 속도, 비용 사이에서 최적의 해결책을 찾아 사용자에게 더 나은 경험과 비용 절감을 제공하는 것입니다.
한 마디로 요약
업무용 AI는 “단일 모델 경쟁”에서 “다중 모델 집합”으로 전환하고 있으며, 이는 사용자와 데이터를 확보하기 위함입니다. 하지만 이러한 변화를 성공적으로 이끌기 위해서는 먼저 “모델 선택”의 문제를 해결해야 합니다. 결국 경쟁은 AI의 “지휘 능력”에 달려 있습니다. 이것은 마치 식당을 운영하는 것과 같습니다: 다양한 음식(모델)을 준비하여 고객을 유치한 후, 각 고객(작업)에게 가장 적합한 음식을 추천하고, 주방(지휘 시스템)의 효율과 경험으로 고객을 유지하는 것입니다.