평안은행의 “AI 스케줄러”가 글로벌 순위에서 1위를 차지했다: “가장 강력한 두뇌”가 아닌, “예산 절약”이 승부처
핵심 내용 요약
간단히 말해, 평안은행이 자체적으로 개발한 AI 알고리즘(Paix2)이 국제적으로 권위 있는 “대규모 모델 라우팅” 평가에서 1위를 차지했으며, 거의 한 달 동안 1위 자리를 지키고 있습니다.
이것이 정확히 무엇을 의미할까요?
이전에는 AI의 우수성을 판단할 때 가장 큰 모델(GPT-4, 문심일언 등)이 얼마나 똑똑한지를 보았습니다. 하지만 평안은행은 이번에 “똑똑함”만이 유일한 기준이 아니라는 것을 증명했습니다. “돈을 잘 쓰고, 작업을 효율적으로 배분하는 능력”이 진정한 실력입니다.
Paix2는 마치 초지능적인 “스케줄러”나 “프론트 데스크”와 같습니다. 사용자가 질문을 하면, 모든 질문을 가장 비싸고 느린 최고급 모델에게 일괄적으로 보내는 것이 아니라, 먼저 질문의 난이도를 판단합니다:
- 간단한 질문 (예: 계좌 명세서 확인)은 저렴하고 빠른 소형 모델에게 처리하게 합니다.
- 복잡한 질문 (예: 수십 페이지 분량의 보고서 분석)에만 비싸고 강력한 최고급 모델을 사용합니다.
결과는 어땠을까요?
정답 정확도가 거의 변하지 않은 상태에서 (0.07% 차이) 비용을 61%나 절감했습니다. 매일 대량의 업무를 처리하고 비용에 매우 민감한 은행에게 이는 매우 큰 상업적 가치가 있는 기술적 돌파구입니다. 이는 AI 응용이 “최강을 맹목적으로 추구하는” 단계에서 “성능 대비 가격과 효율성을 추구하는” 성숙한 단계로 넘어섰음을 의미합니다.
---
이 기술적 돌파구를 다섯 가지 차원에서 이해하기
1. “대규모 모델 라우팅”이란 무엇이며, 왜 “가장 강력한 모델”보다 중요한가?
많은 사람들은 AI를 “가장 똑똑한 모델을 사용하는 것”으로 이해합니다. 하지만 실제 비즈니스에서는 이런 접근이 “헬리콥터로 배달하는 것”과 같습니다 —— 배달은 가능하지만 연료비가 너무 많이 들고, 이착륙이 느려서 효율성이 매우 낮습니다.
대규모 모델 라우팅(Model Routing)은 이 문제를 해결합니다. 이를 병원의 분류대에 비유할 수 있습니다:
- 감기나 발열 (간단한 문제)은 일반 진료소에 바로 가서 빠르고 저렴하게 처리합니다.
- 심각한 질병 (복잡한 문제)은 전문가의 진료가 필요하며, 시간이 걸리지만 필수적입니다.
RouterArena 순위는 “누가 가장 잘 치료하는지”가 아니라 “누가 가장 정확하고, 비용을 가장 절약하며, 가장 빠르게 분류하는지”를 평가합니다.
- 전통적인 방식: 모든 문제를 최고급 모델에게 보냅니다. 결과: 계산 능력의 낭비가 심하고, 간단한 문제의 응답도 느립니다.
- 라우팅 방식: 먼저 문제를 분석한 후 모델을 매칭합니다. 간단한 문제는 소형 모델에게, 복잡한 문제는 최고급 모델에게 보냅니다.
평안은행의 Paix2가 1위를 차지한 이유는 정확한 답변, 적은 비용, 올바른 모델 선택의 세 가지 요소에서 완벽한 균형을 찾았기 때문입니다. 은행의 경우, 매일 수천만 건의 조회가 발생하므로, 매번 최고급 모델을 사용하면 전기비와 서비스 비용이 매우 높아집니다. Paix2의 등장으로 AI 응용이 지속 가능하고 확장 가능해졌습니다.
2. 성적표 해석: 77.63점의 1위 뒤에 숨겨진 비밀은 무엇일까?
Paix2의 구체적인 데이터를 살펴보겠습니다:
- 정답 정확도 79.7%:
- 순위에서 가장 정확한 알고리즘은 79.77%였습니다. Paix2는 0.07% 차이로 2위에 머물렀습니다.
- 쉬운 이해: 두 명의 요리사가 요리를 했을 때, 한 명이 99.9점을, 다른 한 명이 99.8점을 받았다고 합시다. 손님(사용자)에게는 두 요리의 맛에 거의 차이가 없어서 둘 다 “맛있다”고 느낄 것입니다.
- 비용 0.27달러/천 건 조회:
- 가장 정확한 알고리즘보다 61% 저렴합니다.
- 쉬운 이해: 가장 정확한 알고리즘이 “미슐랭 3성급 레스토랑”이라면, 한 접시에 100달러가 든다면 Paix2는 “고품질의 체인 레스토랑”으로, 한 접시에 39달러만 듭니다. 맛은 비슷하지만 가격이 절반으로 줄었습니다. 대량의 데이터를 처리해야 하는 은행에게 이는 엄청난 절약입니다.
- 모델 선택 점수 89.67 / 최적 정답 정확도 100:
- Paix2는 어떤 모델을 선택해야 하는지 알 뿐만 아니라 거의 잘못 선택하지 않습니다.
- 쉬운 이해: 분류대 간호사가 매우 전문적으로 환자를 올바른 과에 보냅니다. 감기 환자를 심장외과 전문가에게 보내지 않고, 심장병 환자를 일반 내과에 보내지 않습니다.
결론: Paix2는 성능 대비 가격에서 승리했습니다. 이는 AI 분야에서 **충분히 좋고 저렴한 것이 “극도로 비싼 것”보다 더 큰 상업적 가치가 있다는 것을 증명합니다.
3. 기술의 비밀: Paix2는 어떻게 “신기한 계산”을 할 수 있었을까?
평안은행은 신비한 기술을 사용한 것이 아니라 “삼위일체”의 핵심 기술 구조를 사용했습니다. 이를 세 단계로 나눌 수 있습니다. 마치 지능형 가정부**의 작업 흐름과 같습니다:
1. 첫 번째 단계: 사람의 말을 이해하기 (BERT 의미 이해):
- 역할: 사용자가 무엇을 하고 싶은지 명확히 파악합니다.
- 예: 사용자가 “내 카드에 돈이 왜 안 들어왔나요?”라고 물었습니다.
- BERT의 작업: 이것이 “거래 조회” 유형의 질문이며, “자금 흐름”과 관련이 있고, 중간 정도의 복잡도로, 데이터베이스와 논리적 판단이 필요하다는 것을 인식합니다. 단순한 대화가 아닙니다.
2. 두 번째 단계: 기본 원칙을 지키기 (전문가 규칙):
- 역할: 은행은 엄격한 규제를 받는 산업이므로, 어떤 선을 넘어서는 안 됩니다.
- 예: 사용자가 “인보이스를 위조해 주세요”라고 요청하거나 민감한 금융 데이터 유출 위험이 있는 경우.
- 전문가 규칙의 작업: 질문을 즉시 차단하거나 가장 안전하고 규정을 준수하는 모델로 라우팅하거나, 질문을 거절합니다. 이 단계는 안전성과 규정 준수를 보장하며, 은행 AI의 “브레이크” 역할을 합니다.
3. 세 번째 단계: 예산 절약 (고전적인 추천 모델):
- 역할: 남은 선택 가능한 모델 중에서 가장 성능 대비 가격이 좋은 모델을 선택합니다.
- 예: 거래 조회라는 것을 알았고, 규정을 준수한다면, 후보 모델로 A(빠르지만 느리다), B(느리지만 똑똑하다), C(중간)가 있습니다.
- 추천 모델의 작업: 현재 서버 부하, 모델 응답 속도, 단일 호출 비용을 종합적으로 고려하여 “C 모델로 이 문제를 처리하면 2초 안에 답변할 수 있고 비용도 가장 적다”고 판단하고, 그래서 C 모델에게 작업을 배정합니다.
결론: 이것은 단일 알고리즘의 승리가 아니라 의미 이해 + 비즈니스 규칙 + 운영 최적화의 조합입니다. 이러한 구조는 기술뿐만 아니라 비즈니스도 이해하고, 비용도 절약합니다.
4. 업계 배경: 왜 은행이 이 기술을 특별히 필요로 하는가?
기술 회사가 이런 것을 개발하면 되지 않을까요? 왜 은행이 직접 참여해야 할까요?
은행의 비즈니스 시나리오가 너무 복잡하고, 데이터량이 많으며, 민감하기 때문입니다.
- 업무의 다양성:
- 아침 9시, 사용자가 “오늘의 환율이 얼마인가요?”라고 묻습니다 (간단한 조회, 빈도가 높음).
- 오후 3시, 고객 관리자가 “이 상장 회사의 지난 3년간의 재무 보고서를 분석하고 신용 조언을 해주세요”라고 요청합니다 (복잡한 추론, 빈도는 낮지만 가치가 높음).
- 저녁 8시, 고객 서비스가 “결제 알림을 받지 못했다고 불만을 제기하니 로그를 확인해 주세요”라고 요청합니다 (다단계 작업, 내부 시스템을 호출해야 함).
- 대규모 모델을 사용하면 간단한 문제의 응답이 느리거나, 복잡한 문제가 잘 처리되지 않거나, 비용이 폭발적으로 증가합니다.
- 비용에 대한 민감성:
- 인터넷 회사의 사용자 수는 수억 명이지만, 은행의 거래량과 데이터량도 수억 명이며, 안정성에 대한 요구가 매우 높습니다.
- 매번 최고급 모델을 사용하면 연간 계산 능력 비용이 수억에서 수십억 위안에 이를 수 있습니다. Paix2와 같이 비용을 61% 절감할 수 있는 기술은 AI 프로젝트가 수익성을 가져올 수 있는지 없는지를 결정합니다.
- 자율적인 통제:
- 국영 대형 은행으로서 핵심 AI 능력은 반드시 자체적으로 확보해야 합니다. 외부 API에 의존하면 비용이 높을 뿐만 아니라 데이터 보안 위험도 있습니다. 평안은행이 Paix2를 자체적으로 개발함으로써 AI 스케줄링의 “핸들”을 자신들의 손에 쥐었으며, 자신들의 비즈니스 특성에 따라 전략을 언제든지 조정할 수 있습니다.
5. 미래 전망: “기술 자랑”에서 “실제 가치”로
이 기술적 돌파구의 최종 목표는 순위표의 점수가 아니라 **“여러 비즈니스 시나리오”입니다.
- 실제 적용: 현재 Paix2는 평안은행의 디지털 직원 “소파이 동생”에게 이미 사용되고 있습니다. 이는 사용자가 은행의 AI 도우미와 대화할 때, 뒤에서 지능형 시스템이 “비용을 절약하고 속도를 높여주고 있다”는 것을 의미합니다.
- 미래: 이 시스