핵심 내용 요약
이 글은 AI 에이전트(AI Agent, 자동으로 작업을 수행할 수 있는 도구)의 보안 문제에 중점을 두고 있습니다. 기존의 신원 인증(“당신이 누구인지”)과 권한 관리(“당신이 무엇을 할 수 있는지”)는 AI 에이전트가 운영 체제를 직접 조작하는 상황(예: 결제, 데이터 수정, 서버 제어 등)에는 더 이상 대응할 수 없습니다. 왜냐하면 신원과 권한이 모두 합법적이더라도 AI 에이전트의 특정 행동이 사용자의 의도와 다를 수 있기 때문입니다. 따라서 업계는 새로운 보안 개념인 “오설라티(Authority, 구체적인 행동에 대한 권한 부여)”에 주목하기 시작했습니다. 이는 기존의 보안 체계를 보완하며, “이번 행동이 허용되어야 하는지”에 초점을 맞추고 있으며, AI 에이전트가 “보조 도구”에서 “생산 수준의 애플리케이션”으로 발전하는 데 있어 핵심적인 보안 보장입니다.
1. 기존 보안 모델의 한계: “자격”만 인식하고, “행동의 정당성”은 인식하지 못함
기존의 보안 시스템은 마치 회사가 직원에게 출입 카드를 발급하는 것과 같습니다. 즉, 당신이 회사 직원인지를 확인하고 해당 구역에 들어갈 수 있는 권한(Authorization)을 부여하지만, 그날 출입이 업무를 위한 것인지 다른 목적인지는 신경 쓰지 않습니다.
AI 에이전트가 등장하면서 이러한 한계가 더욱 두드러지게 되었습니다. 예를 들어, 결제 권한이 있는 AI 에이전트가 프로그램 오류로 인해 “공급업체 A에게 3만 원을 지불하는” 것을 “공급업체 B에게 5만 원을 지불하는” 것으로 잘못 처리할 수 있습니다. 신원과 권한은 모두 맞지만, 행동이 잘못된 것입니다. 기존의 보안 시스템은 “결제 권한이 있는지”만 확인하고, “이번 결제가 올바른지”는 확인하지 않아서 이러한 오류가 발생할 수 있습니다.
2. Authorization vs Authority: “무엇을 할 수 있는지”와 “이번에 그 행동을 할 수 있는지”的 차이
많은 사람들이 이 두 단어를 혼동하지만, 그 본질은 다릅니다:
- Authorization(권한): 특정 작업을 수행할 수 있는 능력을 나타냅니다. 예: 재무 담당자는 결제 인터페이스를 사용할 권한이 있고, 엔지니어는 서버를 조작할 권한이 있습니다.
- Authority(구체적인 행동에 대한 권한 부여): 이번에 해당 행동을 허용하는지를 나타냅니다. 예: 재무 AI 에이전트는 사용자가 명확히 “공급업체 A에게 3만 원을 지불하라”고 요청할 때만 결제를 수행할 수 있습니다. 사용자의 요청 없이 자율적으로 결제를 시도하면 권한이 있더라도 거부됩니다.
간단히 말해,前者는 “자격 증명서”이고, 후자는 “단일 행동에 대한 허가증”입니다.
3. AI 에이전트가 문제를 악화시키는 이유: “인간의 중간 단계”가 사라졌기 때문
과거에는 권한과 실제 실행 사이에 인간의 중간 단계가 존재했습니다. 예: 재무 담당자가 결제 권한을 받은 후에는 먼저 영수증, 금액, 수취인을 확인하고 문제가 없는지 확인한 후에 결제를 진행했습니다. 이 중간 단계가 많은 오류를 방지했습니다.
AI 에이전트의 가치는 자동화에 있습니다. 즉, 인간의 확인 과정을 건너뛰고 “작업 수신”부터 “행동 실행”까지를 일괄적으로 처리합니다. 권한과 실행 사이의 중간 단계가 사라지면서 이전에는 방지되었던 오류가 실제 손실(예: 잘못된 계좌로의 송금, 서비스 중단 등)로 이어집니다.
4. Authority의 본질: “사람을 신뢰하는” 것에서 “시스템 규칙을 신뢰하는” 것으로의 전환
이전에는 “이번 행동이 허용되어야 하는지”를 사람이 상식으로 판단했습니다. 하지만 이제는 사람이 실행 과정에서 제외되었으며, 이 판단은 시스템이 이해할 수 있는 규칙으로 바뀌어야 합니다:
- 작업의 명확한 제한: AI 에이전트는 사용자가 명확히 허가한 작업만 수행할 수 있습니다(예: “공급업체 A의 영수증 처리”). 범위를 벗어나는 행동은 즉시 거부됩니다.
- 실시간 상황 확인: 결제 시 수취인이 지정된 공급업체인지, 금액이 영수증과 일치하는지, 유효 기간이 지난 것은 아닌지 등을 확인해야 합니다.
- 취소 가능한 메커니즘: 사용자가 작업에 오류가 있다고 판단하면 언제든지 AI 에이전트의 실행을 중단할 수 있어야 합니다.
이는 보안 관리가 “특정 사람이 잘못을 하지 않을 것이라고 믿는” 것에서 “이 규칙이 잘못된 행동을 막을 수 있다고 믿는” 것으로 변화한다는 것을 의미합니다.
5. Authority가 AI 에이전트가 생산 환경에 진입하는 데 있어 “핵심적인 장벽”이 되는 이유
현재 많은 AI 에이전트는 아직 “보조 단계”(예: 보고서 작성, 데이터 검색 등)에 머물러 있어서 오류가 발생해도 다시 작성하면 됩니다. 하지만 “생산 수준의 작업”(예: 자동 결제, 클라우드 서버 관리, 물리적 장비 제어 등)을 수행하게 되면 오류의 비용이 매우 크게 됩니다(예: 100만 원의 잘못된 송금, 전체 시스템의 중단 등).
이때 성숙한 Authority 메커니즘이 있는지가 사용 가능한지의 결정적인 요소가 됩니다. 기업은 AI 에이전트의 모든 행동이 “이번에 허용되는지”에 대한 검증을 거치도록 해야 하며, 그래야만 AI 에이전트에게 “작업 권한”을 안심하고 맡길 수 있습니다. 따라서 Authority는 AI 에이전트가 “실험실”에서 “실제 비즈니스”로 나아가는 분수령입니다.
마지막으로
Authority가 반드시 업계 표준 용어가 될 것은 아니지만, 그 뒤에 있는 논리는 매우 중요합니다. 보안의 최종 목표는 “어떤 권한을 가지고 있는지”가 아니라 “이번 행동이 허용되는지”입니다. AI 에이전트의 보급은 우리가 보안에 대한 관심을 “주체의 자격”에서 “구체적인 행동의 합리성”으로 전환하도록 강요하고 있습니다. 이것은 미래 AI 보안의 핵심 방향 중 하나입니다.