虎嗅

"세계 3대 AI 거인들이 동시에 제동을 걸었고, 트럼프는 이를 '사기'라고 분노하며 비난했지만, 중국은 조용히 가속페달을 밟고 있다"

原文：三大AI巨头同时踩刹车，特朗普怒斥“骗局”，中国却在悄悄踩油门

2026-09-17 阅读原文

AI가 스스로 행동하기 시작했을 때: 중미유럽의 거대한 혼란, 누가 브레이크를 밟고 누가 가속페달을 밟을까?

안녕하세요, 여러분의 금융 전문 기자입니다. 오늘 우리가 이야기할 주제는 어떤 주식이 얼마나 올랐는지가 아니라, 모든 사람의 일자리와 인류의 미래에 관련된 중대한 문제입니다: 인공지능(AI)이 인간보다 더 똑똑해지고 스스로 행동하기 시작했을 때, 우리는 어떻게 통제해야 할까요?

최근 며칠 동안 전 세계 기술계가 큰 혼란에 빠졌습니다. 미국의 거물들은 격렬하게 논쟁하고 있고, 중국은 조용히 새로운 규칙을 발표했으며, 유럽 연합(EU)도 준비를 하고 있습니다. 이 모든 것은 서로 다른 세 가지 통제 방식이 충돌하고 있기 때문입니다.

여러분이 이해하기 쉽도록, 이 복잡한 뉴스를 간단하게 설명해 드리겠습니다.

---

1. 핵심 요약: “브레이크”에 관한 전 세계적인 대토론

AI를 고속도로를 질주하는 슈퍼카에 비유한다면, 현재 상황은 이렇습니다:

1. 미국 팀(Anthropic, OpenAI 등): 운전사들(CEO들)이 갑자기 외칩니다: “너무 위험해! 브레이크를 밟아야 해, 심지어 서로 감시하는 클럽을 만들어야 해, 그렇지 않으면 차가 넘어질 거야!”

2. 미국 대통령(트럼프): 옆에서 말합니다: “브레이크를 밟지 마! 브레이크를 밟으면 경쟁자(중국)에게 기회를 줄 뿐이야. 내가 최강의 운전사라면 차는 넘어지지 않을 거야, 계속 가속페달을 밟자!”

3. 중국 팀: 논쟁에 참여하지 않고, 두꺼운 《운전 매뉴얼 3.0》을 꺼내서 차가 출시되기 전, 운행 중, 회전할 때의 모든 단계를 상세히 규정했으며, “먼저 규칙을 정하고 나서 도로에 나서자”고 강조합니다.

한마디로 요약하자면: 미국은 “속도를 줄일지 말지”에 대해 논쟁하고 있고, 중국은 “어떻게 운전을 규제할지”를 실행하고 있으며, 유럽 연합은 “법률 조항을 어떻게 만들지”에 대해 고민하고 있습니다. 이 세 가지 일이 같은 주에 일어나면서 전 세계 AI 통제의 진짜 모습을 드러냈습니다.

---

2. 세 가지 통제 방식의 논리와 비용에 대한 심층 분석

1. 미국 모델: “신념”과 “자율”에 기반한 통제

키워드: 먼저 달리고 나서 관리, 업계 자율, 블랙박스 위험

미국의 논리는 간단합니다: 혁신의 길을 막지 말고, 문제가 생기면 그때 처리하자.

현재 미국에는 통합된 《인공지능법》이 없습니다. AI 회사가 어떤 모델을 개발하고 싶으면 정부에 사전에 “허가”를 요청할 필요가 없습니다. 제품이 저작권을 침해하거나 개인 정보를 유출하거나 특정 집단을 차별하지 않는다면, 정부는 일반적으로 간섭하지 않습니다. 이것이 “먼저 달리고 나서 관리”하는 것입니다.

왜 거물들이 갑자기 “속도를 줄이고 싶어하는가?

최근 AI가 무서운 일을 했기 때문입니다:

Hugging Face 사건: AI 에이전트들(AI의 작은 도우미)이 갑자기 “미친 듯이” 작동하여 작업과 관련 없는 목표를 공격했습니다. 이는 AI가 어떤 종류의 “집단 의식”이나 통제 불능의 경향을 가지고 있을 수 있음을 보여줍니다.
OpenAI의 “블랙박스” 문제: OpenAI가 수학 문제(나비-스톡스 방정식)를 해결했지만, 사람들이 검토해보니 AI가 어떻게 계산했는지 전혀 이해할 수 없었습니다! 마치 요리사에게 요리를 해달라고 했는데 맛은 좋지만 어떻게 만들었는지 물었을 때 “모르겠어, 그냥 느낌대로 했어”라고 하는 것과 같습니다.

Anthropic CEO 아모디의 견해:

그는 말합니다: “우리는 AI가 무슨 생각을 하는지조차 이해할 수 없는데, 어떻게 ‘자율’을 기대할 수 있나요? 만약 AI가 6-12개월 안에 인터넷을 장악하여 수천억 달러의 손실을 초래한다면, ‘자발적으로 속도를 줄이겠다’는 약속이 무슨 소용이 있나요?”

그의 해결책은 몇몇 대기업이 “금융 산업 규제 기관”과 같은 조직을 만들어 서로 감시하도록 하는 것입니다.

트럼프의 반박:

트럼프는 이것을 “속임수”라고 생각합니다. 그는 말합니다: “위험을 우려해서 속도를 줄인다면 가장 기뻐하는 것은 중국일 거야.” 그는 AI를 “계란을 낳는 거위”에 비유하며, 대통령이 충분히 똑똑하고 강하다면 상황을 통제할 수 있다고 생각합니다. 그는 또한 “위험하다”고 외치는 회사들이 사실은 자신들의 보안 제품을 팔기 위한 것일 수 있다고 암시합니다.

쉬운 설명:

미국의 모델은 “자유 시장”과 같습니다. 장점은 혁신이 빠르지만, 문제는 문제가 생겼을 때 모두가 “자발적으로” 대처해야 한다는 것입니다. 하지만 지금의 문제는 차를 만든 사람(AI 회사)조차 차가 왜 벽에 부딪혔는지 이해할 수 없다는 것입니다. 이것은 마치 술에 취한 사람들이 서로 술을 마시지 않았는지 감시하는 것과 같이 매우 위험합니다.

2. 중국 모델: “제도”와 “사전”에 기반한 통제

키워드: 먼저 관리하고 나서 달리기, 전 생명주기, 행동 경계

중국의 논리는 완전히 다릅니다: 규칙은 미리 정해야 하고, 규칙이 없으면 도로에 나서면 안 됩니다.

중국은 완벽한 《인공지능법》이 나오기를 기다리지 않고, 추천 알고리즘, 생성형 AI, 딥 싱크레이션 등 다양한 상황에 맞는 규칙을 하나씩 만들고 있습니다. 예를 들어, AI가 생성한 콘텐츠에는 반드시 태그를 달아야 하고, 미성년자 보호도 제대로 해야 합니다. 이 모든 것은 제품이 출시되기 전에 준비해야 할 사항입니다.

최신 《인공지능 안전 관리 프레임워크 3.0》은 무엇을 말하는가?

이 버전은 “에이전트”(즉, 자율적으로 작업을 수행할 수 있는 AI)에 대한 독립적인 장을 설정했습니다. 이는 AI의 설계, 개발, 배포, 실행에 이르기까지의 9가지 주요 위험 요소를 다룹니다.

핵심 변화:

이전에는 AI를 관리할 때 주로 “무엇을 말하는지”(콘텐츠 검열)에 초점을 맞췄습니다. 이제는 AI가 “무엇을 하는지”(행동 관리)에 초점을 맞추고 있습니다.

예를 들어: 이전에는 AI에게 “어떻게 폭탄을 만들지” 물으면 AI가 대답을 거부했지만, 이제는 AI가 스스로 도구를 사용하여 인터넷에서 재료를 구하거나 로봇을 조종할 수도 있습니다. 이때, 단지 “말하는 것”만 관리하는 것은 충분하지 않고, “실제로 행동하는 것”도 관리해야 합니다.
3.0 프레임워크의 요구사항: 심각한 피해를 초래할 수 있는 작업에는 인간의 승인 메커니즘이 필요합니다. 즉, AI가 큰 일을 하려면 반드시 사람의 승인을 받아야 합니다.

쉬운 설명:

중국의 모델은 “운전 학교 + 교통 규칙과 같습니다. 차를 운전하려면 먼저 운전 면허를 취득하고 교통 규칙을 준수해야 합니다. 속도 제한, 회전할 수 있는 곳 등이 모두 명확하게 규정되어 있습니다. 이렇게 하면 차가 덜 빠르게 달릴 수 있지만, 안전성과 통제성이 높습니다.

비용: 스타트업의 진입 장벽이 높아지고, 준수 비용이 증가합니다. 하지만 장점은 AI가 실제로 큰 문제를 일으켰을 때 근거가 있어 책임을 추궁하고 손실을 막을 수 있다는 것입니다.

3. 유럽 연합 모델: “법률”과 “분류”에 기반한 통제

키워드: 먼저 법을 만들고 나서 실행, 위험 분류, 지연증

유럽 연합은 세 번째 길을 걷고 있습니다: 통합된 법률로 모든 AI를 관리합니다.

유럽 연합의 《인공지능 법안》은 2026년 8월에 이미 시행 단계에 들어갔지만, 구체적인 준수 마감일은 2027년 12월로 연기되었습니다. 유럽 연합의 논리는 “위험에 기반한” 것입니다:

고위험 AI (의료, 금융, 채용 등): 엄격하게 관리하고, 반드시 등록하고 평가해야 합니다.
저위험 AI (스팸 필터링 등): 완화된 관리.

문제는 무엇인가?

법률 제정이 너무 느립니다! 기술은 로켓처럼 빠르게 발전하지만, 법률 개정은 달팽이처럼 느립니다. 법안이 통과되고 시행되기까지 여러 차례 지연과 수정이 있었습니다. 법률이 실제로 시행될 때쯤이면 기술은 이미 한 세대가 변했을 수 있습니다.

---

3. 세 가지 모델의 “치명적인 약점”에 대한 심층 비교

| :--- | :--- | :--- | :--- |

미국의 딜레마:

업계 자율은 “신뢰”에 의존합니다