핵심 내용 요약
지난 한 주 동안 실리콘밸리의 두 주요 기술계 인물(Anthropic의 CEO 아모디와 백악관의 기술 고문 색스)이 “선진 AI의 권력을 집중시킬 것인가, 분산시킬 것인가”라는 주제로 공개적으로 논쟁을 벌였습니다. 이는 실리콘밸리 내에서 AI 규제 방향에 대한 깊은 분열을 보여주는 사례입니다. 한쪽은 엄격한 진입 제도와 규제 메커니즘을 통해 AI를 소수의 규제받는 기업들이 관리하도록 함으로써 위험을 통제해야 한다고 주장하는 반면, 다른 쪽은 AI가 너무 강력해질 경우 집중화가 권력 남용으로 이어질 수 있으므로 시장 경쟁을 통해 분산시켜야 한다고 주장합니다. 이 논쟁은 “규제의 포로화”, 사전 심사 메커니즘, 여론 형성, 업계 진영 간 대립 등 다양한 측면으로 확산되었습니다.
1. 논쟁의 핵심: AI 권력의 “집중” vs “분산”: 거짓 이분법인가?
아모디(Anthropic)는 선택을 “소수 기업/정치인에게 집중시키거나 완전히 자유롭게 분배하는 것”이라는 이분법으로 단순화하는 것은 잘못이라고 말합니다. 그는 공정한 규제 규칙이 권력을 제도에 고정시켜 독점을 방지할 수 있다고 주장하며, 이는 사법 시스템이 “사적 처벌”보다 약자를 더 잘 보호하는 것과 같다고 설명합니다. 또한 AI는 “규모의 법칙”(모델이 커질수록 더 강력해지며 더 많은 연산 능력이 필요함)으로 인해 본질적으로 집중화되는 경향이 있으며, 개방형 모델(예: 개방된 가중치)도 결국 최대의 칩과 연산 능력을 가진 자에게 권력을 넘기는 것에 불과하다고 지적합니다.
색스는 반박하여 “AI가 너무 강력해서 분산시켜야 한다고 생각한다면, 그것은 AI가 너무 강력해서 집중화되어서도 안 된다고 생각합니다”라고 말합니다. 그는 권력이 소수의 기업에게 집중될 경우 위험이 더 크다고 주장하며, 시장 경쟁을 통해 분산시키면 독점을 방지할 수 있다고 강조합니다.
2. “규제의 포로화”: 공정한 규칙인가, 아니면 업계의 장벽인가?
이는 양측의 가장 격렬한 대립점 중 하나입니다.
- 아모디의 변호: 그는 “규제”와 “규제의 포로화”를 구분하며, 실리콘밸리 일부 사람들이 규제를 단순히 “업계 통제 규칙”과 동일시하는 것은 너무 단순하다고 말합니다. Anthropic이 지지하는 캘리포니아 법안은 소규모 기업에게도 면제를 제공하며, 이는 장벽을 만들려는 것이 아니라 규칙을 더 공정하게 만들고자 하는 것이라고 설명합니다.
- 색스의 반박: 그는 노벨 경제학상 수상자 스티글러의 “규제의 포로화” 이론을 인용하여, 특정 업계가 자원과 영향력을 이용해 규제 규칙을 자신들에게 유리하게 만들어 공공의 이익을 해친다고 지적합니다. 그는 Anthropic이 전 바이든 행정부의 AI 정책 관료들을 많이 고용했으며, 거대한 정부 기관을 설립하여 자신들이 원하는 규제 체계를 추진하고 있다고 비판합니다.
3. 사전 심사 메커니즘: “안전 장치”인가, “효율성의 장애물”인가?
양측은 AI 모델을 배포하기 전에 심사를 해야 하는지, 어떻게 심사해야 하는지에 대해 완전히 다른 의견을 가지고 있습니다.
- 아모디의 “안전론자” 관점: AI는 비행기나 약과 같아서 문제가 생길 수 있으므로 FDA(식품의약국)나 FAA(항공청)와 같이 사전에 기술 테스트와 감사를 실시해야 하며, 안전하지 않다면 배포를 허용해서는 안 된다고 주장합니다. 그는 금융 업계의 FINRA와 같은 자율 규제 기관을 설립하여 안전 검사를 담당하자고 제안합니다.
- 색스의 “효율론자” 관점: 그는 이러한 심사를 미국 DMV(차량管理局)에 비유하며, DMV가 업무 처리가 느리고 절차가 복잡하다고 지적합니다. 어떤 심사 방식이든 기업들이 승인을 기다리게 만들어 비즈니스 모델을 약화시키고 미국의 글로벌 AI 경쟁 속에서 속도를 늦출 것이라고 주장합니다.
4. 실리콘밸리 내부의 규제 진영: “안전” vs “가속”에서 다차원적인 대립으로
이 논쟁은 단두의 대결이 아니라 실리콘밸리 전체의 분열을 반영합니다:
1. 규제 시기/강도:
- 아모디(Anthropic): 배포 전에 강제적인 테스트가 필요하며, 정부는 고위험 모델의 배포를 중단할 권리가 있다고 주장합니다.
- 구글 DeepMind: 업계 공동 관리를 지지하며, 연방 감독 하에 독립적인 기관(AI 버전의 FINRA)을 설립할 것을 제안합니다.
- Meta, NVIDIA: 기본 모델 수준에서의 사전 제한에 반대하고, 응용 수준에서의 목표 지향적인 규제를 주장합니다.
2. 입법 경로:
- OpenAI: 먼저 캘리포니아, 뉴욕 등 대형 주에서 유사한 안전 법을 통과시킨 후 연방 차원의 통합을 추진합니다(역방향 연방주의).
- Anthropic: 각 주가 안전 기준을 높이는 것을 지지하며, 연방법이 주법을 쉽게 무효화해서는 안 된다고 주장합니다.
- 대형 기업(마이크로소프트, NVIDIA 등): 주법의 분열에 반대하며, 포괄적인 연방 규제 체계를 요구합니다.
3. 기술 배포:
- 마이크로소프트, Meta, NVIDIA 등: 개방된 가중치를 지지하여 더 많은 사람들이 모델을 사용할 수 있도록 하며, 이것이 미국의 경쟁력을 향상시킬 것이라고 주장합니다.
- Anthropic: 유일하게 서명하지 않은 선두 연구소로서, 개방된 가중치가 결국 권력을 연산 능력이 강한 자에게 넘길 뿐이며 문제를 해결하지 못한다고 생각합니다.
5. 여론 전쟁: AI의 위험은 “실제 우려”인가, “공포 마케팅”인가?
색스는 Anthropic이 AI의 위험을 과장하고 실업을 조장하는 것은 “공포 마케팅”이라고 비난하며, 이러한 분위기가 대중이 AI를 불신하게 만든다고 주장합니다. 그는 이러한 감정의 근원은 소수 엘리트들이 “자신들만이 기술을 통제할 수 있다고 생각하기 때문”이라고 말합니다. 반면 아모디 측은 위험을 강조함으로써 더 안전한 규제를 추진하려는 것이라고 주장합니다.
마지막으로, 세계 경제 포럼의 전문가들은 전 세계가 적절한 규제 수준을 찾고 있으며, 좋은 규제는 혁신을 저해하지 않아야 하지만 안전과 효율성의 균형을 맞추어야 한다고 지적합니다. 핵심은 협력이며, 아무도 모든 것을 단독으로 처리할 수 없으므로 그렇지 않으면 경쟁력을 잃게 될 것입니다.
이 논쟁의 본질은 “기술 권력을 누가 쥐어야 하는가”라는 문제입니다. 즉, 소수의 규제받는 기업들이 AI를 책임감 있게 사용할 수 있다고 믿는 것인가, 아니면 시장 경쟁을 통해 위험을 분산시킬 수 있다고 믿는 것인가입니다. 현재로서는 실리콘밸리도 명확한 답을 찾지 못했지만, 이 논쟁은 향후 AI 규제의 방향에 큰 영향을 미칠 것입니다.