**Anthropic, Dario Amodei, 그리고 ‘마지막 민간 기업’**

핵심 내용 요약

Anthropic의 창립자인 다리오 아모데이(Dario Amodei)는 모순으로 가득한 인물입니다. 그는 한편으로는 초지능(AI)이 생물학적 무기나 대규모 실업과 같은 재앙을 가져올 수 있다고 강력히 경고하면서, 다른 한편으로는 최첨단 AI 모델의 개발에 전념하고 있습니다. 그는 AI가 결국 등장할 것이기 때문에 남에게 통제권을 넘겨주기보다는 스스로 “운전대”를 잡는 것이 낫다고 생각합니다. 그는 “헌법적 AI”와 신탁 구조를 사용하여 안전을 보장하려 하지만, “선수이자 심판”의 역할을 동시에 하는 권력 집중의 딜레마에 빠져 있습니다. 그는 AI가 암을 치료하고 전 인류에게 이익을 가져다줄 것이라고 환상하지만, 그의 이면에는 “미국 우선주의”의 일극적 패권 야망이 숨어 있습니다. 심지어 그가 Anthropic을 “세계에서 마지막으로 남은 민간 기업”으로 만들고자 한다는 소문도 돕니다. 그는 이에 대해 직접적으로 답변하지 않았지만, 그의 핵심 논리는 “오직 자신만이 권력을 잡아야 안전하다”는 것입니다.

1. 모순적인 다리오: 한편으로는 “앞에 심연이 있다”고 외치면서, 다른 한편으로는 가속 페달을 밟습니다

다리오의 모순은 겉으로 드러난 것이 아니라 두 가지 집념에서 비롯됩니다:

1. 빠르기에 대한 강한 욕구: 그의 아버지는 C형 간염으로 사망했으며, 새로운 약이 승인되기까지 7년이 더 걸렸습니다. 이 경험은 그에게 “느림은 죄”라는 인식을 심어주었습니다. 과학은 빨라야만 더 많은 사람들을 구할 수 있습니다.

2. 산업의 ‘포로 딜레마’: 그는 AI의 위험성을 알고 있지만, OpenAI나 Google와 같은 기업들이 경쟁하고 있으며 다른 국가들도 멈추지 않을 것입니다. 만약 Anthropic이 멈춘다면 더 신뢰할 수 없는 사람들이 초지능을 개발하게 될 것입니다. 그래서 그의 논리는 “모두가 만들려 한다면, 차라리 내가 먼저 만들어서 통제해야 한다”는 것입니다.

그는 기사에서 AI의 100가지 위험성을 열거하면서도, 동시에 AI를 이용해 개발 속도를 높이고 있습니다. 그에게 이것은 모순이 아니라 “필수적인 모험”입니다. 통제권을 먼저 잡아야만 안전을 논의할 수 있기 때문입니다.

2. Anthropic의 “안전” 전략: 스스로 운전대를 잡아야 안심된다

그가 OpenAI를 떠난 이유는 “모델을 만드는 사람의 말이 통하지 않는다”는 것이었습니다. Anthropic을 창립한 후, 그는 “통제권”을 회사의 핵심 가치로 삼았습니다:

• 헌법적 AI: 모델에게 일종의 “가치관 매뉴얼”을 제공하여 스스로 답변이 원칙에 부합하는지 검사하도록 했습니다. 하지만 이 “헌법”은 Anthropic이 직접 만든 것입니다. 즉, 한 회사가 전 인류를 대신하여 AI의 성격을 결정하는 셈입니다.
• 장기적 이익 신탁: 외부인들과 함께 신탁을 구성하여 회사가 돈을 벌기 위해 안전을 포기하지 않도록 하려 했습니다. 하지만 신탁의 권력은 여전히 Anthropic에게 집중되어 있으며, 이는 “스스로를 감시하는” 구조입니다.
• 선수이자 심판: Anthropic은 모델을 만들고, 위험을 평가하며, 기준을 설정하고, 규제 당국에 제안을 합니다. 마치 한 선수가 동시에 심판을 하는 것과 같습니다. 그의 안전 관점은 “오직 나만이 AI를 이해하기 때문에 나만이 AI를 통제할 수 있다”는 것입니다.

3. AI의 미래와 “미국 우선주의”: 일극적 패권의 야망

다리오는 AI가 암을 치료하고 가난한 국가들이 산업화를 건너뛸 수 있을 것이라고 말하지만, 그의 “전 인류에게 이익을 주는” 목표에는 미국이 먼저 AI를 확보하는 것이 전제입니다:

• 그는 미국과 그 동맹국들이 첨단 칩의 개발을 막아 중국과 같은 “전략적 경쟁자”가 강력한 모델을 만드는 것을 방지해야 한다고 주장합니다.
• 그는 이상적인 미래를 “영원한 1991년”에 비유했습니다. 소련이 해체된 후 미국이 독주했던 것처럼, 서방이 AI를 이용해 군사적, 경제적 우위를 확보한 후 다른 나라들에게 “공유하는” 상황을 말합니다.
• 중국의 기업 DeepSeek가 제한된 자원으로 경쟁력 있는 모델을 만들었을 때, 그는 오히려 “이것은 중국의 능력이 강하다는 증거이므로 칩을 주어서는 안 된다”고 말합니다. 이는 전형적인 “경쟁자가 강할수록 더욱 봉쇄해야 한다”는 논리입니다.

그의 “세상은 공공의 것이어야 한다”는 말은 사실상 “미국이 먼저 차지하고, 그 후에 Anthropic이 관리한다”는 의미입니다.

4. “마지막으로 남은 민간 기업”: 권력의 궁극적 상상

다리오가 Anthropic을 “세계에서 마지막으로 남은 민간 기업”으로 만들고자 한다는 소문이 있습니다. 그는 이에 대해 직접적으로 답변하지 않았지만, 그의 행동이 모든 것을 말해줍니다:

• 그는 시장(이익 추구), 대중(기술 이해 부족), 다른 기업(충분히 신중하지 않음), 비서방 국가(권위주의) 등 모든 “신뢰할 수 없는” 요소들을 배제했습니다. 결국 남은 것은 오직 Anthropic 자체뿐입니다.
• 그는 소문에 대해 “진정으로 효과적인 것은 암을 치료하는 것”이라고 답변하여 “권력 집중”이라는 핵심 문제를 회피했습니다.

이것은 마치 영화 《더 워처(The Watcher)》의 파라오와 같습니다. 그는 자신을 구세주로 여기며 “평화”를 위해 재앙을 직접 만들어냅니다. 다리오도 자신이 인류를 구할 수 있는 유일한 사람이라고 생각하지만, 그는 “모든 권력을 한 회사에게 맡기는 것이 가장 큰 위험이라는” 것을 깨닫지 못하고 있습니다.

결론

다리오는 진실한 이상주의자입니다. 하지만 진실함이 옳음을 의미하는 것은 아닙니다. 그는 AI를 통제하여 세계를 보호하고자 하지만, 결국 자신을 권력의 중심으로 만들어가고 있습니다. 영화 《더 워처》의 결말처럼: “아무것도 끝나지 않았으며, 모든 것은 결코 끝나지 않을 것입니다.” 한 회사가 자신이 전 인류를 대신하여 결정할 수 있다고 생각할 때, 그 회사는 이미 자신이 경고했던 “심연”이 되어버릴 수 있습니다.