アントロピック（Anthropic）、ダリオ・アモデイ（Dario Amodei）と「最後の民間企業」

核心内容の要約

Anthropicの創設者であるダリオ・アモデイは、矛盾に満ちた人物だ。一方では超AIが生物兵器や大規模な失業などの災害を引き起こす可能性について大声で警告しているが、同時に会社を率いて最先端のAIモデルの研究開発に全力を注いでいる。彼はAIがいずれ登場すると考えており、他人にそのコントロールを任せるよりも自ら「ハンドル」を握ることを選んだ。彼は「憲法的なAI」や信託制度を使って安全性を確保しようと試みているが、「アスリートでありながら審判も務める」という権力の集中というジレンマに陥っている。AIが癌を治療し、全人類の福祉に役立つと夢見ている一方で、その背後には「アメリカ優先」の単極的な覇権意図が隠されている。さらに、ダリオがAnthropicを「世界で最後の民間企業」にしたいと考えているという噂もある。彼はこれについて直接は答えていないが、彼の核心的な考え方は「自分だけが権力を握れば最も信頼できる」というものだ。

一、矛盾するダリオ：一方では「前方に深淵がある」と叫び、もう一方ではアクセルを踏む

ダリオの矛盾は演技ではなく、二つの執着から生まれている。

1. 速さへの執着：彼の父親はC型肝炎で亡くなり、新薬が承認されるまでに7年かかった。この経験から彼は「遅さこそが罪だ」と確信しており、科学は速くなければ多くの人々を救えないと考えている。

2. 業界のジレンマ：AIの危険性を認識しながらも、OpenAIやGoogleが競争しており、他国も動きを止めない。Anthropicが止まれば、より信頼できない者たちが超AIを作り出すだけだと考えている。だから彼の論理は「みんなが作ろうとしているのなら、自分が先に作ってコントロールしよう」というものだ。

彼は記事の中でAIの100の危険性を挙げつつも、AIを使ってAnthropicの開発を加速させている。彼にとってこれは矛盾ではなく、「必要なリスク」だ。コントロール権を握ることで初めて安全性が保たれるのだ。

二、Anthropicの「安全対策」：自分がハンドルを握ることで安心

ダリオがOpenAIを離れた理由は、「モデルを作る人の意見が通らない」ということだった。Anthropicを設立してから、彼は「コントロール権」を会社のDNAに組み込んでいる：

• 憲法的なAI：モデルに一連の「価値観のマニュアル」を与え、モデルが自らその答えが原則に合致しているかをチェックするようにした。しかし、この「憲法」はAnthropic自身が定めたものであり、まるで一つの企業が全人類のためにAIの性格を決めているかのようだ。
• 長期的な利益の信託：外部の人々と信託を組んで、会社が利益のために安全性を犠牲にすることを防ごうとしている。しかし、信託の権力は依然としてAnthropic中心に回っており、本質的には「自分で自分を監視する」状態だ。
• アスリートでありながら審判も務める：モデルの作成、リスクの評価、基準の設定、規制機関への提案まで、すべてを自分で行っている。まるで選手が同時に審判を務め、「公平だ」と言うようなものだ。

彼の安全観は実際には「AIを最も理解しているのは自分だから、自分だけがAIを管理できる」というものだ。

三、AIの未来と「アメリカ優先」：単極的な覇権意図

ダリオはAIが癌を治療し、貧しい国々が工業化を飛ばすことができると主張しているが、「全人類の福祉」という彼の考えには一つの前提がある——それは「アメリカが先にAIを手に入れること」だ：

• 彼はアメリカやその同盟国が先進的なチップを独占し、中国などの「戦略的競争相手」が強力なモデルを作るためのリソースを得るのを阻止すべきだと主張している。
• 彼は理想的な未来を「永遠の1991年」と例えており、ソビエト連邦の崩壊後にアメリカが軍事的・経済的な優位性を築き、それを他国と「共有する」状況を描いている。
• 中国の企業DeepSeekが限られたリソースで競争力のあるモデルを作り出したとしても、「これは中国の能力の証拠だから、チップを与えてはならない」と述べている。これは典型的な「敵が強ければ強いほど封じ込めよう」という論理だ。

彼の「世界は共有されるべきだ」という考えは、実際には「アメリカが先に手を出し、その後でAnthropicが管理する」というものだ。

四、「最後の民間企業」になること：権力の究極の夢

ダリオがAnthropicを「世界で最後の民間企業」にしたいと考えているという噂がある。彼は直接は答えていないが、彼の行動がすべてを物語っている：

• 彼は市場（利益追求を恐れる）、一般大衆（技術を理解していない）、他の企業（十分に慎重ではない）、非西洋諸国の政府（権威主義的）といったすべての「信頼できない」存在を排除している。最終的に残るのはAnthropicだけだ。
• 噂に対する彼の返答は「本当に重要なのは癌の治療だ」というもので、権力の集中という核心的な問題から目をそらしている。

これはまるで『ウォッチャーズ』のファラオ王のようだ。彼は自分を救世主だと思っており、「平和」のために災害を自ら引き起こしている。ダリオも自分だけが人類を救えると信じているが、すべての権力を一つの企業に委ねることが最大の危険であることに気づいていない。

結論

ダリオは真摯な理想主義者だが、その真摯さが正しいとは限らない。彼はAIをコントロールすることで世界を守りたいと思っているが、結果として自分自身を権力の中心に変えてしまっている。『ウォッチャーズ』の結末のように、「何も終わっておらず、すべては永遠に終わらない」のだ。一つの企業が自分で全人類の決定を下せると思った時、それは既に彼が警告していた「深淵」になってしまうかもしれない。