本文の要約
この記事は、ケビン・ケリー（KK）の著書『Out of Control』に記された予言を中心に展開しており、30年前にKKが持っていた「コントロールの喪失」に対する楽観的な見方と、今日のAI時代に人々が感じている「コントロールの喪失に対する不安」とを比較しています。KKは当時、機械時代の中央集権的なコントロールを放棄し、システムを蜂の群れや生態系のように下から上へと成長させることで、個人の自由と分散型の知性が解放されると考えていました。しかし今では、AIやアルゴリズムによってシステムは「コントロールを失っている」一方で、人々はツールの使用者からシステムの「フィードバックポイント」へと変わってしまいました。私たちの判断や選択、さらには欲望さえもAIによって代理され、コントロール感が徐々に失われています。記事ではこの変化の原因（権力のプラットフォームへの移行、プロセスの置き換え、意味の希薄化など）を分析し、対策としていくつかの重要な「スイッチ」を守ることで人間の主体性を保つよう提案しています。
1. KKが当時考えた「コントロールの喪失」：自由へと向かう技術的なロマンティシズム
KKが1994年に言及した「コントロールの喪失」とは、機械が反乱することではなく、システムが中央集権的なコントロールから解放され、生命のように下から上へと成長することでした。彼はいくつかの例を挙げています：
- インターネットには総合的なオフにするスイッチがないにもかかわらず、世界中を結ぶ「森」として成長しました；
- オープンソースコミュニティには階層的な管理がないにもかかわらず、Linuxというシステムが生まれました；
- ウィキペディアには編集委員会がいないにもかかわらず、最大の知識エンジニアリングプロジェクトとなりました。
彼は工業時代の「コントロール」（例えば工場の流れ作業や総合エンジニアの設計図）が硬直的すぎると考え、生命の最も強力な特徴は適応性、変異性、自己組織化だとしました。そのため、「創造の九つの法則」を提案しました（例えば「分散型の生存」や「小さな間違いを許すことで大きな間違いを避ける」など）。これらは後にテクノロジー業界の運用マニュアルとなりました（例えばマイクロサービスやA/Bテスト）。
KKの楽観的な見方は、中央集権的なコントロールを放棄することで個人に自由が戻るというものでした。当時の人々はシステムのアクターであり、検索したり、投稿したり、コードを書いたりすることで積極的に参加していました。
2. 今の「コントロールの喪失」：人間が中心からシステムの「部品」へ
しかし今の「コントロールの喪失」はKKが考えていたものとは異なります。システムは確かにコントロールを失っていますが、人間はもはや中心ではありません：
- 以前は自分で答えを探していましたが、今ではAIが直接答えを提供します；
- 以前は自分でコンテンツを選んでいましたが、今では推薦システムが代わりに並べ替えます；
- 以前はツールを使ってアイデアを実行していましたが、今ではAIが代わりにタスクを分割し、ツールを呼び出します。
AIは「ツール」から「代理」となりました。ツールはあなたの意図を拡大しますが、代理はあなたの代わりに意図を形成します。例えば、怒りの時にAIに「理性的な返答」を書かせると、効率的に見えますが、実際には自分で感情を表現するプロセスを失っています。
記事では心に刺さる比喩を使っています：**人間はまるで「緑の帽子」をかぶせられたようなものです——アルゴリズムがほとんどの「能動性」を奪い、あなたはただスクリーンの前でボタンを押したりスワイプしたりして機械に投票するだけです。あなたは蜂の群れを操る蜂ではなく、その群れに餌を与えられる口に過ぎません。
3. 権力は消えていない：ただ「見えないマスク」を着け替えただけ
KKは中央集権的なコントロールを放棄すれば権力が個人に戻ると考えていましたが、実際には権力は分散型システムを操るプラットフォームへと移っています。
例えば、AIによって製品のコストはほぼゼロに近づきますが、ユーザーや注意を集め、配信チャネルを握っている者が実際の力を持っています。少数のプラットフォーム（Google、Meta、ByteDanceなど）は計算能力やデータ、モデルを掌握しており、命令する必要はありません。彼らはあなたが見るコンテンツを変えるだけでよいのです：
- 何を見るか、どれくらい見るか、何をスキップするかをシステムが記憶し、それに基づいてあなたに「あなたらしい」コンテンツを提供します。徐々にあなたはエコーチamberに閉じ込められてしまいます；
- 自分で好きなものを選んでいると思っていますが、実際にはシステムがあなたの行動を規律しているのです。
サイバネティクスの創始者ウィナーは早くも警告しています：フィードバックループを自動化システムに任せると、システムが逆にあなたにどう行動すべきかを「教えて」しまう。このようなコントロールはより隠れており、あなたは自分がコントロールされているとは感じません。「これが私が欲しいものだ」と思うだけです。
4. コントロール感を失う原因：プロセスが平坦化され、意味が空洞化する
なぜ私たちは無力を感じるのでしょうか？それはAIが「面倒な」プロセスをすべて代わりに行ってくれるからです。そしてコントロール感はまさにこれらのプロセスから来ています：
- ライティングは意味を伝えることではなく、停滞の中で自分が何を言いたいかを発見することです；
- 読書は情報をダウンロードすることではなく、混乱の中で判断を形成することです；
- 選択は最適解を選ぶことではなく、その結果を受け入れるプロセスです。
AIによってすべてが「スムーズ」になりましたが、その代償は「空洞化」です：あなたは速くなりましたが、なぜそう選んだのかわかりません；多くを知っていますが、何を信じているのかわかりません。
もう一つ隠れた変化として、人間と現実世界とのつながりが断たれていることがあります。場所に行く前にガイドを見たり、人を理解する前にAIで心理分析をしたり、物事を作る前にプランを立てたりします——あなたは現実の世界（匂いや表情、気まずさ）ではなく、「計算されたバージョン」の世界と関わっています。これら「非効率的」なことこそが人生の質感です。
5. 私たちはどうすべきか？いくつかの「手放せないスイッチ」を守る
AIを拒否するのは現実的ではありません。重要なのはコントロールが失われた世界の中で、人間の主体性を保つことです。記事では4つの「スイッチ」を提案しています：
1. 問題の定義権：AIに「どうすればいいか」と尋ねる前に、「私が本当に解決したい問題は何か」を考えましょう。例えば仕事を変えるときは、まず自分で「現在の仕事に何が不満なのか」を考えてから、AIに職業を推薦してもらいましょう。
2. 価値の順序付け権：AIはどの選択がより効率的かを教えてくれますが、「何が価値があるか」を決めるのは自分です。例えば仕事を選ぶときは、自分で考えましょう。
3. 行動の権限：自分でアイデアを実行する権利を持ちましょう。AIに代わって決めさせないでください。
4. コミュニケーションの権利：自分の意見や感情を他人に伝える権利を持ちましょう。
これらのスイッチを守ることで、私たちはAIが提供する便利さと効率性を享受しながらも、人間としての尊厳と自由を保つことができます。