ملخص المحتوى الرئيسي
تدور هذه المقالة حول تنبؤات كيفن كيلي (KK) في كتابه “الخروج عن السيطرة”， مقارنةً بين التوقعات المتفائلة لكيلي قبل 30 عامًا حول فكرة “الخروج عن السيطرة” والقلق الذي يشعر به الناس في عصر الذكاء الاصطناعي اليوم. كان كيلي يعتقد أن التخلي عن السيطرة المركزية للعصر الميكانيكي والسماح للأنظمة بالنمو بشكل تلقائي، مثل النحل أو النظم البيئية، سيؤدي إلى تحرير الأفراد وإطلاق العنان للذكاء الموزع؛ لكن اليوم، مع ظهور الذكاء الاصطناعي والخوارزميات، أصبحت الأنظمة خارجة عن السيطرة، بينما تحول البشر من مستخدمين للأدوات إلى نقاط رد فعل في هذه الأنظمة – حيث يتم استخدام أحكامنا واختياراتنا بل ورغباتنا من قبل الذكاء الاصطناعي، مما يؤدي إلى فقدان الشعور بالسيطرة. تحلل المقال أسباب هذا التغيير (مثل انتقال السلطة إلى المنصات واستبدال العمليات وتلاشي المعاني)، ويقدم نصائح للتعامل مع هذا الوضع: الحفاظ على بعض “المفاتيح” الرئيسية للحفاظ على الهوية الإنسانية.
أولاً: “الخروج عن السيطرة” في رؤية كيلي قبل 30 عامًا: رومانسية تقنية نحو الحرية
عندما تحدث كيلي عن “الخروج عن السيطرة” في عام 1994، لم يكن يقصد تمرد الآلات، بل إزالة السيطرة المركزية والسماح للأنظمة بالنمو بشكل تلقائي مثل الكائنات الحية. استشهد بعدة أمثلة:
- الإنترنت ليس له مفتاح رئيسي، ولكنه نما ليصبح شبكة تربط العالم كله؛
- مجتمعات المصادر المفتوحة لا تحتوي على إدارة هرمية، ولكنها طورت نظام لينكس؛
- ويكيبيديا ليس لها لجنة مراجعة، ولكنها أصبحت أكبر مشروع هندسة معرفية.
كان يعتقد أن طرق السيطرة في العصر الصناعي (مثل خطوط التجميع في المصانع والمخططات التي يضعها المهندسون الرئيسيون) جامدة للغاية، بينما أقوى ما في الحياة هو القدرة على التكيف والتغير والتنظيم الذاتي. لذلك اقترح “تسع قواعد للإبداع”， مثل “البقاء الموزع” (عدم وضع كل البيض في سلة واحدة) و“تشجيع ارتكاب الأخطاء” (الأخطاء الصغيرة تمنع الأخطاء الكبيرة)، وقد أصبحت هذه القواعد فيما بعد دليلًا لصناعة التكنولوجيا (مثل استخدام الخدمات الموزعة واختبارات A/B).
كان تفاؤل كيلي يستند إلى فكرة أن التخلي عن السيطرة المركزية سيعيد الحرية للأفراد؛ في ذلك الوقت، كان البشر هم من يديرون الأنظمة – أنت تبحث وتنشر وتكتب الكود، وكل ذلك بمبادرة منك.
ثانيًا: “الخروج عن السيطرة” اليوم: تغير المعنى
“الخروج عن السيطرة” اليوم مختلف عما كان يتخيله كيلي: الأنظمة بالفعل خارجة عن السيطرة، لكن البشر لم يعودوا في المركز.
- في الماضي، كنت تبحث عن إجابات، والآن يقدم لك الذكاء الاصطناعي الإجابات مباشرةً؛
- في الماضي، كنت تختار المحتوى بنفسك، والآن تقوم أنظمة التوصية بترتيبه لك؛
- في الماضي، كنت تستخدم الأدوات لتنفيذ أفكارك، والآن يقوم الذكاء الاصطناعي بتقسيم المهام واستدعاء الأدوات نيابة عنك.
تحول الذكاء الاصطناعي من أداة إلى “وكيل” يؤثر على قراراتك – فعندما تتشاجر، يقترح عليك الذكاء الاصطناعي ردودًا “عقلانية”， وهو ما يبدو فعالًا، لكن في الواقع تفقد عملية التعبير عن مشاعرك.
يستخدم المقال مثالًا صادمًا: البشر كأنهم يرتدون قبعات خضراء – حيث يستولي الذكاء الاصطناعي على معظم “القدرة على التحكم”， وأنت فقط تنقر وتتصفح على الشاشة وتصوت للآلات. أنت لست النحلة التي تدير الخلية، بل مجرد فم يتغذى من قبلها.
ثالثًا: السلطة لم تختفِ، بل ارتدت “ستارة خفية”
كان كيلي يعتقد أن التخلي عن السيطرة المركزية سيعيد السلطة إلى الأفراد، لكن الواقع هو أن السلطة انتقلت إلى المنصات التي يمكنها التحكم في الأنظمة الموزعة.
على سبيل المثال، جعل الذكاء الاصطناعي تكاليف المنتجات قريبة من الصفر، لكن من يمتلك المستخدمين والانتباه وقنوات التوزيع هو من يمتلك السيطرة الحقيقية. عدد قليل من المنصات (مثل جوجل وميتا وبايت دوت) تمتلك القوة الحاسوبية والبيانات والنماذج، ولا حاجة لها إلى أوامر منك؛ كل ما عليها هو تغيير المحتوى الذي تراه: ما تشاهده ومدة مشاهدتك وما تتجاهله، ثم تقدم لك محتوى أكثر “تشابهًا” معك، وببطء تجد نفسك في غرفة صدى.
حذر مؤسس علم التحكم فيرنر منذ زمن بأن الأنظمة الآلية يمكن أن تعلمك كيف تتصرف، وهذا نوع من السيطرة أكثر خفاءً – لا تشعر بأنك مسيطر عليك، فقط تعتقد أن هذا ما تريده.
رابعًا: جذور فقدان الشعور بالسيطرة: استبدال العمليات التقليدية
السبب الرئيسي لفقدان الشعور بالسيطرة هو استبدال العمليات التقليدية بأنظمة آلية تتحكم في كل شيء، مما يجعل البشر يفقدون القدرة على اتخاذ قرارات مستنيرة والتحكم في حياتهم.
خامسًا: كيفية التعامل مع “الخروج عن السيطرة”
الحل هو الحفاظ على بعض المفاتيح الرئيسية للهوية الإنسانية، مثل:
1. التعلم من التقنيات الجديدة واستخدامها بشكل إبداعي؛
2. تطوير مهارات جديدة للتحكم في الأنظمة؛
3. التفكير بشكل نقدي في كيفية عمل الأنظمة وتأثيرها على البشر؛
4. تعزيز التعاون مع الآخرين لتحسين النتائج؛
5. الحفاظ على القدرة على اتخاذ قرارات مستنيرة ومسؤولة.