مخاوف من "تمرد" الذكاء الاصطناعي تخرج من المختبرات: تحليل عميق حول الثقة والمنافسة والقواعد
مرحبًا بكم، أنا صحفي متخصص في الأخبار المالية والأعمال. اليوم، لن نتحدث عن ورقة بحثية تقنية مملة، بل عن "زلزال" داخل صناعة الذكاء الاصطناعي.
في التاسع من سبتمبر، استقال باحث متمرس في مجال الذكاء الاصطناعي يدعى جيكوب كوكسون من شركة أنثروبيك (Anthropic)، وهي إحدى أبرز شركات الذكاء الاصطناعي. لكن طريقة استقالته كانت مختلفة: لم يغادر بهدوء، بل خرج علنًا وحذر من أن شركتي أوبناي (OpenAI) وأنثروبيك يخوضان سباقًا غير مسؤول يدفع البشرية نحو حافة الخطر.
هذا مثل مهندس عمل في محطة نووية لسنوات عديدة، ثم خلع ملابس العمل ووقف عند المدخل وصرخ: "المفاعل على وشك الخروج عن السيطرة، وأنتم ما زلتم تضيفون الوقود بجنون!"
جوهر المقال يدور حول هذا الإنذار من كوكسون والتناقضات العميقة داخل صناعة الذكاء الاصطناعي. لكي يسهل عليكم الفهم، سأقسم الموضوع إلى خمسة جوانب وأشرحها بلغة بسيطة.
---
1. لماذا يستحق صوته الاهتمام؟ - انسحاب "الشخص الداخلي" أكثر إيلامًا من انتقاد "الشخص الخارجي"
أولاً، دعونا نعرف من هو كوكسون: ليس مجرد شخص يقف على جانب الطريق يشير بإصبعه، ولا مجرد شخصية إلكترونية تختلق قصصًا لجذب الانتباه.
سيرته المهنية قوية:
عمل في مختبري أوبناي وأنثروبيك، وهما من أفضل مختبرات الذكاء الاصطناعي في العالم، لمدة ثلاث سنوات. شارك في تدريب نماذج مثل GPT-4.5، واسمه مدرج في قائمة المساهمين الرسميين. هذا يعني أنه لا يعرف فقط كيف يتم إنشاء الذكاء الاصطناعي، بل شارك بنفسه في هذه العملية.
دوافعه نقية (أو ربما ثقيلة):
عادةً، يستقيل الموظفون لأسباب مثل عدم كفاية الرواتب أو سوء سلوك الإدارة أو رغبتهم في تغيير البيئة. لكن كوكسون استقال بسبب الشعور بالذنب. كان قلقًا من أن الشركتين تعملان على تطوير ذكاء اصطناعي قادر على تحسين نفسه بنفسه، دون أن تكون هناك أنظمة أمان فعالة.
لماذا هذا مهم؟
تخيلوا أنك طبيب واكتشفتم أن المستشفى يستخدم دواءً جديدًا لم يتم اختباره بشكل كافٍ وقد يكون له آثار جانبية قاتلة. إذا استقلتم فقط، فهذا اختيار شخصي. لكن إذا خرجتم وأخبرتم الجميع بذلك، فهذا يعتبر إنذارًا.
تصرف كوكسون جعله من "المشارك" إلى "المحذر". يعترف بأن المطورين قد يبالغون في تقدير المخاطر أو يخطئون في التوجه، لكنه اختار التعبير عن ذلك علنًا لأنه يعتقد أن الصمت أخطر من قول الأخطاء. لا يريد أن يتم استخدام عذر "الآخرون سيفعلون ذلك على أي حال" لإلغاء مسؤوليته.
النقطة الرئيسية: إنذاره ليس تنبؤًا بنهاية العالم، بل تحذيرًا من مخاطر قائمة على رؤية داخلية. لا نحتاج إلى الاعتقاد فورًا بأن النهاية قادمة، لكن يجب أن نستمع بجدية إلى سبب شعور أحد المتخصصين بأن هناك خطأ ما.
---
2. لماذا لا يعتقد الباقون أنه متشائم أكثر من اللازم؟ - "البحث في الأمان" ليس حلًا شاملًا، ومنطق المنافسة قاسٍ
بعد استقالة كوكسون، رد أحد الباحثين في أنثروبيك، صاموئيل ماركس، قائلًا: "أوافق على بعض المخاوف، لكنني أثق بأن أبحاثنا في الأمان ستقلل المخاطر، لذا اخترت البقاء."
هذا يطرح سؤالًا واقعيًا: إذا كان الجميع يعتقدون أن الأمر خطيرًا، فلماذا يرغب البعض في البقاء في "الحفرة"؟
أسباب البقاء معقدة ولا تقتصر على الجشع:
1. القدرات تحتاج إلى منصة: البحث في أمان الذكاء الاصطناعي يتطلب قوة حاسوبية هائلة وبيانات واسعة وصلاحيات للوصول إلى الأنظمة الأساسية، وهذه الموارد متوفرة فقط لدى الشركات الكبرى. لا يمكن إجراء اختبارات أمان حقيقية على أجهزة الكمبيوتر المنزلية. لذلك، قد يعتقد البعض أنهم يمكنهم تقليل المخاطر ببقائهم.
2. دورة المنافسة المفرغة: أوبناي تعتقد أن أنثروبيك غير موثوقة، لذا تسعى للسبق؛ وأنثروبيك تعتقد أن أوبناي غير موثوقة، لذا تسعى أيضًا للسبق.
- هذا مثل سائقين يتسابقان على حافة الهاوية: أحدهما يعتقد أن الآخر سيتوقف، لذا لا يتوقف؛ والآخر يعتقد أن الأول سيتوقف، لذا لا يتوقف أيضًا.
- النتيجة هي أن أحدًا لا يجرؤ على التوقف أولاً، لأن التأخير يعني الخسارة.
- في هذا المنطق، يصبح "الأمان" ذريعة للسبق التجاري. يمكن للشركات القول: "نستثمر المزيد في الأمان لأن منافسينا خطيرين، لذا يجب أن نكون الأوائل."
التناقض بين النوايا الحقيقية والنتائج: الكثير من الشركات تقول إنها تهتم بالأمان، وقد يكون ذلك صادقًا. لكن النوايا الحقيقية لا تغني عن النتائج. إذا أدى القلق من المنافسين إلى زيادة الاستثمارات وتسريع الخطوات، فإن "وعود الأمان" قد تصبح مجرد تهدئة ذاتية.
النقطة الرئيسية: ليس من الضروري أن يستقيل الجميع القلقون من المخاطر لكي تصبح المختبرات أكثر أمانًا. فالبحث في الأمان يحتاج إلى وجود أشخاص متواجدين فعليًا. لكن هل هؤلاء الأشخاص يقللون المخاطر حقًا، أم أنهم يسرعونها؟ هذا يحتاج إلى تحقق خارجي، ولا يمكن الاعتماد فقط على كلامهم.
---
3. لماذا يتم تجاهل التحذيرات؟ - درس حادثة مركبة الفضاء "تشالنجر": "ثقوب سوداء" في المنظمات
تذكرنا تحذيرات كوكسون بحادثة انفجار مركبة الفضاء "تشالنجر" عام 1986.
القصة كالتالي:
قبل الإطلاق، حذر المقاول كتابيًا من أن درجة الحرارة المنخفضة قد تؤدي إلى فشل الحلقات المطاطية وعدم إمكانية الإطلاق. وافقت الإدارة في البداية، لكنها غيرت رأيها لتسريع العملية. استمر المهندسون في الاعتراض، لكن أصواتهم ضاعت في عملية التقارير. في النهاية، لم يعرف المسؤولون بوجود اعتراضات، أو إذا عرفوا فلم يأخذوها على محمل الجد.
هل تتكرر هذه الحادثة في صناعة الذكاء الاصطناعي؟
قد يتم تجاهل تحذيرات كوكسون داخل المنظمة:
- يقول الموظف أ: "هذه الميزة خطيرة."
- يقول المدير ب: "اكتبها ودرسها."
- يقول الباحث ج: "لم أجد مشكلة كبيرة حتى الآن."
- ويستمر المشروع كالمعتاد.
في هذه العملية، لا أحد هو الشخص السيء؛ الجميع يقومون بواجباتهم. لكن النتيجة هي أن المعلومات الأمنية المهمة لا تصل إلى الأشخاص المناسبين.
"حق التعبير" قد يكون مجرد وسيلة للتهدئة: قد تسمح الشركات للموظفين بالتعبير عن آرائهم، لكن هذا لا يعني أن آرائهم ستؤثر على القرارات. إذا استمر المشروع رغم اعتراضاتهم، فإن "السماح بالتعبير" يصبح مجرد شكلية. يجعل الشركات تبدو "ديمقراطية" و"مفتوحة"، لكن القرارات تظل بيد عدد قليل من الأشخاص مدفوعين بالمصالح التجارية.
النقطة الرئيسية: لا يجب أن نسأل "لماذا لم يقف أحد؟" (لأن هناك من وقف، مثل كوكسون). يجب أن نسأل: ماذا فعلت المنظمة بعد ذلك؟ هل توقفت المشروع؟ أم تم تعزيز الفحوصات؟ أم تم تسجيل التحذيرات فقط ثم استمرت العمليات كالمعتاد؟
---
4. هل سياسات الأمان في الشركات كافية؟ - الشرعية لا تعني الأمان، والقواعد لا تتفوق على التكنولوجيا
لدى أنثروبيك وشركات الذكاء الاصطناعي الأخرى سياسات أمان متكاملة: ق