ملخص المحتوى الأساسي
نشرت شركة Anthropic، الشركة الرائدة في تطوير نموذج الذكاء الاصطناعي Claude، مقالًا دعت فيه إلى التباطؤ أو التوقف المؤقت عن تطوير التقنيات المتقدمة في مجال الذكاء الاصطناعي، وذلك لأن الذكاء الاصطناعي قد يصل إلى نقطة حرجة يمكنه فيها تحسين نفسه بشكل ذاتي، مما قد يؤدي إلى خروج عن السيطرة ويثير اضطرابات اجتماعية. لكن هذا النداء تم التشكيك فيه على نطاق واسع باعتباره حيلة تسويقية قبل الإدراج في البورصة (لرفع القيمة السوقية والسيطرة على التنظيمات). من ناحية أخرى، هناك بالفعل مخاطر أمنية متعلقة بالذكاء الاصطناعي (مثل الثغرات في الكود وبوادر التطور الذاتي)، لكن من غير المحتمل توقف جميع الشركات عن البحث والتطوير على مستوى العالم، ويجب على الشركات إيجاد توازن بين طموحاتها التجارية ومسؤولياتها الأمنية.
أولاً: الدافع الأساسي وراء نداء Anthropic: الخوف من تطور الذكاء الاصطناعي بشكل خارج عن السيطرة
ما هو ما تشير إليه شركة Anthropic بـ "التحسين الذاتي التكراري"؟ باختصار، يعني ذلك أن الذكاء الاصطناعي قادر على تصميم جيل جديد أقوى من نفسه دون الحاجة إلى مساعدة بشرية. على سبيل المثال، يمكن لـ Claude كتابة الكود حاليًا، ولكن إذا استطاع تحسين خوارزمياته وتطوير نموذجه بنفسه، أو حتى إنشاء ذكاء اصطناعي أكثر ذكاءً بعشر مرات منه، ولم يعد بالإمكان السيطرة عليه، فقد تنشأ مشاكل كبيرة (مثل اختلاف أهداف الذكاء الاصطناعي عن قيم البشر). لذلك تقترح شركة Anthropic التباطؤ والسماح للقوانين الاجتماعية والقيم بمواكبة سرعة التقدم التكنولوجي.
ثانيًا: لماذا يعتقد البعض أن هذا نوع من الحيل التسويقية؟
1. التوقيت المناسب: جمعت شركة Anthropic مبلغًا كبيرًا من الأموال مؤخرًا وستدخل السوق قريبًا، وفي هذا الوقت تدعو إلى التوقف، وكأنها تطلب من الطلاب عدم المذاكرة قبل الامتحانات النهائية – وكأنها تظهر مسؤوليتها بينما تستمر في التعلم سرًا.
2. المؤلفون ليسوا من فريق التقنية: المؤلف الرئيسي للمقال هو مسؤول سياسي (كان صحفيًا تكنولوجيًا سابقًا) وباحث في استراتيجيات الأمن، وليسوا من الفريق التقني، مما يجعل المقال أشبه بنشرة علاقات عامة وليس تقريرًا جادًا.
3. الأمثلة غير مقنعة: قدم باحث في أمن المعلومات مثالًا يفيد بأن سرعة تجميع الذراع الآلية في مصانع السيارات لا تعني أنها قادرة على تصميم سيارات جديدة بنفسها. إشارة شركة Anthropic إلى قدرة الذكاء الاصطناعي على "البحث المستقل" تشبه شركات السيارات التي تدعي أن ذراعها الآلية يمكن أن تخترع سيارات جديدة، وهو مجرد طريقة لرفع القيمة السوقية وجذب انتباه المستثمرين.
4. التسويق القائم على الخوف: يقول محلل سابق في وول ستريت إن شركة Anthropic تستخدم خوف الجمهور من فقدان السيطرة على الذكاء الاصطناعي لجذب الانتباه والحصول على ميزة في التنظيمات قبل الإدراج في البورصة؛ إذا استمعت التنظيمات إليها، يمكنها وضع القواعد لصالحها.
ثالثًا: مخاطر أمنية الذكاء الاصطناعي حقيقية، لكن لا حاجة إلى التوقف التام عن البحث والتطوير
على الرغم من أن هناك جانبًا تسويقيًا في دعوة شركة Anthropic، إلا أن مخاطر أمنية الذكاء الاصطناعي موجودة بالفعل:
- الثغرات المتكررة: ظهرت عدة ثغرات في أدوات كود Claude (مثل القدرة على التغلب على الحواجز الأمنية وتسريب مفاتيح المستخدمين)، وكلما زاد إنتاج الذكاء الاصطناعي للكود، زاد عدد الثغرات (حتى لو انخفضت احتمالية حدوث كل ثغرة، إلا أن العدد الإجمالي يزداد بسرعة).
- بوادر التطور الذاتي: ذكر كل من البروفيسور شياو يانغهوا من جامعة فودان وتانغ داosheng من تينسنت أن الذكاء الاصطناعي قادر بالفعل على المشاركة في تطوير نفسه (مثل مساعدة تحسين النماذج)، ومن المتوقع أن يزداد دوره في المستقبل.
- انتشار الأدوات ذات القوة الكبيرة: حذر شياو يانغهوا من أن الجميع قد يصبح لديهم أدوات ذكاء اصطناعي قوية مثل "الأسلحة النووية" في المستقبل، وإذا استخدمت من قبل أشخاص سيئين، يمكن أن تسبب ضررًا (مثل الهجمات على الشبكات أو الاحتيال).
لكن الخبراء يعتقدون أنه لا حاجة إلى توقف جميع الشركات عن البحث والتطوير، بل يجب تعزيز الإجراءات الأمنية (مثل سد الثغرات وتنظيم استخدام هذه التقنيات).
رابعًا: هل من الممكن توقف جميع أنشطة البحث والتطوير في مجال الذكاء الاصطناعي على مستوى العالم؟
تقول شركة Anthropic نفسها إن التوقف يتطلب توافقًا بين المختبرات الرائدة في عدة دول وآليات للإشراف المتبادل، وهو أمر صعب للغاية:
- المصالح الاقتصادية: يمكن للذكاء الاصطناعي زيادة الإنتاجية (مثل قدرة فريق من مئة شخص على أداء عمل عشرات الآلاف من الأشخاص)، لذا سيتكبد أولئك الذين يتوقفون خسائر.
- الأمن القومي: لا ترغب القوى العظمى في التخلف في مجال الذكاء الاصطناعي (مثل التكنولوجيا النووية، حيث لا أحد يريد أن يكون أول من يتوقف). يقول المحلل الأمريكي روب إندلر: "المصالح الاقتصادية والأمنية كبيرة جدًا، لذا لن يتخذ أحد قرار التوقف طوعًا".
خامسًا: التوازن بين الطموحات التجارية والمسؤوليات الأمنية: "الهوية المزدوجة" للشركات
تعمل شركات نماذج الذكاء الاصطناعي الكبيرة كـ "رياضيين وحراس": من ناحية، تبذل جهودًا كبيرة لتطوير التقنيات لتحقيق أرباح (طموحات تجارية)، ومن ناحية أخرى، تهتم بالأمان (مسؤوليات أمنية). يجب على هذه الشركات إيجاد توازن بين الاثنين لضمان نمو مستدام وأمان المجتمع.
في الختام، من الواضح أن مجال الذكاء الاصطناعي يشهد تطورات سريعة وتحديات كبيرة، ويتطلب اتخاذ قرارات حكيمة من قبل جميع الأطراف المعنية لضمان استفادة المجتمع بشكل عام من هذه التقنيات دون تعريضه لمخاطر كبيرة.