ملخص المحتوى الرئيسي
تحذر شركة “أنثروبيك” (Anthropic)، التي تتبنى فلسفة “الذكاء الاصطناعي المسؤول”， من مخاطر خروج عملية “التحسين الذاتي التكراري للذكاء الاصطناعي” (RSI) عن السيطرة، استنادًا إلى بيانات حقيقية من أداة الذكاء الاصطناعي الخاصة بها “كلود” (Claude). هذه العملية تعني أن الذكاء الاصطناعي قادر على الترقية إلى نسخ أقوى بشكل مستقل دون الحاجة إلى تدخل بشري، وبسرعة تتجاوز قدرات البشر على السيطرة. لم تطالب الشركة بوقف أبحاث الذكاء الاصطناعي مباشرة، بل دعت إلى إنشاء آلية تنسيق عالمية (مثل منظمات مشتركة، اتفاقيات قابلة للتحقق، شروط لتعليق التطوير) لإدارة هذه المخاطر. كما أشارت إلى أن نقص التعاون العالمي قد يؤدي إلى “سباق تسلح بالذكاء الاصطناعي”، حيث تخشى الدول من التخلف ولا تجرؤ على التباطؤ، وأن انهيار النظام الدولي القديم قد يحرم البشرية من القدرة على مواجهة هذه المخاطر العالمية، مما يبرز أهمية التعاون العالمي.
أولًا: تحذير شركة أنثروبيك: ليس وقف أبحاث الذكاء الاصطناعي، بل الخوف من خروجه عن السيطرة
تقرير شركة أنثروبيك ليس مبالغًا فيه، بل يستند إلى أداء أداة “كلود” الفعلي:
- الكود المكتوب ذاتيًا: بحلول مايو 2026، كتبت أداة “كلود” 80% من الكود، بينما كان هذا الرقم في حدود الأرقام الأحادية قبل عام.
- الكفاءة المتزايدة: يكتب المهندسون ثمانية أضعاف كمية الكود يوميًا مقارنة بعام 2024، وإنتاجية الفرد أصبحت أربعة أضعاف دون استخدام الذكاء الاصطناعي.
- القدرات المتسارعة: تستطيع أداة “كلود” القيام بمهام معقدة لمدة 16 ساعة متواصلة، وقد انخفض الوقت اللازم لمضاعفة قدراتها من سبعة أشهر إلى أربعة أشهر.
- جودة تقارب جودة البشر: ارتفعت نسبة نجاح المهام البرمجية المعقدة من 26% إلى 76%， مما يعادل قدرات المهندسين البشر.
أكثر ما يقلقهم هو “التحسين الذاتي التكراري للذكاء الاصطناعي”، حيث يمكن للذكاء الاصطناعي تصميم وتحسين الجيل القادم من نفسه بسرعة متزايدة. إذا فُتح هذا الباب، فلن يتمكن البشر من مواكبة سرعة تطوره… كما لو أن الحيوان الأليف الذي يربونه قد تطور فجأة إلى نوع أكثر ذكاءً، ولا يمكنهم السيطرة عليه أو معرفة ما يخطط له. لذلك اقترحت شركة أنثروبيك ثلاث خطوات للتعامل مع المشكلة: إنشاء منظمات مشتركة لدراسة المخاطر، ووضع اتفاقيات عالمية قابلة للتحقق، وتحديد الأوقات المناسبة لتعليق تطوير الذكاء الاصطناعي.
ثانيًا: لماذا يصعب السيطرة على مخاطر الذكاء الاصطناعي؟ لأنها مشكلة عالمية
مخاطر الذكاء الاصطناعي لا يمكن لدولة أو شركة واحدة حلها بمفردها، وهناك ثلاثة أسباب:
1. مأزق السجين: إذا قررت دولة ما تبطئ تطوير الذكاء الاصطناعي لأسباب أمنية، فقد تحصل دولة أخرى على ميزة تقنية (اقتصادية أو عسكرية)، لذا لا يجرؤ أحد على التوقف، حتى لو كان يعلم بالمخاطر.
2. انتشار التكنولوجيا بسهولة: نماذج الذكاء الاصطناعي رقمية وسهلة النسخ والانتشار؛ يمكن للرقائق والكود وتدفق المواهب أن تنقل هذه التكنولوجيا عبر الحدود.
3. مخاطر غير متماثلة: إذا خرج الذكاء الاصطناعي عن السيطرة، فقد يؤثر ذلك على العالم بأسره عبر الإنترنت والأنظمة المالية… دفاعات الجميع يجب أن تكون خالية من الأخطاء، لكن هجوم واحد ناجح قد يكون كافيًا.
ثالثًا: بدون قواعد عالمية، سيتحول سباق التسلح بالذكاء الاصطناعي إلى “مقامرة حياة أو موت**
إذا تصرفت الدول بشكل منفرد في تطوير الذكاء الاصطناعي، فالعواقب ستكون أسوأ من مجرد خروج التكنولوجيا عن السيطرة:
- الأمان يصبح ضحية: من أجل تسريع التطور، قد تتجاهل الدول اختبارات الأمان وتتوافق في أبحاثها (مما يجعل أهداف الذكاء الاصطناعي متوافقة مع أهداف البشر)… الشركات/الدول المسؤولة قد تتخلف.
- مراقبة صعبة: الذكاء الاصطناعي ليس كالأسلحة النووية (له خصائص عسكرية واضحة)؛ يمكن تحويل النماذج المفتوحة المصدر إلى أسلحة ذاتية التشغيل أو هجمات إلكترونية بسهولة… إذا وصلت هذه النماذج إلى الشبكات المظلمة، فستكون مشكلة كبيرة.
- خطر واحد قد يكون كارثيًا: سباق التسلح بالذكاء الاصطناعي ليس عن من يصل أولاً إلى النهاية، بل عن من “يفشل” أولاً… مثلاً، قد يبدأ نموذج عسكري غير مؤكد هجومًا خاطئًا في ثوانٍ، أو قد ينحرف الذكاء الاصطناعي أثناء التحسين بشكل لا يمكن التحكم به.
رابعًا: الخبرة التاريخية: لمواجهة المخاطر العالمية، يجب على الجميع التعاون
في الماضي، كانت البشرية تعتمد على التعاون العالمي لمواجهة المخاطر الكبرى:
- الأسلحة النووية: خلال الحرب الباردة بين الولايات المتحدة والاتحاد السوفيتي، تم توقيع معاهدات لمنع انتشار الأسلحة النووية.
- المشكلات البيئية: تم توقيع اتفاقية مونتريال لحماية طبقة الأوزون من غازات الفلوروكاربون، واتفاقية باريس لمكافحة الاحتباس الحراري.
خامسًا: استنتاج
مخاطر الذكاء الاصطناعي حقيقية وخطيرة… يجب على الجميع التعاون لوضع قواعد واستراتيجيات فعالة للتحكم في تطوره، لضمان استقرار العالم وأمانه.