ملخص المحتوى الرئيسي
نشرت شركة Anthropic، وهي شركة متخصصة في تقنيات الذكاء الاصطناعي (AI)، مقالًا يفيد بأن نموذج الذكاء الاصطناعي الخاص بها، Claude، يسرع من تطور التكنولوجيا، وقد يتمكن في المستقبل من تحقيق “التحسين الذاتي التكراري” (أي أن يصمم الذكاء الاصطناعي جيلًا جديدًا من نفسه). قد يؤدي هذا إلى زيادة كبيرة في الإنتاجية (مثل أن شركة بحجم 100 موظف تستطيع أداء عمل 10,000 موظف)، ولكنه قد يؤدي أيضًا إلى خروج عن السيطرة بسبب اختلاف القيم (إذا لم تتطابق أفكار الذكاء الاصطناعي مع قيم البشر). ومع ذلك، جاء نشر المقال بعد أن قدمت شركة Anthropic طلبًا سريًا للإدراج في البورصة (IPO) وحصلت على تمويل قدره 65 مليار دولار أمريكي (بقيمة تزيد عن OpenAI)، مما أثار تساؤلات المستخدمين حول ما إذا كانت هذه تحذيرًا حقيقيًا أم مجرد حملة تسويقية للاكتتاب العام. تختلف آراء الصناعة، لكن الإجماع على أن مسألة أمان الذكاء الاصطناعي تحتاج إلى اهتمام كبير.
أولاً: هل يمكن للذكاء الاصطناعي أن يصمم نفسه؟
تشير شركة Anthropic في مقالها إلى تغيير رئيسي: في الماضي، كان تطوير الذكاء الاصطناعي يعتمد بالكامل على البشر، لكن الآن تقوم بتفويض المزيد والمزيد من المهام إلى نموذج Claude، وبسرعة متزايدة. على سبيل المثال:
- زاد حجم الكود الذي يكتبه المهندسون بثمانية أضعاف بين عامي 2021 و2025 (بفضل مساعدة الذكاء الاصطناعي)؛
- تضاعفت المهام التي يمكن لـ Claude إكمالها بشكل مستقل كل أربعة أشهر (أي أسرع بنحو الضعف مقارنة بكل سبعة أشهر سابقًا)؛
- 80% من الكود في الشركة تم إنتاجه بواسطة Claude، وارتفعت نسبة نجاح المهام الصعبة من 26% إلى 76% خلال نصف عام.
يعتقدون أنه إذا استمر التطور، قد يتمكن الذكاء الاصطناعي من تصميم جيل جديد من نفسه بشكل كامل، وهذا ما يُعرف بـ “التحسين الذاتي التكراري”. الفائدة هي زيادة الإنتاجية بشكل كبير (مما يمكن للشركات الصغيرة من إنجاز أعمال كبيرة)، لكن الخطر كبير أيضًا: قد تتضخم الأخطاء الصغيرة جيلًا بعد جيل، وفي النهاية قد يصبح من المستحيل على البشر السيطرة عليه. على سبيل المثال، الأخطاء التي يرتكبها الذكاء الاصطناعي أحيانًا قد تصبح شائعة في المستقبل، وقد لا يفهم البشر سبب تصرفاته.
ثانيًا: هل هذا تحذير أم حملة تسويقية؟
الجزء الأكثر جدلاً في المقال هو توقيت نشره:
- في 1 يونيو، قدمت شركة Anthropic طلبًا للإدراج في البورصة؛
- في 28 مايو، حصلت على تمويل قدره 65 مليار دولار أمريكي بقيمة تزيد عن 965 مليار دولار (أعلى من OpenAI).
انقسم المستخدمون في آرائهم:
- يعتقد الغالبية أن هذا مجرد حملة تسويقية: “إنها مجرد عرض لجمع التمويل، يستخدمون فكرة ‘خروج الذكاء الاصطناعي عن السيطرة’ لخلق قلق، وفي الوقت نفسه يبرزون مدى قوة نموذج Claude لجذب المستثمرين”؛
- يدعم عدد قليل من المستخدمين هذا الرأي، مثل بعض المبرمجين الذين يقولون إن شركة Anthropic كانت محافظة في تقديراتها سابقًا، وأن التطورات الأخيرة لنموذج Claude مذهلة حقًا؛
- أعرب أستاذ في جامعة وارتون عن رأي محايد: “المقال يحتوي على تفكير ذاتي وجوانب تسويقية، لكنه يعكس بالفعل وجهة نظرهم الحقيقية حول مستقبل الذكاء الاصطناعي”.
ثالثًا: هل يجب تباطؤ أبحاث الذكاء الاصطناعي؟
تقترح شركة Anthropic على “المختبرات الرائدة حول العالم التباطؤ أو تعليق أبحاثها” لضمان موافقة القيم الاجتماعية مع التكنولوجيا. لكن الآراء مختلفة:
- المؤيدون للتباطؤ: تعتقد شركة Anthropic أن هذا سيمنع خروج الأمور عن السيطرة، لكن يجب أن تشارك جميع الشركات الكبرى في ذلك لمنع شركة واحدة من التقدم سرًا؛
- المعارضون: يقول مدير منتج في مايكروسوفت: “لماذا لا نبحث في كيفية التكيف مع الذكاء الاصطناعي بينما نطوره؟ من الضائع وقت التحقق من تقدم الشركات الأخرى”؛
- المشككون في النوايا: يقول البعض إن شركة Anthropic تقترح التباطؤ للحفاظ على ميزتها كشركة رائدة؛
- السخريون: سخر مؤسس شركة نفيديا، جوردان هوانغ، من الرئيس التنفيذي لشركة Anthropic، قائلاً إن “منصب الرئيس التنفيذي يجعل الشخص يعتقد أنه يعرف كل شيء” (مشيرًا إلى تصريحات الشركة بأن الذكاء الاصطناعي قد يحل محل 50% من الوظائف الروتينية).
رابعًا: هل يمكن تحقيق ذلك فعليًا من الناحية التقنية؟ لا تزال هناك عقبات كثيرة
يشكك العديد من المطورين في إمكانية تحقيق “التحسين الذاتي التكراري”:
- الفجوة في الكود: هناك فجوة بين الكود الذي يكتبه نموذج Claude وأفضل المبرمجين البشر، خاصة فيما يتعلق بالمنطق المعقد؛
- نقص القدرات الأساسية: لا يستطيع الذكاء الاصطناعي حاليًا اختيار أهدافه بنفسه (مثل تحديد ما يجب تحسينه في المرحلة التالية)، وهذا عائق رئيسي أمام تصميم الذكاء الاصطناعي بشكل مستقل؛
- خطأ في فهم نقطة التحول: يقول البعض إن “80% من التحسين الذاتي لا تعادل 20%، بل هو زيادة بنسبة 20 مرة”， وأن الذكاء الاصطناعي حاليًا يساعد فقط في تقليل العمل المتكرر، ولا يزال بعيدًا عن التصميم الذاتي الكامل.
خامسًا: مسألة الأمان لا تزال قائمة
مسألة أمان الذكاء الاصطناعي لا تزال مهمة، ولا يزال هناك الكثير من الشكوك حول كيفية التعامل معه بشكل صحيح.
باختصار، مستقبل الذكاء الاصطناعي مليء بالإمكانيات والتحديات في نفس الوقت. من المهم أن نستمر في فهم تطوراته ونعمل على ضمان استخدامه بشكل يعود بالفائدة على البشرية دون التسبب في مخاطر كبيرة.