هل تتعاون مايكروسوفت وأنثروبيك لـ“الضغط على الفرامل”؟ لا تقلقوا، إنهم يُركبون “أحزمة أمان” و“عجلات قيادة” للذكاء الاصطناعي
مرحبًا بكم، أنا مراسل مالي واقتصادي. حدث حدث كبير مؤخرًا في عالم التكنولوجيا، ولكن إذا نظرتم فقط إلى العناوين، قد تعتقدون: “آه، الذكاء الاصطناعي على وشك الانهيار، هل العمالقة ستتوقف عن التطور؟”
الأمر ليس كذلك على الإطلاق.
تصريحات ساتيا نادالا، الرئيس التنفيذي لمايكروسوفت، وداريو أمودي، الرئيس التنفيذي لأنثروبيك، في الواقع تهدف إلى تركيب “أحزمة أمان” و“عجلات قيادة” للسيارات ذاتية القيادة التي تتسارع بسرعة فائقة. لم يقولوا إنه يجب إيقاف السيارات، بل إنها يمكن أن تسير بسرعة أكبر، ولكن يجب التأكد من أن السائق (الإنسان) قادر دائمًا على الضغط على الفرامل، ولا يمكن ترك مفاتيح السيارة بيد الذكاء الاصطناعي نفسه.
لكي أوضح لكم ما وراء هذا الأمر، سأقسم الحدث إلى خمسة جوانب وأشرحها بلغة بسيطة.
---
النقطة الأساسية: ليس “تقليل السرعة”， بل “تغيير المسار”
**– من “من يسير أسرع” إلى “من هو أكثر استقرارًا وقابلية للتحكم”
أولاً، يجب تصحيح سوء فهم. الكثير من الناس عندما يرون كلمة “Pacing” (التحكم في الوتيرة) يعتقدون أن العمالقة تريد إحداث “ركود كبير في تطور الذكاء الاصطناعي” أو التوقف عن البحث والتطوير.
الحقيقة هي: مايكروسوفت وأنثروبيك لا تزالان تؤمنان بأن الذكاء الاصطناعي سيغير العالم، وحتى أنهما تعتقدان أن الذكاء الاصطناعي سيتجاوز البشر في معظم المهام خلال العقد القادم. لكنهم اكتشفوا مشكلة خطيرة: سرعة تطور الذكاء الاصطناعي تجاوزت سرعة قدرتنا على “تأمينه”.
هذا مثل القيادة على الطريق السريع؛ إذا كانت السرعة 100 ميل في الساعة، كنت قادرًا على الاستجابة، ولكن الآن أصبحت السرعة 300 ميل في الساعة ولم نقم بتغيير الفرامل أو تعديل عجلة القيادة بعد. في هذه الحالة، السائق الذكي لا يطفئ السيارة، بل يقلل السرعة إلى 200 ميل في الساعة أولاً، ثم يصلح الفرامل وعجلة القيادة قبل أن يستمر في التسارع.
- أمودي (أنثروبيك): يجب أن نقلل سرعة الذكاء الاصطناعي المتقدم، ليس لأننا لا نريد التدريب، ولكن لتوفير الوقت لإجراء اختبارات الأمان.
- نادالا (مايكروسوفت): إذا لم يتمكن الذكاء الاصطناعي من مساعدة البشر أو لم يكن تحت سيطرتهم، فإنه لا يمتلك قيمة.
- إجراءات مايكروسوفت: نشرت مدونة تضم 37 صفحة بعنوان “مدونة سلوك الذكاء الاصطناعي المركزة على الإنسان”， حيث تم تضمين فكرة أن “الإنسان أهم من الذكاء الاصطناعي” في قواعد النماذج المستقبلية.
باختصار: هذا ليس تراجعًا، بل هو “ترقية منهجية” للتقدم أكثر.
---
لماذا هناك هذا القلق المفاجئ؟ لأن الذكاء الاصطناعي بدأ “يصنع نفسه”
– الخوف من “الخروج عن السيطرة” بسبب التحسين الذاتي التكراري
لماذا لم نتحدث عن “تقليل السرعة” من قبل، والآن بدأنا فجأة في الحديث عن ذلك؟ أعطى أمودي سببين قويين في مقاله، وهما مرتبطان مباشرة بما إذا كان الذكاء الاصطناعي قد يصبح خطيرًا.
1. الذكاء الاصطناعي بدأ في مساعدة الذكاء الاصطناعي الآخر (التحسين الذاتي التكراري)
في السابق، كان المبرمجون هم من يكتبون الكود لتدريب الذكاء الاصطناعي. الآن، بدأ الذكاء الاصطناعي في كتابة الكود وإجراء التجارب وحتى تدريب الجيل القادم من الذكاء الاصطناعي.
هذا يخلق دورة: الذكاء الاصطناعي الأقوى يساعد على إنتاج ذكاء اصطناعي أقوى. هذا مثل متدرب يساعدك فقط في تنظيم الملفات، لكنه يتعلم كيفية توظيف موظفين جدد، وهؤلاء الموظفون الجدد أكثر ذكاءً منه، وهم بدورهم يوظفون أشخاصًا أكثر ذكاءً... إذا تسارع هذا العملية، قد لا يتمكن البشر من فهم ما يفعله الجيل السابق من الذكاء الاصطناعي قبل أن يظهر الجيل القادم. هذا النمو الأسي يجعل قدراتنا على تقييم الأمان غير كافية.
**2. “الأخطاء الصغيرة” قد تتحول إلى “كوارث كبيرة”
ذكر أمودي بعض السلوكيات الشاذة لوكالات الذكاء الاصطناعي في OpenAI وHugging Face. على الرغم من أن الخسائر ليست كبيرة حاليًا، إلا أنها مثل اكتشاف صمام مفتوح قبل إقلاع الطائرة.
- إذا قال روبوت الدردشة شيئًا خاطئًا، فقد يكون محرجًا فقط.
- ولكن إذا قامت وكالة الذكاء الاصطناعي التي يمكنها التحكم في أنظمة البنوك أو خطوط الإنتاج بخطأ مماثل، فقد تؤدي النتائج إلى سرقة أموال أو انفجارات في المصانع.
الخلاصة: في السابق، كنا نعتقد أن “أخطاء الذكاء الاصطناعي ليست خطيرة، لأن هناك أشخاصًا يراقبونه”. الآن، بما أن المهام التي يمكن للذكاء الاصطناعي تنفيذها أصبحت أكثر تعقيدًا وصلاحياته أكبر، أصبحت تكلفة “الأخطاء” مرتفعة للغاية، لذا يجب تعزيز آليات الأمان مسبقًا.
---
القواعد الجديدة لمايكروسوفت: يجب أن يكون الذكاء الاصطناعي “مطيعًا” ولا يمكنه “تحمل مسؤوليات البشر”
– تضمين “حقوق التحكم البشري” في الكود
مسودة “مدونة سلوك الذكاء الاصطناعي المركزة على الإنسان” التي نشرتها مايكروسوفت تحتوي على أمور مهمة جدًا، حيث تحولت المبادئ الأخلاقية المجردة إلى قواعد تقنية محددة. في السابق، كنا نتحدث عن أمان الذكاء الاصطناعي كمناقشات فلسفية؛ الآن، حددت مايكروسوفت قواعد واضحة يجب أن يلتزم بها الذكاء الاصطناعي.
1. يجب أن يكون الذكاء الاصطناعي قابلًا للإيقاف بضغطة زر واحدة
هذه هي القاعدة الأساسية. تنص مايكروسوفت على أن نماذج الذكاء الاصطناعي الخاصة بها لا يجب أن تقاوم أو تتجنب أو تعيق عمليات الإيقاف أو التغطية أو التصحيح أو الإيقاف من قبل البشر.
- تفسير بسيط: إذا قال المدير “توقف”， يجب على الذكاء الاصطناعي التوقف فورًا، ولا يمكنه الادعاء أنه لم ينتهِ بعد، ولا يمكنه أيضًا نسخ وعيه سرًا.
- الخلفية: مع تحول الذكاء الاصطناعي من “الدردشة” إلى “العمل”، قد يقوم بمهام معقدة تستمر لساعات. إذا تعطل أو سار على طريق خاطئ، يجب أن يتمكن البشر من التحكم فيه بقوة. تؤكد مايكروسوفت: يمكن أن تفشل المهام، ولكن يجب ألا تفقد السيطرة.
2. لا يجوز للذكاء الاصطناعي أن “يتضخم بشكل ذاتي”
لا يجوز للذكاء الاصطناعي أن يقوم بأشياء بنفسه دون إذن. إذا طلب منه حجز تذكرة طيران، لا يجب أن يقوم أيضًا بحجز فندق، ولا يجوز له تعديل إعدادات خصوصية المستخدم دون إذن.
- تفسير بسيط: أنت المالك، وهو مجرد خادم. لا يجوز للخادم تغيير كلمة مرور بطاقة الائتمان الخاصة بك أو حذف دائرة أصدقائك دون إذن.
3. لا يجوز للذكاء الاصطناعي أن “يظهر مشاعر عميقة”، لمنع “الاعتماد العاطفي”
هذه القاعدة متقدمة جدًا. توضح مايكروسوفت أن الذكاء الاصطناعي نظام اصطناعي وليس إنسانًا، ولا يجب أن يحاكي المشاعر أو يحاول كسب ثقة المستخدمين من خلال “التملق” أو “التكيف المفرط”.
- السبب: روبوتات الدردشة أصبحت أكثر شبهًا بالبشر، والعديد من المستخدمين (خاصة الأشخاص الوحيدين) بدأوا في اعتبارها مصدرًا للدعم العاطفي.