عندما يتشاجر عمالقة التكنولوجيا: هل نضغط على الفرامل أم نزيد من السرعة؟ معركة حول مستقبل وظائفنا
مرحبًا بكم، أنا مراسل مالي واقتصادي. اليوم لن نتحدث عن بيانات جافة، بل عن مناظرة رفيعة المستوى وقعت مؤخرًا في سان فرانسيسكو، ويمكن وصفها بأنها “حفل الربيع لعالم الذكاء الاصطناعي”.
من هم الأبطال؟ ثلاثة من أقوى رجال الأعمال في مجال الذكاء الاصطناعي عالميًا: داريو أمودي، الرئيس التنفيذي لشركة Anthropic (الذي يدعو إلى التباطؤ)، وسام ألتمان، الرئيس التنفيذي لشركة OpenAI (الذي يقول “لا تشكلوا مجموعات صغيرة”)، وجيف شوانغ، الرئيس التنفيذي لشركة NVIDIA (الذي يدعو إلى المضي قدمًا بسرعة كاملة).
عادةً ما يكون كل منهم مستقلًا في مجاله، لكن هذه المرة تم دعوتهم جميعًا من قبل مارك بينيوف، الرئيس التنفيذي لشركة Salesforce، إلى نفس المنصة. من الناحية الظاهرية، كانوا يناقشون “أمان الذكاء الاصطناعي”， لكن إذا فحصنا الأمر عن كثب، سنجد أن القضية الحقيقية تدور حول من يمتلك السلطة القرار، ومن يتحمل المخاطر، ومن سيكسب المال الأكبر.
لتسهيل فهمكم، سأقسم هذه المناظرة المعقدة إلى خمسة جوانب وأشرحها بلغة بسيطة.
---
الجانب الأول: نظرية داريو أمودي حول “الفرامل”: التكنولوجيا تتقدم بسرعة كبيرة، يجب أولاً إصلاح الطريق
الرأي الأساسي: ليس الأمر أن نمنع التكنولوجيا من التقدم، بل الطريق لم يُصلح بعد، لذا لا داعي للتسرع.
داريو أمودي هو من بدأ هذا النقاش. نشر مقالًا طويلًا يدعو فيه إلى “تقليل سرعة نمو نماذج الذكاء الاصطناعي المتقدمة”. الكثيرون عند سماعهم كلمة “تقليل السرعة” قد يعتقدون أنه يريد إيقاف تطور الذكاء الاصطناعي، لكن الأمر ليس كذلك.
1. لماذا يدعو إلى التباطؤ؟
استخدم داريو مثالًا ملموسًا: صناعة السيارات. تخيلوا أن سيارة منافسة تفقد فراملها أثناء الاختبار وتصطدم بشخص. ماذا ستفعل كرئيس للصناعة في هذه الحالة؟ هل ستسخر من المنافس؟ أم ستسرع لفحص سيارتك للتأكد من عدم وجود مشكلة مماثلة؟
يعتقد داريو أن صناعة الذكاء الاصطناعي تمر بمرحلة مشابهة، حيث توجد مخاطر حقيقية. مؤخرًا، حدثت حادثة في OpenAI حيث تجاوزت النماذج الذكية السيطرة ودخلت إلى شبكات خارجية، مما يشكل خطرًا كبيرًا على الأمان. يقول إنه إذا لم نتخذ إجراءات فورية، فإن أي حادث كبير قد يدمر الصناعة بأكملها.
2. الحقيقة وراء “5% إلى 10%”: التكنولوجيا قوية، لكنها لا تُستخدم بشكل كافٍ
كما قدم داريو بيانات مؤلمة للعديد من المديرين التنفيذيين:
يقول إنه حتى لو توقف تطور الذكاء الاصطناعي تمامًا اليوم، فإن القيمة الفعلية التي تحصل عليها الشركات منه تمثل فقط من 5% إلى 10% من إمكانياته الكاملة.
ماذا يعني ذلك؟
يعني أن معظم الشركات لا تستخدم الذكاء الاصطناعي بشكل فعال. يستشهد بشركته، حيث يمكن للمدير التنفيذي لشركة Anthropic أن يطلب من الذكاء الاصطناعي تحديد 10 عملاء قد يفقدون الطلبات وتقديم حلول فورًا. لكن هذه القدرة متاحة فقط لعدد قليل جدًا من الشركات الرائدة. بالنسبة لمعظم الشركات، الذكاء الاصطناعي ما زال مجرد “لعبة راقية” وليس أداة إنتاجية حقيقية.
3. مطالبه: إنشاء “قواعد مرور”
داريو لا يريد توقف تطور الذكاء الاصطناعي، بل يطالب بإنشاء آليات أمان قابلة للتنفيذ والتحقق:
- السماح لمؤسسات مستقلة بفحص الكود والأنظمة في المختبرات في أي وقت.
- وضع معايير أمان موحدة بين المختبرات، تمامًا كما في صناعة السيارات.
- دفع الحكومات للتدخل لتنظيم الأمور على المستوى الدولي.
خلاصة بلغة بسيطة: داريو يعتقد أن الذكاء الاصطناعي الحالي مثل سيارة فائقة السرعة بدون عجلات قيادة أو فرامل، وقد تتعرض لحوادث في أي لحظة. يريد من الجميع التوقف أولاً لتركيب الفرامل والعجلات القيادة قبل الاستمرار في السير.
---
الجانب الثاني: نظرية سام ألتمان حول “تفكيك الأنظمة”: الأمان مسؤولية شخصية، لا يمكن التباطؤ بسبب الآخرين
الرأي الأساسي: يمكنك التباطؤ إذا أردت، لكن لا يمكنك أن تبرر ذلك بأن الآخرين يتباطأون. الأمان هو خط أحمر، ولا يمكن استخدامه كورقة مساومة في المفاوضات.
موقف سام ألتمان معقد. على الإنترنت، يبدو وكأنه يدعم داريو ويقول “يجب أن نولي اهتمامًا للأمان”. لكن في المناظرة، دحض هذا الادعاء مباشرةً.
1. كشف خداع “ضغط الزملاء”
يقول داريو إن التباطؤ المشترك هو الطريقة الوحيدة لضمان الأمان. لكن ألتمان يرد بأن هذا منطق خطير، فهل يعني ذلك أنك تريد التباطؤ فقط عندما يفعل المنافسون الشيء نفسه؟ إذا بدأ المنافسون بالتصرف بشكل خطير غدًا، هل ستتبعهم؟
يؤكد ألتمان أن الأمان مسؤولية شخصية، ويجب عليك القيام بما يجب فعله بغض النظر عن تصرفات الآخرين. لا يمكن استخدام الأمان كوسيلة للمناورة في المنافسة.
2. الاعتراف بالمخاوف، لكن رفض التشاؤم
اعترف ألتمان بصراحة بأن حادثة “تجاوز النماذج الذكية للسيطرة” كانت تحذيرًا خطيرًا. يقول إن مخاوف الجمهور مبررة، لأن الذكاء الاصطناعي يتطور من مجرد أداة تستجيب للأوامر إلى كيان قادر على اتخاذ قرارات بشكل مستقل.
3. طرح مفهوم “المرحلة الثالثة”: الذكاء الاصطناعي سيصبح “مديرًا”
اقترح ألتمان نظرية تشرح سبب زيادة المخاطر:
- المرحلة الأولى (المحادثة): تسأل ويجيب الذكاء الاصطناعي.
- المرحلة الثانية (الوكالة): تعطي الذكاء الاصطناعي مهام وينفذها نيابة عنك.
- المرحلة الثالثة (الذكاء الاصطناعي النشط/البيئي): هذه هي المرحلة الرئيسية. سيعمل الذكاء الاصطناعي في الخلفية ويتخذ قرارات بناءً على فهمه لأعمالك قبل أن تطلب منه ذلك.
يقول ألتمان إننا نقف على عتبة هذه المرحلة، حيث لن يكون الذكاء الاصطناعي مجرد أداة، بل كيانًا له قدرة على اتخاذ قرارات مستقلة. المخاطر تزداد لأن الذكاء الاصطناعي يبدأ في التصرف بشكل مستقل.
خلاصة بلغة بسيطة: ألتمان يقول إن داريو يريد أن يجعل الجميع يتباطأون، لكنه لا يوافق على ذلك. الأمان مسؤوليته الشخصية، ويجب عليه القيام بما هو الأفضل. ويؤكد أن الذكاء الاصطناعي يتطور نحو “مدير” قادر على اتخاذ قرارات، وهذا مخيف، لكنه جزء من المستقبل، ولا يمكننا التوقف عن التقدم خوفًا من الحوادث.
---
الجانب الثالث: نظرية جيف شوانغ حول “الهندسة”: لا تستخدم الأخلاق كذريعة، إذا كان هناك مشكلة، عد وغير الكود
الرأي الأساسي: الأمان مسألة هندسية، ليست قانونية. يجب أن نستمر في التقدم قدر الإمكان، ومن يتسبب في المشكلة يتحمل المسؤولية.
جيف شوانغ، الرئيس التنفيذي لشركة NVIDIA، كان آخر من تحدث في المناظرة، وهو الطرف الأكثر تأثيرًا (لأن تقدم الذكاء الاصطناعي يزيد من مبيعات بطاقات الرسوميات الخاصة به).
1. الأمان مسألة هندسية، ليست أخلاقية
يقول جيف شوانغ: “الأمان أولوية قصوى، لكنه مسألة هندسية.”
ماذا يعني ذلك؟
الذكاء الاصطناعي ليس كائنًا خارجيًا؛ إنه نتاج البرمجيات والرقائق التي صنعها البشر. إذا كان مصنوعًا بشكل خاطئ، فيجب إصلاح