虎嗅

عندما أجاب هوانغ رنشون على مكالمة ترامب، وعندما تم تأجيل إطلاق أوتمان في السوق، هل تغير مسار مناقشات أمان الذكاء الاصطناعي؟

原文:当黄仁勋接起特朗普电话,当奥特曼暂缓上市,AI安全讨论变味了吗?

خلفية جدل هوانغ رنشون وترامب حول خاصية “المكالمات الصوتية”: تحليل بسيط لقضايا أمان الذكاء الاصطناعي والمصالح التجارية والمنافسة الدولية

مرحبًا بكم، أنا صحفي متخصص في الأخبار المالية والاقتصادية. اليوم لن نتحدث عن تقرير تقني ممل، بل عن مشهد مثير حدث خلال قمة All-In في لوس أنجلوس.

كان المشهد غريبًا بعض الشيء، لكنه في الوقت نفسه عميق: كان الرئيس التنفيذي لشركة إنفيديا، هوانغ رنشون، مستلقيًا على الأريكة عندما تلقى مكالمة من الرئيس الأمريكي دونالد ترامب. وبسبب مشكلة في خاصية “المكالمات الصوتية”, سخر ترامب قائلاً: “أنت قادر على تصنيع رقائق معقدة، فكيف لا تستطيع حل مشكلة بسيطة مثل هذه؟”

بعد الضحك، تحول الحديث سريعًا إلى أحدث وأكثر المواضيع حساسية: مستقبل الذكاء الاصطناعي، التهديدات التي يشكلها، ومن له الحق في إيقاف تطوره.

جوهر المقال يدور حول ظاهرة متناقضة: من ناحية، هناك عمالقة التكنولوجيا والسياسيون يتحدثون بمرح على المنصة، وحتى يصفون مخاطر الذكاء الاصطناعي بأنها “خدعة”؛ ومن ناحية أخرى، هناك الباحثون في المختبرات قلقون من أن النماذج التي لا يمكن السيطرة عليها قد تدمر كل شيء. ونحن، كأفراد عاديين، نريد مزايا الذكاء الاصطناعي، لكننا نخشى من الخسائر التي قد يسببها.

لكي يفهم الجميع، سأقسم هذا التنافس المعقد إلى خمسة جوانب وأشرحها بلغة بسيطة.

---

1. الرسالة الخفية وراء خاصية “المكالمات الصوتية”: هل هناك تواطؤ بين السياسة والأعمال؟

أولاً، دعونا نفهم ما يعنيه فعل إجراء مكالمة هاتفية.

نفى ترامب في المكالمة فكرة أن “الروبوتات ستسيطر على العالم”, ووصفها بأنها “خدعة”. كما سخر قائلاً إن لديه عمًا يعمل في معهد ماساتشوستس للتكنولوجيا، لذلك فهو أيضًا يمتلك معرفة في مجال الذكاء الاصطناعي. رد هوانغ رنشون قائلاً: “هذا يفسر سبب فهمك العميق للذكاء الاصطناعي.”

ما الذي يخفيه هذا الكلام اللطيف؟

  • تحديد الاتجاه: تصريحات الرئيس تعتبر توجهًا سياسيًا، حيث يمكن أن يُنظر إلى القلق المفرط من مخاطر الذكاء الاصطناعي على أنه عدم وطنية أو عائق أمام التنمية.
  • المصالح المشتركة: هوانغ رنشون، كمالك لشركة تصنع رقائق تُستخدم في تدريب الذكاء الاصطناعي، يرغب في تطور هذه التكنولوجيا لزيادة مبيعات رقائقه. ترامب قلق من أن ذلك قد يفيد الصين، وهو ما يعكس قلقًا أساسيًا لدى الولايات المتحدة: المنافسة الدولية.
  • الرسالة الخفية: عندما يقف أعلى القادة وأكبر الموردين في نفس الجانب، ويؤكدون على ضرورة “عدم التوقف”، فهم يرسلون رسالة إلى الصناعة بأن المصالح التجارية والقدرة التنافسية أكثر أهمية من المخاطر المجهولة.

هذا مثل سباق السيارات: السائقون (شركات التكنولوجيا) يقولون إن الفرامل قد تعطلت، لكن مالكي الفرق (الحكومة/رأس المال) يقولون: “لا تصدقوهم، هذه مجرد عذر، نحن نريد الفوز بالسباق، حتى لو كانت السيارة على وشك التدمير”.

2. “المعايير المزدوجة” لهوانغ رنشون: نريد أن تعمل التكنولوجيا، لكن لا نريد أن تتسبب في كوارث

ذكر المقال رأيًا حاسمًا لهوانغ رنشون يعكس محاولته لتوازن الضغوط من جميع الأطراف:

  • من ناحية، يعارض الذعر الشامل: يقول إنه إذا حدثت مشكلة في مختبر واحد، فلماذا يجب على الصناعة بأكملها التوقف؟ استخدام احتمالات كارثية غير مؤكدة لمنع البحث والتطبيقات والاستثمارات غير معقول.
  • من ناحية أخرى، يعترف بضرورة “توقف بعض الشركات” إذا ظهرت مشاكل محددة في التطوير.

لكن هناك مشكلة في منطقه: من يحدد ما هي “المشكلة المحلية”؟ إذا اكتشفت شركة ما مخاطر، يمكنها أن تقرر التوقف بنفسها، وهذا ليس مشكلة. لكن ماذا لو كانت المشكلة شاملة أو تؤثر على شركات أخرى؟ والأهم من ذلك، أن الشركات لديها دافع طبيعي للمضي قدمًا: المهندسون يريدون إجراء المزيد من الاختبارات، والعملاء يطالبون بالتسليم، والمنافسون قد أصدروا إصدارات جديدة. في هذه الحالة، “التوقف” يعني خسائر اقتصادية كبيرة وتراجع في القدرة التنافسية.

لذا، ترك الشركات تقرر بنفسها ما إذا كانت ستتوقف أم لا، مثل ترك السائق يقرر ما إذا كان سيضغط على الفرامل أم لا. إذا كانت الفرامل تالفة (وهناك خلل أمني)، لكن السائق يريد الوصول إلى النهاية لأسباب تجارية، فمن المحتمل أن يختار الاستمرار.

3. “تكتيك التأجيل” لشركة OpenAI: هل التأجيل يهدف إلى الأمان أم إلى السيطرة؟

ذكر المقال قرارًا اتخذه الرئيس التنفيذي لشركة OpenAI، إيلان موسك: عدم الإدراج في البورصة هذا العام، وأقصى تاريخ ممكن هو عام 2027.

يفسر الكثيرون ذلك بأن موسك يهتم بالأمان ولا يريد أن يضغط عليه المساهمون لتحقيق أرباح قصيرة الأجل. لكن هناك تفاصيل أكثر عمقًا:

  • ماذا يعني الإدراج في البورصة؟ يعني أن أسهم الشركة تصبح عامة، والمساهمون يمكنهم المطالبة بنتائجها المالية، والشركة تضطر إلى الكشف عن بياناتها بشكل دوري.
  • ماذا يعني عدم الإدراج في البورصة؟ تظل الشركة خاصة، ولا تزال بحاجة إلى تمويل، لكنها تفقد معلومات مهمة مثل مسار سعر السهم.

المشكلة هي: هل يمكن لعدم الإدراج في البورصة حل المخاوف الأمنية؟ تقوم مؤسسة OpenAI بإجراءات أمنية ملموسة، مثل توقف بعض تدريبات الذكاء الاصطناعي وإنشاء آليات للتحقق من الأخطاء، لكن هل هذا يكفي؟

موسك يريد السيطرة على وتيرة تطور الشركة، خاصةً لأن الشركة تمتلك حصصًا كبيرة من رأس المال (26% من مؤسسة OpenAI و27% من مايكروسوفت، بالإضافة إلى 47% من الموظفين والمستثمرين). هذا يخلق تناقضًا داخليًا: من أجل مهمة طويلة الأمد (الأمان)، قد يكون التأجيل أفضل، لكن هذا يعني تقليل الأرباح وبالتالي تقليل الاستثمارات في الأمان.

4. هل اقتراح أموديي للمراجعة الخارجية يمكن أن يحل المشكلة؟

اقترح الرئيس التنفيذي لشركة Anthropic، ديفيد أموديي، وجود مراجعين خارجيين في المختبرات للتحقق من الأمان. يبدو هذا حلاً جيدًا، لكن المقال يشير إلى أنه لا يزال يحتاج إلى تنفيذ فعلي:

  • هل يمكن للمراجعين الخارجيين رؤية كل الكود وبيانات التدريب؟ أم أنهم سيرون فقط النسخة “الآمنة” المختارة؟
  • هل يمكنهم اتخاذ قرارات صحيحة؟ المراجعون أيضًا بشر، وقد يخطئون أو يتأثرون بالضغوط التجارية.
  • ماذا لو اكتشفوا مشكلة ولم تستمع الشركة إليهم؟ ماذا يمكن للمراجعين أن يفعلوا؟ هل يمكنهم فقط نشر تغريدة أو رفع دعوى قضائية؟

المشكلة الأكبر هي موقف الحكومة: أموديي يريد مشاركة الحكومة لفرض معايير أمنية، لكن ترامب يرى أن القلق من الأمان مجرد حجة لإبطاء التطور.

هذا يخلق دورة مفرغة: الشركات تريد القوة الحكومية للتحكم في الشركات التي لا تلتزم بالمعايير، لكن الحكومة تركز على السرعة والمنافسة، وتعتبر المخاوف الأمنية عائقًا أمام التطور.

5. أين نحن، الناس العاديون، في هذا السيناريو؟

الجزء الأخير من المقال يشير إلى خلل كبير في النقاشات الحالية: **تم تحويل مطالب الناس العاديين إلى خيارين متطرفين: إما أن تكونو