عندما يطالب عمالقة الذكاء الاصطناعي بالتباطؤ: معركة حول من له السلطة لتغيير القواعد
مرحبًا بكم، أنا مراسل مالي واقتصادي. اليوم سنتحدث عن مقال عميق جدًا، نشرته شركة Havenlon Labs.
الفكرة الرئيسية في هذا المقال حادة للغاية: على مدى السنوات القليلة الماضية، كانت صناعة الذكاء الاصطناعي تتنافس على من يمكنه التقدم بسرعة أكبر، ولكن الآن حتى مديرو أكبر شركات الذكاء الاصطناعي (مثل الرئيس التنفيذي لشركة Anthropic، داريو أمودي) بدأوا يدعون علنًا إلى التباطؤ.
لكن الأمر لا يتعلق فقط بالخوف أو السلامة. وراء ذلك توجد عملية كبيرة لإعادة توزيع السلطة والمسؤوليات. في السابق، كانت شركات الذكاء الاصطناعي هي التي تقرر ماذا تصنع وكيف ومتى تبيع، وتحصل على الأرباح وتتحمل الخسائر بنفسها. ولكن الآن، أصبح تأثير الذكاء الاصطناعي كبيرًا للغاية لدرجة أن أي حادث قد يؤثر على المجتمع بأسره. لذلك، بدأ المجتمع يتساءل: إذا كانت العواقب عامة، فهل يجب أن تكون القرارات أيضًا جزئيًا في يد الجمهور والحكومة؟
لتسهيل الفهم، قمت بتقسيم المقال إلى خمس نقاط رئيسية وشرحها بلغة بسيطة.
---
النقطة الأولى: التناقض الأساسي: قرارات خاصة، عواقب عامة
【التفسير البسيط】: في السابق، إذا احترق منزلك، كنت مسؤولًا عن تعويضه. الآن، إذا احترق منزلك واحترقت الشارع بأكمله، لا تزال مسؤولًا فقط عن تعويض منزلك.
يشير المقال إلى أن أكبر مشكلة في صناعة الذكاء الاصطناعي الآن ليست ضعف التكنولوجيا، بل عدم تطابق السلطة مع المسؤولية.
- الوضع الحالي: شركات مثل OpenAI وAnthropic تمتلك سلطة كبيرة. هي تقرر مدى قوة النماذج ومتى نشرها ومقدار الاستقلالية التي يجب منحها للذكاء الاصطناعي. هذه القرارات تتخذ داخل الشركات دون علم العامة.
- المشكلة: الذكاء الاصطناعي لم يعد مجرد روبوت للدردشة؛ فقد دخل مجالات مثل المالية والرعاية الصحية وأمن الشبكات وحتى الجيش. إذا أخطأ الذكاء الاصطناعي أو تم استغلاله من قبل القراصنة، فالعواقب قد تكون كارثية، مثل البطالة الجماعية أو انهيار المالية أو تعطل الشبكات.
- الاستنتاج: هذا ما يسمى بـ "قرارات خاصة، عواقب عامة". في السابق، كانت الشركات مسؤولة عن أرباحها وخسائرها، ولكن الآن يمكن أن تؤثر قراراتها على البشرية جمعاء. إذا كانت العواقب عامة، فيجب أن يشارك الجمهور والحكومة في اتخاذ القرارات.
النقطة الثانية: دروس من التاريخ: كان للعلماء الحق في تحديد المخاطر
【التفسير البسيط】: في السابق، كان العلماء فقط هم من يعرفون كيفية صنع القنابل النووية، لذا كانوا هم من يحددون القواعد. الآن، شركات الذكاء الاصطناعي هي التي تعرف كيفية بناء النماذج، فهل هذا عادل؟
يذكر المقال حالتين تاريخيتين لشرح صعوبة الإدارة:
1. مؤتمر أسيلومار لعام 1975: عندما ظهرت تقنية إعادة تركيب الحمض النووي وكانت خطيرة، لم تكن الحكومات أو الناس على دراية بها، فقط العلماء كانوا يعرفون. لذا، اضطر المجتمع إلى الاستماع إلى العلماء لتحديد أي التجارب يمكن إيقافها وأيها لا يمكن.
2. الأسلحة النووية بعد عام 1945: بعد ظهور الطاقة النووية، أخذت الولايات المتحدة السيطرة من الجيش وأعطتها إلى هيئات مدنية، لأن العلماء والجيش لم يكونا مناسبين للتحكم في هذه القوة المدمرة.
【مقارنة بالذكاء الاصطناعي】: الوضع الحالي مشابه لعام 1975، لكنه أكثر تعقيدًا. الآن، الشركات الخاصة التي تمتلك التقنيات المتقدمة هي التي تتحكم فيها، وليس الأساتذة في الجامعات.
- تقترح شركة Anthropic إشراك فرق خارجية (مثل METR) للتفتيش لحل مشكلة أن الأمور محصورة داخل الشركات.
- لكن المعارضين (مثل ديفيد ساكس) يتساءلون: هل لهذه الفرق الخارجية مصالح مع الشركات؟ إذا كان على المنظمين الاعتماد على الشركات المراقبة لمعرفة ما يجب مراقبته، فهل هذا الرقابة مستقلة حقًا؟
النقطة الثالثة: المنافسة السياسية: الأمن والاحتكار والمنافسة الوطنية
【التفسير البسيط】: البعض يريد التباطؤ من أجل الأمان، والبعض يريد الاستمرار في التقدم لمنع الصين من التفوق، والبعض الآخر يريد التباطؤ لمنع الشركات الكبيرة من الاحتكار. الجميع يتحدثون عن الأمان، لكن لديهم أهداف مختلفة في أذهانهم.
يحلل المقال مواقف ثلاثة أشخاص رئيسيين ويجد أنهم لا يتفقون:
1. داريو أمودي (الرئيس التنفيذي لشركة Anthropic) - مؤيد التباطؤ:
- الرأي: يجب التباطؤ لأن تطور الذكاء الاصطناعي سريع جدًا والأمان لا يواكبه. إذا حدث حادث كبير، لن يكون هناك من يتحمل المسؤولية.
- الإجراءات: يجب إدخال تقييمات خارجية والتنسيق داخل الدول الديمقراطية أولاً، ثم التنسيق العالمي.
- الرسالة الخفية: أعترف بقوة الذكاء الاصطناعي، لكنني أخشى أن يخرج عن السيطرة. وأتمنى أن تحافظ الولايات المتحدة على مكانتها الرائدة، لذا يجب التنافس مع الحفاظ على الأمان.
2. ديفيد ساكس (مستشار سابق في البيت الأبيض للذكاء الاصطناعي) - مؤيد السوق ومكافحة الاحتكار:
- الرأي: إذا أردتم التباطؤ، فافعلوا ذلك بأنفسكم، ولا تعيقوا الآخرين.
- السبب: لا يجب استخدام "الأمان" كذريعة لإنشاء نظم موافقة جديدة تحمي الشركات الكبيرة.
- الرسالة الخفية: لا تستخدموا الرقابة لخلق احتكارات. إذا قالت الشركات الكبيرة إنها تريد التباطؤ من أجل الأمان، فهذا في الواقع لمنع دخول منافسين جدد.
3. دونالد ترامب (الرئيس السابق/شخصية سياسية) - مؤيد المنافسة الوطنية:
- الرأي: يجب تقليل الرقابة للحفاظ على تفوق الولايات المتحدة على الصين.
- السبب: يخشى أن الرقابة الصارمة قد تجعل الولايات المتحدة تتأخر تقنيًا عن الصين.
- الرسالة الخفية: هدفي ليس الأمان، بل قوة الولايات المتحدة. إذا كان التباطؤ يمكن أن يؤدي إلى الأمان لكن بتكلفة خسارة التفوق على الصين، فلن أوافق.
【الخلاصة: الأمر ليس مجرد صراع بين "مؤيدي الأمان" و"مؤيدي التسريع"، بل يتعلق بـ حقوق الحوكمة التقنية، قواعد المنافسة السوقية، واستراتيجيات الأمن الوطني.
النقطة الرابعة: الحسابات الاقتصادية: التباطؤ يكلف الشركات الكبيرة القليل، لكنه قد يدمر الشركات الصغيرة
【التفسير البسيط】: إذا طلب من جميع السيارات التوقف لفحص الفرامل، فلن يكون للشاحنات الكبيرة المالية مشكلة، لكن الشاحنات الصغيرة التي ليس لديها مال قد تفلس. هل هذا عادل؟
يستخدم المقال أزمة 2008 المالية كمثال لطرح سؤال اقتصادي عميق: "العواقب مهمة جدًا لدرجة أنه لا يمكن السيطرة عليها بنفس الطريقة المعتادة".
- العدالة الظاهرية: إذا طلب من جميع شركات الذكاء الاصطناعي إجراء اختبارات أمان لمدة نصف عام، يبدو الأمر عادلًا.
- العدالة الفعلية:
- الشركات الكبيرة (مثل OpenAI وAnthropic): لديها مليارات الدولارات نقدًا وبنية تحتية متطورة. التوقف لنصف عام؟ لا مشكلة، بل يمكنها استخدام هذا الوقت لتعزيز مواقعها السوقية.
- الشركات الناشئة: لم تحصل على تمويل بعد، ولديها نقود تكفي لمدة 12 شهرًا فقط. التوقف لنصف عام؟ قد تفلس.
- تكلفة الامتثال: إنشاء نظام أمان جديد قد يكلف ع