ملخص المحتوى الأساسي
لقد انتشرت مؤخرًا في دوائر الذكاء الاصطناعي العالمية حادثة كبيرة حققت ملايين المشاهدات: خلال الأيام الأربعة الماضية، أعلن سبعة من الباحثين الرئيسيين في ثلاث من أبرز مؤسسات الذكاء الاصطناعي في العالم، وهي OpenAI وAnthropic وGoogle DeepMind (نصفهم يشغلون مناصب رئيسية مسؤولة عن أمن الذكاء الاصطناعي) علنًا أن الذكاء الاصطناعي “القادر على التطور الذاتي” الذي تسعى جميع الصناعات جاهدة لتطويره قد يصل إلى مستوى يهدد بقاء البشرية جمعاء قبل عام 2030، بل وقد يؤدي مباشرة إلى انقراض البشرية. وقد تخلى الباحث الرئيسي في Anthropic، Coxon، عن حصته الكبيرة في الشركة التي كان سيحصل عليها بعد شهرين فقط من أجل قول الحقيقة، مما يعادل إهدار ملايين الدولارات من الأرباح، وبذلك تبرأ تمامًا من اتهامات “رفع أسعار أسهم الشركة لجذب المزيد من الزوار”. هذا البيان ليس مجرد شائعة صناعية عادية، بل يكشف عن واقع معقد كان مخفيًا في دوائر الذكاء الاصطناعي: المجموعة التي تفهم الذكاء الاصطناعي أكثر من غيرها تخشى في الوقت نفسه أن تدمر الأشياء التي تصنعها البشرية البشرية، لكنها لا تستطيع التوقف عن البحث والتطوير، والسبب في ذلك يكمن في مشاكل كبيرة في آليات التحفيز داخل الصناعة. كما يجب على الجميع أن يدركوا أنه لا حاجة للتأرجح بين تصوري “تعظيم قدرات الذكاء الاصطناعي” و“نهاية العالم بسببه”، وقد حان الوقت للمطالبة بحقنا في التحكم في تطور الذكاء الاصطناعي.
---
التفسير التفصيلي
1. هذا التحذير من الذكاء الاصطناعي ليس مجرد حيلة تسويقية
في المرات السابقة، عندما كانت شركات الذكاء الاصطناعي تدعي أن تقنياتها خطيرة، كان رد فعل الناس عادةً هو الإعجاب بها بشكل مبالغ فيه، قائلين: “تقنيتنا قوية لدرجة أنها يمكن أن تدمر العالم، فاشتروا خدماتنا أو استثمروا في أسهمنا بسرعة”. لكن الوضع هذه المرة مختلف تمامًا:
- Coxon، الذي كان أول من كشف عن المعلومات، تخلى طواعية عن حصته الكبيرة في الشركة، مما يعني أنه ليس لديه أي دافع للربح من خلال رفع قيمة أسهم الشركة؛
- من بين الباحثين السبعة، هناك من يشغل مناصب رئيسية في مجالات مثل “الإشراف على التطور الموسع” و“علوم المحاذاة” في شركة Anthropic، وهم أشخاص تم توظيفهم خصيصًا لمنع الذكاء الاصطناعي من الخروج عن السيطرة، وهم يقولون بصراحة إن التقنيات التي يطورونها قد تدمر العالم، وهذا ليس كلام أشخاص غير متخصصين؛
- المزحة القديمة التي كانت تدور في وادي السيليكون بأن موظفي الذكاء الاصطناعي يتركون وظائفهم لكتابة الشعر وقضاء وقتهم مع عائلاتهم كانت في السابق مجرد سخرية من ضغوط ومخاطر هذه الصناعة، لكنها أصبحت الآن حقيقة، مما يدل على أن الذعر داخل الدوائر المتخصصة لم يعد يمكن إخفاؤه.
2. المفارقة العبثية في الصناعة: الأشخاص الذين يخشون انقراض البشرية بسبب الذكاء الاصطناعي هم من يدفعون بتطوره بسرعة
رد فعل الكثيرين بعد قراءة الخبر كان الحيرة: إذا كان هؤلاء الأشخاص يعلمون أن الذكاء الاصطناعي قد يدمر البشرية، فلماذا لا يتوقفون عن البحث والتطوير؟ في الواقع، السبب هو أن الصناعة بأكملها وقعت في “دورة مفرغة تسريعية” لا يمكن الهروب منها:
- منطق جميع شركات الذكاء الاصطناعي الرائدة هو أنه إذا تباطأت هذه الشركات، فإن الشركات الصغيرة التي لا تهتم بالأمان أو الأشخاص الخبيثين قد تطورون الذكاء الاصطناعي القوي أولاً، مما يجعل الوضع أكثر خطورة، لذا يجب عليهم السير بسرعة أكبر لضمان أمان البشرية.
- النتيجة هي أن كل شركة تستخدم حجة “أنا أسرع لحماية البشرية” كذريعة أخلاقية لتسريع تطورها، وبسبب المنافسة، تزداد سرعة التطور في الصناعة بشكل متزايد، ولا أحد يجرؤ على التوقف. في النهاية، تكون الأرباح كلها للشركات نفسها، وإذا حدثت مشاكل فادحة بسبب الذكاء الاصطناعي، فإن الجميع سيتحملون العواقب معًا. هذا النظام يجعل من المستحيل أن يتصرف الموظفون بنزاهة ويتباطأوا بشكل طوعي.
3. لا تتأثروا بـ “روايات نهاية العالم”: الأضرار الناتجة عن الذكاء الاصطناعي الحالية أكثر واقعية من احتمالات الانقراض بعد 10 سنوات
بعد قراءة الخبر، يشعر الكثيرون بالخوف أو يعتقدون أن هؤلاء الأشخاص يبالغون في تحذيراتهم لجذب الانتباه، لكن هذا غير ضروري: النقاش المستمر حول ما إذا كان الذكاء الاصطناعي سيدمر البشرية بعد 10 سنوات يحجب عنا الأضرار الفعلية التي يسببها الذكاء الاصطناعي الآن، مثل الاحتيال عبر الذكاء الاصطناعي الذي أفقد الكثيرين ممتلكاتهم، والمقابلات الوظيفية التي تستبعد العديد من المتقدمين، والمحتوى الذي ينتجه الذكاء الاصطناعي الذي يأخذ وظائف العديد من المبدعين، والبيانات وصلاحيات اتخاذ القرارات التي تمتلكها شركات الذكاء الاصطناعي الرائدة والتي تفوق سلطات العديد من الدول الصغيرة. هذه الأضرار تحدث الآن، دون الحاجة إلى انتظار “استيقاظ” الذكاء الاصطناعي أو أن يقوم بأفعال متعمدة.
المشكلة الأكبر هي أن إذا ركز الجمهور كل انتباهه على “مخاطر نهاية العالم البعيدة”， فسيصبح الوضع أسوأ، حيث تصبح شركات الذكاء الاصطناعي هي من تحدد معايير الأمان، ولا يملك الجمهور أي حق في التدخل، مما يزيد من سلطتها.
4. نحن، الناس العاديون، لا نحتاج إلى الانحياز إلى طرف معين، فقط نطالب بثلاثة حقوق أساسية
من السهل أن تدفع الرأي العام الناس إلى طرفين متطرفين: إما اعتبار هؤلاء الباحثين محتالين يحاولون رفع أسعار أسهم شركاتهم، أو الاعتقاد أن الذكاء الاصطناعي سيدمر العالم ويجب أن نستسلم. لكن هذا غير ضروري.
تظهر نتائج استطلاع أجراه أكثر من 2700 باحث رائد في مجال الذكاء الاصطناعي حول العالم أن 38% منهم يعتقدون أن احتمالية انقراض البشرية بسبب الذكاء الاصطناعي لا تقل عن 10%، و70% يعتقدون أن الاستثمار في أبحاث أمان الذكاء الاصطناعي غير كافٍ، مما يدل على أن هذا ليس مجرد خيال مجاني. لكن لا توجد أدلة قاطعة على أن انقراض البشرية بسبب الذكاء الاصطناعي سيحدث بالتأكيد.
نحن، الناس العاديون، لا نحتاج إلى فهم معقدات النماذج الكبيرة أو تقنيات المحاذاة، فقط نطالب بثلاثة أشياء بشكل مشروع: أولاً، عندما تطور شركات الذكاء الاصطناعي نماذج جديدة قوية، لا يجب أن تقوم هذه الشركات بنشرها بمفردها، بل يجب أن تكون هناك هيئات مستقلة غير مرتبطة بمصالح الشركات لفحص أمان هذه النماذج؛ ثانيًا، إذا اكتشف الموظفون داخل الشركات مخاطر في الذكاء الاصطناعي، لا يجب أن يتم حجبهم بسبب اتفاقيات السرية، بل يجب توفير قنوات آمنة للإبلاغ عن هذه المخاطر؛ ثالثًا، إذا حدثت مشاكل فعلية بسبب الذكاء الاصطناعي، لا يجب أن يتحمل الناس العاديون التكاليف، بل يجب على الشركات تحمل المسؤولية بالكامل.
بعد كل شيء، لا أحد لديه الحق في المخاطرة بمصير البشرية من أجل نجاحه التجاري، حتى لو ادعت الشركات أنها تفعل ذلك من أجل “حماية البشرية”.