---
ملخص المحتوى الرئيسي
هذه إشارة هامة جدًا في الصناعة: جاكوب، وهو باحث متمرس لمدة ثلاث سنوات في مجال التدريب المسبق لتقنيات الذكاء الاصطناعي لدى شركتين رائدتين في هذا المجال، أوبنإيه آي (OpenAI) وأنثروبوسيك (Anthropic)، قد استقال مؤخرًا من أنثروبوسيك، والتي تُعتبر على نطاق واسع الشركة الأكثر اهتمامًا بأمن تقنيات الذكاء الاصطناعي، وقرر الانسحاب تمامًا من صناعة الذكاء الاصطناعي. وقد صرح علنًا بأن الشركات الرائدة في هذا المجال لا تهتم بمسألة السيطرة على المخاطر تحت ضغوط المنافسة، وأنه إذا استمرت وتيرة البحث والتطوير الحالية، فقد يصل الذكاء الاصطناعي إلى حالة خارج عن السيطرة بحلول نهاية العام المقبل، حيث يصبح قادرًا على تطوير نفسه بنفسه ويزداد قوة بشكل لا يمكن للبشر منعه. كما أن الصناعة بأكملها تفتقر إلى الرقابة الحكومية الإلزامية، وهي مقيدة أيضًا بمصالح التجارة ذات القيم العالية، مما يجعل حتى أكثر الشركات وعيًا بالأمان غير قادرة على الحفاظ على سلامتها. لذلك، دعا جاكوب إلى الرقابة العالمية والتنسيق بين الشركات لوقف تطور تقنيات الذكاء الاصطناعي.
---
تفسير التفاصيل
1. 【هذا ليس مجرد شائعات يروج لها غير المتخصصين: هوية المتحدث ذات أهمية كبيرة جدًا】
الكثير من الناس يعتقدون أن تصريحات جاكوب مجرد محاولة لجذب الانتباه، لكن الأمر مختلف هذه المرة. فقد عمل جاكوب بالفعل لمدة ثلاث سنوات في المجال الأساسي لتطوير تقنيات الذكاء الاصطناعي لدى شركتين رائدتين، وهما أوبنإيه آي وأنثروبوسيك. الأهم من ذلك أنه انتقل من أوبنإيه آي إلى أنثروبوسيك بسبب اهتمام هذه الأخيرة الكبير بأمن تقنيات الذكاء الاصطناعي، مما يعني أنه كان جزءًا من فريق العمل المسؤول عن هذا الأمر.
سبق أن استقال عدد من الموظفين المسؤولين عن الأمان في مختبرات رائدة، لكنهم انتقلوا من شركات “غير آمنة” إلى شركات “أكثر أمانًا”، بينما جاكوب استقال من أنثروبوسيك بسبب شعوره باليأس من عدم اهتمام الشركة بالأمان، وهو ما يجعل تصريحاته أكثر مصداقية من تعليقات أي محلل خارجي.
2. 【ما الذي يخشاه جاكوب من أن يحدث بحلول العام المقبل؟】
الكثير من الناس يعتقدون أن جاكوب يخشى أن يصبح الذكاء الاصطناعي أكثر ذكاءً ويهاجم البشر، لكن الأمر ليس كذلك؛ ما يخشاه هو تحقيق دورة تطور ذاتية تؤدي إلى تقوية الذكاء الاصطناعي بشكل متسارع. في الواقع، كان البشر دائمًا هم من يطورون الذكاء الاصطناعي عن طريق كتابة الكود وضبط المعلمات وتزويده بالبيانات. لكن الآن، أصبح الذكاء الاصطناعي قادرًا على القيام بجزء كبير من أعمال التطوير نفسه. إذا أصبح الذكاء الاصطناعي قويًا بما يكفي لتطوير جيل جديد أكثر ذكاءً، فإن هذه الدورة ستؤدي إلى تقوية الذكاء الاصطناعي بشكل أسرع بكثير، وقد لا يتمكن البشر من منع ذلك. ووفقًا لحسابات جاكوب، فإن الشركات تسير نحو هذا الهدف بسرعة كبيرة، وقد نصل إلى نقطة الانهيار بحلول نهاية العام المقبل.
3. 【اللامسؤولية في الشركتين الرائدتين ناتجة عن المنافسة】
جاكوب يرى أن معظم الأشخاص في الشركتين لا يدركون المخاطر الكبيرة التي قد يشكلها الذكاء الاصطناعي، وكل ما يهمهم هو إطلاق ميزات جديدة لجذب المستخدمين وتحقيق الأرباح، متجاهلين مسألة الأمان تمامًا. أما أنثروبوسيك، فالجميع فيها يدركون المخاطر، لكنهم محاصرون في “مأزق السجين” حيث إذا قرروا التباطؤ في تطوير الأمان، فقد يطور منافسوهم أنظمة أكثر قوة، مما يعني أن الفريق الذي لا يهتم بالأمان قد ينتج أنظمة خطيرة. الشركتان كلاهما على جهاز جري لا يمكن التوقف عنه، وأي تباطؤ قد يؤدي إلى السقوط، حتى لو كانوا يعلمون أن ذلك قد يؤدي إلى الكارثة. بالإضافة إلى ذلك، هناك فرق أخرى في دول أخرى تسعى للتفوق، مما يزيد من ضغوط المنافسة.
4. 【مستوى جنون تطوير الذكاء الاصطناعي الحالي أعلى بعشر مرات من تطوير القنابل النووية】
جاكوب يصف تطوير الذكاء الاصطناعي الحالي بأنه مثل “مشروع مانهاتن” الذي كان يتم تنفيذه بجهود وطنية كبيرة، حيث تم تجميع آلاف العلماء في معسكرات في صحراء نيو مكسيكو تحت حراسة عسكرية، وكانت كل خطوة في التطوير تتطلب موافقة الحكومة. أما الآن، فإن تطوير الذكاء الاصطناعي يتم في مكاتب عادية في شركات التكنولوجيا، دون رقابة حكومية أو عسكرية، والاتفاقيات الأمنية مجرد وعود طوعية يمكن إلغاؤها في أي وقت. هذا يعني أن الفرص مفتوحة أمام أي شركة لتطوير أسلحة ذكاء اصطناعي قوية، ومن ينجح أولاً سيحصل على تمويل ضخم.
5. 【التناقض بين الوعود الأمنية والرغبة في تحقيق الأرباح】
الأمر الأكثر سخرية هو أن أنثروبوسيك تستعد لإصدار أسهمها في البورصة بقيمة تبلغ 2 تريليون دولار، وهو ما يجعل جميع الوعود الأمنية عديمة القيمة أمام الرغبة في تحقيق الأرباح. إذا أرادت الشركة الحفاظ على هذه القيمة، عليها إقناع المستثمرين بأن قدرات الذكاء الاصطناعي ستزداد وأنها ستحقق أرباحًا أكبر من جوجل وأبل معًا. لكن إذا قررت التباطؤ في تطوير الأمان، فإن المستثمرين قد يطالبون بتغيير إدارتها. حتى لو كانت أنثروبوسيك ترغب حقًا في الحفاظ على الأمان، فإنها قد لا تتمكن من تحمل الضغوط عندما يصل الأمر إلى نقطة تتطلب التضحية بجزء كبير من قيمتها المالية.