الملخص الرئيسي: الذكاء الاصطناعي بدأ في “إصلاح نفسه”， لكن عجلة القيادة ما زالت بيد الإنسان
ببساطة، كشفت شركة Anthropic (المطورة لتقنية Claude) عن مجموعة من البيانات القوية جدًا، مما يدل على أن الذكاء الاصطناعي يشارك بشكل واسع النطاق في تطوير الذكاء الاصطناعي نفسه.
حتى أغسطس من هذا العام، كان 26% من أعمال تطوير الذكاء الاصطناعي داخل شركة Anthropic يتم إدارتها بواسطة الذكاء الاصطناعي نفسه (حيث كان البشر مسؤولين فقط عن تحديد الأهداف والمراجعة النهائية)، بينما كانت هذه النسبة أقل من 1% في فبراير من نفس العام. وهذا يعني أن الذكاء الاصطناعي تحول من مجرد مساعد إلى عنصر رئيسي في التطوير خلال نصف عام فقط.
على الرغم من أن الذكاء الاصطناعي أصبح قادرًا على إصلاح الأخطاء بنفسه، وكتابة الكود، وتنفيذ الاختبارات، بل والتعاون مع بعضه البعض، إلا أنه لم يصل إلى مستوى “الاستقلالية التامة” (AL5). وهذا يعني أن الذكاء الاصطناعي لا يزال غير قادر على تحديد ما يجب أن يبحث عنه بنفسه، ولا يمكنه العمل بشكل كامل دون إشراف بشري. هذا الكشف لا يظهر فقط التقدم التقني الحقيقي، بل يشبه أيضًا “قنبلة الشفافية” التي ألقيت في الصناعة، مما يجبر الشركات الكبرى الأخرى على الكشف عن ما لديها من إمكانيات.
---
تحليل مفصل: فهم تطور الذكاء الاصطناعي الذاتي من خمسة أبعاد
1. من “المساعد” إلى “المدير”: تغيير جوهري حدث خلال نصف عام
إذا قارنا تطوير الذكاء الاصطناعي بشركة، فإن الذكاء الاصطناعي كان في السابق مثل متدرب، حيث كان عليك مراقبته أثناء البحث عن المعلومات أو كتابة الكود؛ أما الآن، فقد تحول إلى مدير متقدم.
استخدمت شركة Anthropic إطارًا للأتمتة يتكون من ست مستويات (AL0-AL5). الوضع الحالي كالتالي:
- AL4 (الذكاء الاصطناعي يدير): 26% من الأعمال وصلت إلى هذا المستوى. ما معنى ذلك؟ يحتاج المهندسون البشر فقط إلى قول “قم بإصلاح هذا النظام”， بينما يقوم الذكاء الاصطناعي بباقي الأمور مثل فحص السجلات، وتحديد الأسباب، وكتابة الكود، وإجراء الاختبارات، وحتى كتابة التقارير. المهندسون البشر يحتاجون فقط إلى التحقق من النتائج في النهاية.
- AL3 (التعاون بين الذكاء الاصطناعي): أكثر من 90% من الأعمال وصلت إلى هذا المستوى. هذا يعني أن الذكاء الاصطناعي أصبح جزءًا أساسيًا من عملية التطوير، ولم يعد مجرد أداة غير ضرورية.
تفسير بسيط: كان الذكاء الاصطناعي في السابق مثل المساعد الذي يوجهك، أما الآن فهو مثل السائق الذي يتحكم في السيارة؛ أنت تجلس في المقعد الأمامي وتضع يدك على عجلة القيادة، لكن السيارة تتحرك بنفسها. على الرغم من أننا لم نصل بعد إلى مستوى “القيادة الذاتية التامة” (AL5)، إلا أن حجم عملك قد قل بشكل كبير. هذا التغيير من “المساعدة” إلى “الإدارة” ارتفع بسرعة كبيرة، من 1% إلى 26% خلال نصف عام.
2. “30 ألف موظف ذكاء اصطناعي” يعملون بجد في الخلفية
الأمر الأكثر إثارة للدهشة في هذا الكشف ليس النسبة، بل الحجم.
لدى شركة Anthropic منصة للوكلاء الذكاء الاصطناعي، وفي أي وقت، يوجد حوالي 30 ألف وكيل ذكاء اصطناعي يعملون. هؤلاء الوكلاء ليسوا منعزلين؛ لديهم “هويات فردية” ويتبادلون المهام ويصححون الأخطاء من خلال نظام مشاركة الرسائل. في أغسطس، اتخذ هؤلاء الوكلاء أكثر من مليار قرار.
تفسير بسيط: تخيل أن هناك فريقًا ضخمًا من “30 ألف موظف رقمي” داخل غرفة خوادم شركة Anthropic يعملون على مدار 24 ساعة، يتواصلون مع بعضهم البعض لتأكيد المهام وفحص الكود.
هذا ليس مجرد استخدام وكيل ذكاء اصطناعي واحد من قبل شخص واحد، بل فريق كامل من الذكاء الاصطناعي يعمل على عملية التطوير. هذا التأثير الناتج عن الحجم يعني أن كفاءة تطوير الذكاء الاصطناعي تنمو بشكل أسي. ما كان يستغرقه الفريق البشري عدة أشهر لإكماله، قد يتم الآن في غضون أيام أو ساعات بفضل القدرة على المعالجة المتزامنة للذكاء الاصطناعي.
3. المراقبة الأمنية: اكتشاف 2000 حالة مخالفة من بين 1 مليار عملية
بما أن الذكاء الاصطناعي قادر على القيام بالكثير من الأمور، هل قد يسبب مشاكل؟ قدمت شركة Anthropic بيانات أمنية محددة جدًا:
- المراقبة أثناء التشغيل: من بين مليار قرار اتخذه الذكاء الاصطناعي في أغسطس، تم منع حوالي 0.002% فقط. هذا يعني أنه تم اعتراض حوالي 20 ألف قرار فقط من أصل مليار قرار.
- المراقبة أثناء التوقف: يتم تحديد حوالي 100 ألف سجل محادثة كل أسبوع، وبعد فلترة الأخطاء بواسطة الآلات، يتم فحص حوالي 50 سجلًا فقط يحتاجون إلى مراجعة يدوية.
تفسير بسيط: هذه البيانات تظهر شيئين:
1. الذكاء الاصطناعي مطيع جدًا: في معظم الأوقات، يتصرف وفقًا للقواعد المحددة، ومعدل المخالفات منخفض جدًا.
2. المراقبة مرهقة: على الرغم من انخفاض معدل المخالفات، إلا أن العدد الكبير (مليار عملية) يتطلب مراقبة مستمرة. الـ50 سجلًا التي تحتاج إلى مراجعة يدوية تشبه المرضى في العناية المركزة في المستشفى؛ عددهم قليل، لكن كل واحد منهم مهم للغاية.
هذا يدل أيضًا على أن نظام المراقبة الحالي يعتمد على “الاعتراض بعد الحدوث” و“المراجعة بعد الحدوث”، وليس على “الوقاية المسبقة”. قد يحاول الذكاء الاصطناعي ارتكاب بعض الأخطاء أثناء التشغيل، والنظام مسؤول عن منعها. هذا مثل كاميرات الطرق السريعة التي تلتقط السيارات التي تتجاوز السرعة وتفرض غرامات، بدلاً من السماح للسيارات بتحديد سرعتها بنفسها.
4. توزيع القدرة الحاسوبية: 12% من قدرة الذكاء الاصطناعي مخصصة للأمان
تفاصيل مهمة قد تُهمل هي استثمار القدرة الحاسوبية.
خلال أسبوع العينة في يوليو، استثمرت شركة Anthropic حوالي 6% من قدرة الذكاء الاصطناعي في الأبحاث الأمنية. إذا أخذنا في الاعتبار فقط الأعمال التي يديرها الذكاء الاصطناعي، فإن هذه النسبة ارتفعت إلى 12%.
تفسير بسيط: القدرة الحاسوبية هي “الغذاء” و“الوقت” الذي يحتاجه الذكاء الاصطناعي للعمل. ترغب شركة Anthropic في استثمار 12% من وقت تطوير الذكاء الاصطناعي في دراسة كيفية منع الذكاء الاصطناعي من التسبب في المشاكل، مما يدل على أنهم يدركون جيدًا أن مخاطر الأمان تزداد بشكل أسي مع زيادة استقلالية الذكاء الاصطناعي.
هذا مثل البنوك التي تحتاج إلى زيادة ميزانية الأمان مع زيادة المعاملات الآلية لمنع الهجمات الإلكترونية أو الاحتيال الداخلي. هذا الاستثمار في القدرة الحاسوبية يعمل كـ“مكابح” وـ“قواعد أمان” أثناء عملية تطوير الذكاء الاصطناعي. إذا لم يتم هذا الاستثمار، فإن سرعة تطور الذكاء الاصطناعي ستزداد، وبالتالي تزداد مخاطر الفشل.
5. المنافسة في الصناعة: الشفافية تصبح “سلاحًا” جديدًا
أخيرًا، يجب أن ننظر إلى السياسة الصناعية وراء هذا الكشف.
كشفت شركة Anthropic عن هذه البيانات الحساسة بشكل استباقي لسببين:
1. السعي للحصول على السيطرة: قبل أن يفقد الذكاء الاصطناعي السيطرة تمامًا على نفسه، تريد أن تظهر للجمهور والهيئات التنظيمية أن البشر لا يزالون يملكون السيطرة، لكسب المزيد من المساحة السياسية والوقت للتطوير.
2. الضغط على المنافسين: هذا نوع من “سباق الكشف”. عندما تكشف شركة Anthropic ع