تلخيص بلغة بسيطة للمحتوى الأساسي
خلال العامين الماضيين، ركزت جميع الصناعات على أمن تقنية الذكاء الاصطناعي، وكان السؤال الرئيسي هو: “أي نموذج يمكن اختياره لضمان الأمان؟” هل يجب استخدام النماذج المغلقة المصدر أم المفتوحة المصدر؟ هل يجب استخدام النماذج التي طورتها الشركات الكبرى أم تلك التي تم تعديلها يدويًا؟ كان الأمر يتطلب إجراء العديد من الاختبارات والتحقق من المؤهلات قبل أن يتم الاعتماد على النموذج لتشغيل الأعمال الأساسية. لكن هذه المرة، قام بنك جولدمان بتطبيق مبادئ الأمان التقليدية مثل “عدم الثقة المسبقة” و“الدفاع العميق” في مجال الذكاء الاصطناعي، مقترحًا منهجية تتعارض مع المفاهيم السائدة: لا يجب افتراض أن أي نموذج موثوق به بنسبة 100٪، حتى لو كان مفتوح المصدر؛ طالما تم إنشاء هيكل حماية متعدد الطبقات، يمكن استخدامه بأمان حتى في السياقات الحساسة مثل البنوك. هذا التحول يعني أن التركيز على أمن الذكاء الاصطناعي يتحول من اختيار النماذج الموثوقة إلى بناء أنظمة موثوقة، مما يسمح للشركات باستخدام تقنيات الذكاء الاصطناعي بحرية ويتجنب الاعتماد الكامل على مصنعي النماذج، وهو ما يشير إلى أن تقنية الذكاء الاصطناعي أصبحت الآن بنية تحتية أساسية قادرة على دعم الأعمال الرئيسية.
---
تفسير مفصل بلغة بسيطة
1. المنهجية السابقة لأمن الذكاء الاصطناعي كانت تعتمد على “التحقق مرة واحدة ثم منح الصلاحيات كليًا”
كانت عملية استخدام تقنيات الذكاء الاصطناعي في الشركات تشبه توظيف الموظفين: أولاً يتم التحقق من الخلفية، ثم إجراء اختبارات أمنية، والتحقق من مؤهلات الموردين، وبعد التأكد من عدم وجود مشاكل يتم منح الصلاحيات. بعد ذلك، كانت الشركات تخفف من حذرها تدريجيًا وتمنح الذكاء الاصطناعي صلاحيات أكبر، بدءًا من البيانات العامة وصولاً إلى معلومات العملاء الرئيسيين، ثم السماح له بالوصول إلى واجهات الدفع وتعديل الإعدادات الإنتاجية، وأخيرًا إلغاء عمليات المراجعة اليدوية. لكن هذا المنهج يعاني من عيب خطير: النماذج ليست ثابتة؛ قد تكون آمنة اليوم، لكن قد تتغير غدًا بسبب إدخال بيانات ضارة أو تحديثات خفية، مما يزيد من المخاطر.
2. جوهر مبدأ “عدم الثقة المسبقة” في الذكاء الاصطناعي: لا يمكن الاعتماد على أي نموذج بشكل أعمى
يعتقد الكثيرون أن مبدأ “عدم الثقة المسبقة” يعني اعتبار الذكاء الاصطناعي خطرًا، لكنه في الواقع مبدأ مستمد من أمن الشبكات التقليدي: كان يُعتقد سابقًا أن جميع الموظفين الذين يدخلون الشبكة الداخلية للشركة موثوقين، لكن بعد الهجمات الإلكترونية أصبح من الضروري التحقق من هويتهم في كل مرة يستخدمون فيها الأنظمة الحساسة. هذا المبدأ أكثر أهمية في سياق الذكاء الاصطناعي، حيث قد يتم استغلال النماذج من قبل المخترقين لإجراء عمليات ضارة دون أن يلاحظ المستخدمون. لذا، يجب التحقق من كل عملية بشكل فردي، حتى لو كان النموذج مدفوعًا بملايين الدولارات ومصادق عليه أمنيًا.
3. نقل المسؤولية الأمنية بعيدًا عن النماذج وتحرير الشركات من قيود المصنعين
يوفر نظام جولدمان حماية أكثر فعالية، حيث لا يمتلك النموذج أي صلاحيات عالية؛ إذا أراد النموذج الوصول إلى بيانات حساسة أو إجراء تعديلات، يجب أولاً الحصول على موافقة من النظام الأمني للبنك أو نظام الصلاحيات المستقل. هذا يتيح للشركات استخدام الذكاء الاصطناعي بحرية دون الاعتماد على مصنعي النماذج، مما يجعله بنية تحتية أساسية قادرة على دعم الأعمال الرئيسية.
4. النقص في النظام الأمني: الحاجة إلى “حكم مستقل”
لا يزال هناك نقص في النظام الأمني الحالي، حيث قد تحدث أخطاء دون أن يتم اكتشافها، مما يتطلب وجود جهة مستقلة تقوم بمراجعة كل عملية بشكل فردي لضمان أمانها.
5. “عدم الثقة المسبقة” لا يعني عدم الاعتماد على الذكاء الاصطناعي؛ بل يعني معاملته كبنية تحتية أساسية
هذا المنهج لا يعني عدم الثقة في تقنيات الذكاء الاصطناعي، بل يعكس اعتبارها جزءًا أساسيًا من البنية التحتية للشركات، مما يضمن استمرارية الأعمال دون مخاطر.
---
هذا الترجمة تحافظ على بنية النص الأصلي وتستخدم لغة عربية طبيعية ومناسبة للقراءة في سياق الأخبار المالية والأعمال.