الهجوم الإلكتروني المساعد بواسطة الذكاء الاصطناعي على OpenAI: زلزال أمني نتج عن فريق صغير من ثلاثة أشخاص
ملخص المحتوى الأساسي
ببساطة، القصة كالتالي: فريق صغير من ثلاثة أشخاص استخدموا الذكاء الاصطناعي لاختراق أنظمة OpenAI الداخلية بشكل “قانوني” في غضون 72 ساعة.
هذا ليس مجرد معركة هاكرز كما في الأفلام، بل كان اختبارًا مصرحًا به ضمن برنامج مكافآت الثغرات. لكن الحادثة أثارت ضجة لأنها كسرت اعتقادين تقليديين:
1. انخفاض العتبة: كان يتطلب الأمر خبراء أمنيين متميزين وفرقًا كبيرة وأشهرًا لاختراق أنظمة معقدة، لكن الآن يمكن لعدد قليل من الأشخاص القيام بذلك في غضون أيام بمساعدة الذكاء الاصطناعي.
2. دور الذكاء الاصطناعي: لم يعد الذكاء الاصطناعي كيانًا غير خاضع للسيطرة يتصرف بشكل عشوائي، بل أصبح أداة قوية في أيدي البشر يمكنها كتابة الكود واكتشاف الثغرات واستكشاف مسارات الهجوم.
على الرغم من أن OpenAI دفعت مكافأة قدرها 6500 دولار فقط، إلا أن الحادثة أثرت بشكل كبير على الشركة، حيث تم تعيين 25% من المهندسين لإصلاح الثغرات. هذا يشير إلى أن **قواعد الأمن السيبراني تتغير، والذكاء الاصطناعي يقلل من صعوبة الهجمات الأمنية إلى مستوى أكثر شمولاً.
---
تفسير مفصل
1. الحقيقة وراء الحادثة: ليس الذكاء الاصطناعي هو الذي هاجم OpenAI، بل كانت مجرد مجموعة من البشر مع الذكاء الاصطناعي
أولاً، دعونا نوضح أكبر سوء فهم: لم يكن الذكاء الاصطناعي هو من هاجم OpenAI بشكل مستقل.
تشير التقارير إلى أن المهاجمين كانوا من فريق شركة Hacktron AI الناشئة في مجال الأمن السيبراني. كانوا يشاركون في برنامج مكافآت الثغرات الخاص بـ OpenAI (يمكن اعتباره مكافأة رسمية لاكتشاف الأخطاء في النظام). لذلك، كان العملية قانونية ومصرح بها.
إذًا، ما هو دور الذكاء الاصطناعي في هذا السياق؟
- النموذج السابق: يكتشف المهاجمون الثغرات → يكتبون الكود لاستغلالها → يحللون الخطوات التالية للهجوم. كل خطوة تعتمد على قدرات البشر العقلية والبدنية.
- النموذج الحالي: يكتشف المهاجمون الثغرات → يطلبون من الذكاء الاصطناعي (Claude) كتابة الكود اللازم → يحلل الذكاء الاصطناعي منطق الثغرة → يقوم البشر بتنفيذ الخطوات التالية وفقًا لتوجيهات الذكاء الاصطناعي.
فريق Hacktron كان مكونًا من ثلاثة أشخاص فقط، واستخدموا نموذج Claude من شركة Anthropic (وبشكل خاص الإصدار الجديد Opus 5) لإنشاء كود الهجوم بسرعة. الذكاء الاصطناعي كان مثل مساعد عبقري لا يعرف الكلل، ساعدهم على تجنب الأجزاء الأكثر تعقيدًا ومللاً من عملية كتابة الكود وتحليل المنطق.
مثال بسيط: في الماضي، كان الطاهي المتميز يقوم بشراء المكونات وغسلها وتقطيعها وطهي الطعام بنفسه. الآن، لا يزال الطاهي نفسه مسؤولاً عن الطهي، لكن لديه مساعد ذكي يقوم بكل هذه المهام تلقائيًا، وكل ما على الطاهي فعله هو تذوق الطعام وتحديد ما إذا كان جاهزًا للتقديم. الكفاءة ارتفعت، لكن السيطرة لا تزال بيد الطاهي.
2. مسار الهجوم: القفزة المذهلة من صورة على منتدى إلى مكتبة الكود الأساسية
كان مسار الهجوم ماكرًا للغاية وكشف عن مشكلة شائعة في الشركات الكبيرة تتعلق بـ “سلسلة الثقة”. يمكننا تقسيمه إلى أربع خطوات:
1. نقطة الدخول: صورة على منتدى غير لافتة للنظر
لدى OpenAI منتدى مجتمعي يستخدم برنامجًا طرفيًا يُدعى Discourse. اكتشف فريق Hacktron وجود ثغرة في هذا البرنامج عند معالجة ملفات معينة. هذا مثل باب منزلك المغلق بإحكام، لكن النافذة غير محكمة، مما يسمح لللص بالدخول من النافذة.
2. **الاختراق: الذكاء الاصطناعي يساعد في كتابة “المفتاح”
قام الباحثون باستخدام الذكاء الاصطناعي لكتابة الكود لاستغلال هذه الثغرة. لم ينجحوا في البداية، لكن في اليوم التالي، وجد الإصدار الجديد من Claude (Opus 5) طريقة ناجحة. الكود الذي أنشأه الذكاء الاصطناعي سمح لهم بالدخول إلى خادم المنتدى.
3. **اكتشاف غير متوقع: الحصول على “مفتاح عام”
كانت هذه الخطوة المفاجئة. بعد دخولهم إلى الخادم، حصل الباحثون على بعض “رموز المصادقة” (Tokens). يمكن اعتبار هذه الرموز “بطاقات دخول”. كانوا يعتقدون أن هذه الرموز تسمح فقط بالدخول إلى المنتدى، لكن اتضح أن بعضها كان يستخدمه موظفو OpenAI! والأسوأ من ذلك، أن هذه الرموز سمحت لهم بالوصول إلى خدمة GitHub الداخلية لـ OpenAI (مكتبة الكود).
4. **الاستكشاف العميق: التجسس على “مكتبة الأسرار”
من خلال حساب ChatGPT الخاص بأحد الموظفين، تمكن الباحثون من الوصول إلى “Monorepo” الخاص بـ OpenAI، وهي المكان الذي تخزن فيه الشركة العديد من الخوارزميات الأساسية وأكواد البرمجيات، ويمكن اعتبارها “مكتبة الأسرار” للشركة. على الرغم من أن الكود لم يحتوي على أهم معلمات النماذج الذكاء الاصطناعي، إلا أنها كانت تحتوي على الكثير من الكود الحيوي.
النقطة الرئيسية: لماذا استطاعت ثغرة في منتدى أن تؤدي إلى الوصول إلى الأجزاء الداخلية الأساسية؟ لأن إدارة الصلاحيات كانت فضفاضة للغاية. عندما يقوم موظفو OpenAI بتسجيل الدخول إلى المنتدى، كانت رموز المصادقة التي يستخدمونها تمنحهم صلاحيات واسعة جدًا، دون اتباع مبدأ “الحد الأدنى من الصلاحيات” (أي: إذا كنت بحاجة فقط لمشاهدة المنتدى، فلا ينبغي أن تعطى لك صلاحيات الوصول إلى مكتبة الكود).
3. لماذا استطاع فريق من ثلاثة أشخاص فقط تنفيذ الهجوم؟ كيف خفض الذكاء الاصطناعي من عتبة الهجوم؟
هذا هو الجزء الأكثر إثارة للتفكير في الحادثة.
الحواجز التقليدية للدفاع الأمني:
- حاجز المواهب: يتطلب الأمر خبراء متميزين في بروتوكولات الشبكات وأنظمة التشغيل والثغرات التطبيقية.
- حاجز الوقت: قد يستغرق تحليل ثغرة معقدة أسابيع أو حتى أشهر.
- حاجز الأدوات: يتطلب الأمر أدوات متخصصة باهظة الثمن وبنية تحتية قوية.
التغييرات التي أحدثها الذكاء الاصطناعي:
- القدرة على كتابة الكود: يمكن لـ Claude Opus 5 إنشاء كود قابل للتنفيذ بناءً على وصف الثغرة بسرعة. في الماضي، كان يتطلب ذلك من المهندسين ذوي الخبرة أيامًا للتعديل، لكن الآن يمكن للذكاء الاصطناعي تقديم حل في دقائق.
- القدرة على التفكير المنطقي: يمكن للذكاء الاصطناعي تحليل منطق الثغرات، مثل “لماذا تتعطل هذه الدالة؟” و“هل يمكن التحكم في تدفق تنفيذ البرنامج بعد الانهيار؟”. هذا يسرع من عملية تحليل الثغرات بشكل كبير.
- استكشاف المسارات: يمكن للذكاء الاصطناعي مساعدة الباحثين على تجربة مسارات هجوم مختلفة بسرعة، مثل “إذا لم ينجح هذا الرمز، ماذا عن ذاك؟” أو “هل يمكن إدخال معلمات أخرى في هذا الواجهة؟”.
النتيجة: فريق صغير من ثلاثة أشخاص، باستخدام خدمة الذكاء الاصطناعي المدفوعة شخصيًا، أكملوا ما كان يمكن أن يتطلبه فريق متخصص من عشرة أشخاص عدة أسابيع. هذا يعني أنه في المستقبل، قد يتمكن العديد من “الهاكرز غير المحترفين” من تشكيل تهديد للأنظمة الكبيرة بمساعدة الذكاء الاصطناعي.
4. رد فعل OpenAI: المكافأة البالغة 6500 دولار والتأثير الكبير الناتج عنها
دفعت OpenAI مكافأة قدرها 6500 دولار فقط، وقد تبدو قليلة، لك