مرحبًا! أنا صديقك الصحفي المتخصص في الشؤون المالية والاقتصادية. المقال الذي سنناقشه اليوم من شركة Havenlon Labs يكشف عن نقطة تحول عميقة جدًا في هذا المجال، وربما تبدو غير منطقية إلى حد ما.
في الماضي، كان السؤال الشائع عن الذكاء الاصطناعي: “ما مدى ذكائك؟”
أما الآن، فالسؤال أصبح: “هل يمكنك التوقف عن التصرف بشكل عشوائي؟ ومن لديه السلطة لإيقافك؟”
هذا ليس مجرد نقاش تقني، بل يتعلق أيضًا بإعادة هيكلة المنطق التجاري وآليات الثقة. دعوني أشرح هذا المقال من خلال خمس نقاط أساسية، لكي تفهموا التغيرات الجوهرية في صناعة الذكاء الاصطناعي بحلول عام 2026.
1. تغير الاتجاه: من “من هو الأقوى” إلى “كيف يمكن السيطرة عليه”
الرأي الأساسي: في السنوات القليلة الماضية، كانت الشركات تشتري الذكاء الاصطناعي كما لو كانت تشتري سيارات رياضية، مهتمة فقط بقوته القصوى. أما الآن، فهي تهتم بمدى فعالية أنظمة الفرامل وما إذا كان بإمكانها التحكم في الأنظمة بشكل آمن.
تفسير مفصل:
في السنوات السابقة، كانت الشركات تقيم الذكاء الاصطناعي بناءً على دقته وقدرته على معالجة المهام المعقدة. المفهوم كان بسيطًا: كلما كان الذكاء الاصطناعي أقوى، كان بإمكانه توفير المزيد من الوقت والمال. وكان الافتراض السائد أن قيمة الذكاء الاصطناعي تتوافق مع قدرته القصوى.
لكن بحلول عام 2026، تغير الاتجاه تمامًا. أشار المقال إلى إصدار مايكروسوفت لمسودة “مدونة سلوك الذكاء الاصطناعي الإنسانية” (Humanist AI Code of Conduct)، بالإضافة إلى تشديد شركات كبيرة مثل Palantir وNvidia على استخدام النماذج المتقدمة. هذان الأمران قد يبدوان غير مرتبطين، لكنهما يشيران إلى نفس المشكلة: الشركات لم تعد قلقة من أن الذكاء الاصطناعي غير كافٍ، بل من أنه قد يكون أكثر ذكاءً من اللازم، لدرجة أنه قد يتسبب في مشاكل خطيرة ويصعب السيطرة عليه.
الأسئلة الشائعة الآن هي:
- ما الذي يمكن للذكاء الاصطناعي أن يفعله بالضبط؟ وما هي حدود قدراته؟
- إذا حصل على الصلاحيات اللازمة، هل يجب أن ينفذ ما يُطلب منه؟
- وإذا كان المزود غير موثوق به، هل يمكن استخدام هذا النظام؟
هذا مشابه لعندما نطلب من طاهٍ أن يعد لنا الطعام؛ لم نعد نهتم فقط بجودة الطعام، بل بما إذا كان قادرًا على شراء المكونات بنفسه وطهي الطعام وتنظيف المطبخ، بل حتى تشغيل الموقد وإيقافه عند الحاجة.
2. التمييز بين “الذكاء” و“الصلاحيات”:
الرأي الأساسي: في الماضي، اخلطنا بين الذكاء (القدرة على التفكير والتنفيذ) والصلاحيات (الإذن بالتصرف). لكن الذكاء الاصطناعي لا يعني بالضرورة أنه يجب أن يُسمح له بفعل أي شيء.
تفسير مفصل:
في عصر البرمجيات التقليدية (SaaS)، كان الكود ثابتًا، والقواعد البيانات تنفذ الأوامر بشكل محدد دون أخطاء. لذا كنا نثق بالمزودين لأن البرمجيات لا تمتلك “وعيًا ذاتيًا”.
أما الذكاء الاصطناعي فهو مختلف؛ فهو قادر على فهم النوايا وتنفيذ المهام بشكل مستقل. قد يكون لدى الذكاء الاصطناعي القدرة على حذف البيانات، لكن هل له الصلاحية لفعل ذلك؟ وإذا حصل على الصلاحيات، هل يجب أن ينفذها فعلاً؟
هذا يعني أننا بحاجة إلى فصل بين القدرة والصلاحية، وضمان أن الذكاء الاصطناعي يعمل ضمن حدود معينة وتحت سيطرة بشرية.
3. نقل الثقة: من “الثقة في الأشخاص” إلى “الثقة في الأنظمة”
الرأي الأساسي: لم تعد الشركات تحاول العثور على مزودين للذكاء الاصطناعي “موثوقين بشكل مطلق”， بل تهتم بتصميم أنظمة قادرة على التعامل مع الأخطاء أو السلوكيات الخبيثة.
تفسير مفصل:
في الماضي، كنا نثق في الشركات المطورة للذكاء الاصطناعي (مثل OpenAI أو Anthropic) لأننا نعتقد أنها لن تسيء استخدام البيانات. لكن البيانات التي يتعامل معها الذكاء الاصطناعي أصبحت حساسة للغاية (مثل الكود المصدري واستراتيجيات الأمان وخصوصية العملاء). لذلك، أصبح من الضروري تصميم أنظمة قادرة على التعامل مع هذه المخاطر.
مثلاً، تطالب شركات مثل Palantir من مطوري الذكاء الاصطناعي ضمان عدم الاحتفاظ بأي بيانات، وتحد من استخدام النماذج بشكل معين. هذا ليس بسبب مخاوف من أمان السحابة، بل لتقليل الاعتماد على مزود واحد.
4. التحكم في الذكاء الاصطناعي: من “منع التصرفات الخاطئة” إلى “التحكم في العمليات نفسها”
الرأي الأساسي: تحول التركيز من منع الذكاء الاصطناعي من التصرف بشكل خاطئ إلى التحكم في العمليات التي يقوم بها بشكل فعلي، لأن التصرفات قد تكون غير قابلة للتراجع.
تفسير مفصل:
في الماضي، كان التحكم في الذكاء الاصطناعي يتمثل في منعه من الوصول إلى بيانات معينة أو استخدام أوامر معينة. أما الآن، فالتحكم يتطلب مراقبة كل خطوة يقوم بها الذكاء الاصطناعي أثناء التنفيذ. يجب أن يكون بإمكان البشر التحكم في الذكاء الاصطناعي بشكل فعلي، سواء من خلال البرمجيات أو الإجراءات الإدارية.
5. القيود على الذكاء الاصطناعي: ضرورة لاستخدامه بأمان
الرأي الأساسي: تقييد الذكاء الاصطناعي ضروري لاستخدامه بشكل آمن. الأمان لا يعتمد فقط على ذكاء الذكاء الاصطناعي نفسه، بل أيضًا على الآليات والقواعد التي تحكمه.
تفسير مفصل:
السماح للذكاء الاصطناعي بالعمل بحرية قد يؤدي إلى مشاكل خطيرة. لذا، من الضروري وضع قيود واضحة على قدراته وصلاحياته، وضمان أنه يعمل ضمن حدود معينة وتحت سيطرة بشرية.
الخلاصة:
في الماضي، كنا نسأل عما إذا كان الذكاء الاصطناعي موثوقًا به. أما الآن، فنحن نسأل: حتى لو لم يكن الذكاء الاصطناعي موثوقًا به تمامًا، هل يمكننا استخدامه بأمان؟
هذا يعني أننا بحاجة إلى ضمانات قوية لحماية البيانات والعمليات، حتى في حالة حدوث أخطاء.
الدروس للأفراد في الشركات:
إذا كنتم مسؤولين عن استخدام الذكاء الاصطناعي في شركتكم، اسألوا فرق التكنولوجيا والأمان عن الأمور التالية:
- ما هي البيانات الحساسة التي يمكن للذكاء الاصطناعي الوصول إليها؟
- من لديه السلطة لإيقاف الذكاء الاصطناعي إذا حاول تدمير البيانات؟
- هل هناك سجلات وآليات لاستعادة البيانات في حالة حدوث خطأ؟
- هل أنتم معتمدون بشكل كبير على مزود واحد للذكاء الاصطناعي؟ هل هناك خطط احتياطية؟
من “الثقة في الذكاء الاصطناعي” إلى “تقييده”، هذه هي قواعد البقاء في عصر الذكاء الاصطناعي بحلول عام 2026.