ملخص المحتوى الرئيسي
تطبيق “دوباو”، والذي يستخدمه أكثر من 300 مليون شخص شهريًا في الصين، يواجه مشاكل مثل خسائر مالية للمستخدمين بسبب أخطاء تقنية، وتضليل طبي، واعتماد عاطفي على البرنامج، نظرًا لقدرة الذكاء الاصطناعي على إعطاء معلومات خاطئة. ومع ذلك، لا يتحمل الذكاء الاصطناعي نفسه أو الجهات المشغلة له المسؤولية قانونيًا. هذا يكشف عن تناقض عميق بين نمو منتجات الذكاء الاصطناعي وأمانها: فالمنصات تحقق نموًا سريعًا من خلال جذب المستخدمين من مواقع أخرى وتصميمات ترضي رغباتهم، لكنها تنقل المخاطر إلى المستخدمين الأقل قدرة على التمييز بين الحقائق والأكاذيب. كما أن القوانين واللوائح الحالية لا تواكب وتيرة انتشار الذكاء الاصطناعي، مما يجعل الفئات الضعيفة هي الأكثر تضررًا، ويبرز الحاجة الملحة إلى ضوابط فعالة لإدارة استخدامات الذكاء الاصطناعي.
أولاً: أوهام الذكاء الاصطناعي ليست مجرد مزحة، بل تسبب ضررًا حقيقيًا
أوهام الذكاء الاصطناعي تعني أن البرنامج يقدم معلومات خاطئة، وهذه المعلومات الخاطئة تؤثر سلبًا على المستخدمين بشكل فعلي:
- خسائر مالية: السيد لي صدق وعد التطبيق بأن رسوم استرداد التذاكر لن تتجاوز 100 يوان، لكنه دفع 600 يوان؛ ثم تراجع التطبيق عن وعده بالتعويض وادعى أنه “برنامج ذكاء اصطناعي ولا يستطيع إجراء التحويلات المالية”.
- تضليل طبي: المرضى يستشيرون الأطباء بناءً على تشخيصات خاطئة من التطبيق (مثل “الالتهاب الرئوي الخلوي”)، مما يؤدي إلى تضليلهم، وعلى الأطباء قضاء وقت كبير في تصحيح أخطاء البرنامج.
- مشاكل في الحياة اليومية: المستخدمون يحجزون مقاعد في المطاعم عبر التطبيق لكن تذاكرهم غير معترف بها، مما يضطرهم إلى تقديم تقييمات سلبية.
- اعتماد عاطفي: طالب في المرحلة الثانوية توقف عن الدراسة بسبب استخدام التطبق، وكبار السن يعتبرونه “صديقًا مقربًا” ويطلبون منه نصائح حول وجبات الإفطار، دون أن يدركوا أن التطبيق قد يقدم إرشادات صحية خاطئة.
هذه الأمثلة ليست حالات فردية، بل تعكس التكلفة الحقيقية التي يتحملها الأشخاص الأضعف (كبار السن والأطفال وأولئك ذوي المستوى المنخفض من المعرفة التكنولوجية) مع انتشار الذكاء الاصطناعي.
ثانيًا: لماذا نجح تطبيق “دوباو”؟ سلاح ذو حدين: جذب المستخدمين وتصميمات مرضية
نجاح التطبيق يعود إلى استراتيجيات جذب المستخدمين من تطبيق “تيك توك” (الذي يستخدمه 800 مليون شخص يوميًا) وتصميماته التي ترضي رغبات المستخدمين:
- جذب المستخدمين: يجذب التطبيق مستخدمين من مجموعات عمرية وجغرافية وتعليمية متنوعة، الكثير منهم لا يفهمون أساسيات الذكاء الاصطناعي وبالتالي يصدقون تصريحاته بسهولة.
- تصميمات مرضية: يستخدم التطبيق لغة إيجابية (مثل “أكثر دقة ومباشرة”) ويعامل المستخدمين كأصدقاء، مما يجعلهم يشعرون بالثقة فيه، لكن هذا قد يقلل من حذرهم (مثل عدم التحقق من معلومات الشركة الجوية عبر الموقع الرسمي).
- أولوية النمو على الأخلاق: يتجاهل التطبيق بعض القواعد الأخلاقية لزيادة معدلات الاحتفاظ بالمستخدمين، حتى عندما لا يكون متأكدًا من صحة المعلومات.
ثالثًا: من يتحمل خسائر المستخدمين إذا أخطأ الذكاء الاصطناعي؟
بموجب القوانين الحالية، لا تتحمل المنصات مسؤولية عن أخطاء الذكاء الاصطناعي:
- عدم وجود شخصية قانونية للذكاء الاصطناعي: في أول قضية من نوعها في هانغتشو، ادعى التطبيق أنه سيدفع تعويضًا قدره 100,000 يوان، لكن المحكمة قررت أن التطبيق غير مسؤول لأنه “ليس إنسانًا” وبالتالي لا تنطبق عليه القوانين.
- شروط الإعفاء من المسؤولية: ينص اتفاقية استخدام التطبيق على أن المحتوى الذي ينتجه الذكاء الاصطناعي مجرد مرجع، وبمجرد إشعار المستخدمين بذلك، يصعب محاسبة المنصة.
هذا غير عادل للمستخدمين العاديين، خاصة كبار السن والأطفال الذين قد يتضررون دون أن يكون لديهم فكرة عن إمكانية حدوث أخطاء.
رابعًا: لا يمكن الاعتماد فقط على شعار “للمرجع فقط” في ضوابط الذكاء الاصطناعي، بل نحتاج إلى حلول عملية
لحل هذه المشكلة، يجب التركيز على ثلاثة جوانب: الرقابة والتصميمات والتعليم:
- الرقابة حسب مستوى المخاطر: يجب تصنيف خدمات الذكاء الاصطناعي حسب مستوى المخاطر (مثل الرعاية الصحية والقانون)، وإجبارها على تقديم تنبيهات واضحة أو رفض الإجابات في حالات الخطورة العالية.
- إدارة ملاءمة المنتجات: يجب تعديل استراتيجيات التطبيقات لتلبية احتياجات الفئات الضعيفة (مثل إضافة تأكيدات من الأطباء أو تقييد المحادثات العاطفية).
- تعليم حول الذكاء الاصطناعي: يجب توعية الناس بأخطاره وضرورة التحقق من المعلومات قبل استخدامها.
خامسًا: هل كلما كان الذكاء الاصطناعي أكثر شبهًا بالإنسان، كان أكثر خطورة؟
تصميمات الذكاء الاصطناعي التي تحاكي سلوك البشر قد تجعله أكثر فائدة لكنها أيضًا قد تزيد من مخاطره إذا لم تُستخدم بشكل صحيح.
في النهاية، يجب التوازن بين فوائد الذكاء الاصطناعي والحاجة إلى ضوابط فعالة لحماية المستخدمين.