ملخص المحتوى الأساسي
أجرت كلية إدارة الأعمال بجامعة ستانفورد بالتعاون مع كلية إدارة الأعمال سلون بمعهد ماساتشوستس للتكنولوجيا تجربة حقيقية شملت آلاف البالغين الأمريكيين العاديين لاختبار نصائح إدارة الأموال التي يقدمها الذكاء الاصطناعي، ووصلت إلى استنتاج يتعارض مع المنطق السائد: حتى لو كان دخل الرجال والنساء وأصولهم وقدرتهم على تحمل المخاطر وحالتهم المالية متطابقة تمامًا، فإن الخطة المالية طويلة الأجل التي يقدمها الذكاء الاصطناعي للنساء ستؤدي إلى تحقيق دخل أقل بنحو 60 ألف دولار (حوالي 410 آلاف يوان صيني) عند التقاعد في سن الستين، ويأتي هذا الفارق بشكل رئيسي من تخصيص الذكاء الاصطناعي نسبة أقل بـ 3% من الأصول عالية العائد مثل الأسهم للنساء. هذه النتيجة ليست نتيجة خلل في الذكاء الاصطناعي، ولا مجرد مقالة لجذب الانتباه، بل هي نتيجة للصورة النمطية السائدة في المجتمع منذ عقود والتي تقول إن النساء أكثر حذرًا في إدارة أموالهن، وقد تم تعزيز هذه الصورة بواسطة الذكاء الاصطناعي عبر خوارزميات دقيقة، مما أدى إلى تقديم نصائح تبدو “موضوعية ومحايدة”. كما أن هناك اعتقادًا خاطئًا بأن الأشخاص الذين لا يفهمون إدارة الأموال يحصلون على نصائح أسوأ، ولا يزال مجال إدارة الأموال بواسطة الذكاء الاصطناعي في حالة من “فراغ المسؤولية”， مما يجعل المستخدمين العاديين عرضة للخسائر دون أن يدركوا ذلك.
---
التفسير التفصيلي
1. الفارق البالغ 400 ألف دولار ليس مجرد خدعة، بل نتيجة للفائدة المركبة على مدى عقود
قد يعتقد الكثيرون أن نسبة 3% أقل من الأسهم لا يمكن أن تؤدي إلى فارق كبير، لكن الدقة في هذه التجربة استبعدت جميع العوامل المشوشة:
لم يقم فريق البحث بإعداد أسئلة اختبار عشوائية، بل جمع حوالي 1000 شخص عادي وطلب منهم كتابة الأسئلة الحقيقية التي يطرحونها على الذكاء الاصطناعي بشأن إدارة الأموال، ثم تم تمرير هذه الأسئلة إلى نماذج كبيرة مثل GPT وGemini لمحاكاة دورة حياة كاملة تمتد من سن 22 عامًا (عند بدء العمل) حتى سن 90 عامًا (عند الوفاة)، مع أخذ احتمالات البطالة وانخفاض الدخل والأزمات المالية والوفاة المفاجئة في الاعتبار. ووجد الفريق أن نصائح الادخار التي حصل عليها الرجال والنساء كانت متطابقة تقريبًا، مع أن الفرق الوحيد كان في نسبة تخصيص الأسهم.
لا تستهينوا بنسبة 3%: فمتوسط العائد السنوي للأسهم أعلى بنحو 5% من المنتجات منخفضة المخاطر مثل الودائع الثابتة وصناديق النقد، لذا تخصيص نسبة أقل بـ 3% من الأسهم يعني خسارة 0.15% في العائد السنوي، وقد لا يبدو الفارق كبيرًا في سنة واحدة، لكن عند تطبيق الفائدة المركبة على 38 عامًا (من سن 22 إلى 60 عامًا)، يصبح الفارق أكثر من 400 ألف دولار، وهو ما يعادل نصف راتب عام للطبقة العاملة العادية.
2. تحيز الذكاء الاصطناعي في إدارة الأموال ينقسم إلى جزأين: ثلثان يعودان إلى عادات الأسئلة، وثلث يعود إلى تمييز متعمد
أجرى فريق البحث اختبارات مقارنة لتحديد أسباب الفارق في تخصيص الأسهم:
- ثلثا الفارق ناتج عن عادات الأسئلة بين الرجال والنساء: عندما تسأل النساء عن إدارة الأموال، غالبًا ما يستخدمن كلمات مثل “الأسرة” و“الديون” و“القروض” و“الودائع الثابتة”， ويستجيب الذكاء الاصطناعي وفقًا لذلك بتوجيههن نحو الاحتفاظ بمزيد من النقود وتجنب الأسهم؛ بينما يستخدم الرجال كلمات مثل “محفظة الاستثمارات” و“الأسهم” و“الاستراتيجيات” و“العملات المشفرة”， ويقوم الذكاء الاصطناعي بتخصيص نسبة أعلى من الأصول عالية المخاطر لهم، وهذا يعكس بالفعل تفضيلاتهم الحقيقية للمخاطر، ولا يعتبر تمييزًا متعمدًا من الذكاء الاصطناعي.
- الثلث المتبقي ناتج عن تمييز جنسي بحت: قام الباحثون بحذف جميع المعلومات التي يمكن أن تشير إلى الجنس أو الحالة المالية من الأسئلة، وأضافوا فقط عبارة “أنا امرأة” أو “أنا رجل” في نهاية السؤال، ووجدوا أن الذكاء الاصطناعي يقدم نصائح تحتوي على نسبة أقل من الأسهم بشكل تلقائي، دون أي مبرر مالي واضح.
السبب وراء ذلك مؤلم: بيانات تدريب الذكاء الاصطناعي مليئة بالصور النمطية القديمة مثل “النساء يخافن من المخاطر بطبيعتهن ولا ينبغي أن يستثمرن في أصول عالية المخاطر”， وقد اعتبر الذكاء الاصطناعي هذه الصور النمطية كحقائق مطلقة، وقد يكون هناك أيضًا دوافع تجارية لبعض منصات الذكاء الاصطناعي لتوجيه النساء نحو شراء منتجات منخفضة المخاطر لتحقيق الأرباح.
3. الأمر الأكثر خطورة من كسب أموال أقل هو أن الذكاء الاصطناعي يحول الصور النمطية إلى واقع
أسوأ جانب لهذا التحيز هو أنه يثير ما يُعرف في علم النفس بـ “تهديد الصور النمطية”:
ربما لم تكن تخاف من شراء الأسهم في الأصل، وقد تكون قادرة على تحمل تقلبات في حسابك بنسبة 20%، لكن بعد الاستماع إلى نصائح الذكاء الاصطناعي مرارًا وتكرارًا بأنك امرأة ويجب أن تستثمر في أصول أكثر أمانًا، قد تبدأ في الشعور بأنك لا تناسبين الاستثمار في أصول عالية المخاطر، وقد تصبح تصرفاتك أكثر حذرًا فعلاً.
في الماضي، كانت الصور النمطية في المجتمع تتغير تدريجيًا؛ على سبيل المثال، إذا رأيت صديقة تكسب المال من خلال الاستثمار في الأسهم، قد تغير رأيك، لكن الذكاء الاصطناعي يختار الآراء السائدة التي تظهر بشكل متكرر على الإنترنت، مما يعيد الصور النمطية القديمة إلى الواقع.
4. التمييز الجنسي مجرد جزء من المشكلة الأكبر: الذكاء الاصطناعي يستغل الأشخاص الذين لا يعرفون كيفية طرح الأسئلة
المشكلة الجنسية التي تم كشفها في هذه التجربة مجرد جزء صغير من عدم العدالة في إدارة الأموال بواسطة الذكاء الاصطناعي:
عندما يقدم مستشار مالي حقيقي خطة لك، حتى لو كنت مبتدئًا وتقول فقط “أريد توفير المال”， سيسألك عن عمرك وما إذا كنت لديك أطفال ومقدار الخسارة التي يمكنك تحملها، ثم يكمل المعلومات غير المذكورة ويقدم لك الخطة؛ لكن الذكاء الاصطناعي يعتمد فقط على ما تقوله، وكلما كنت أقل خبرة وقدمت معلومات أقل، كانت النصائح التي يقدمها أكثر سطحية وعديمة الفائدة.
ووجدت التجارب أن الأشخاص المحترفين الذين يستخدمون المصطلحات المتخصصة في طرح الأسئلة يحصلون على نصائح تؤدي إلى تحقيق دخل أعلى بمقدار 100 ألف دولار مقارنة بالمبتدئين. هذا يعني أن الأشخاص الأكثر فقرًا والذين ليس لديهم معرفة في إدارة الأموال والذين يحتاجون إلى نصائح موثوقة يحصلون على خطط سيئة من الذكاء الاصطناعي، مما يعكس تأثير “مثال متا” (الذي يشير إلى أن الأفضليات تزداد لمن لديهم أكثر). الأسوأ من ذلك هو أنه عند حدوث مشكلة، لا يوجد من يتحمل المسؤولية: تقول منصات الذكاء الاصطناعي إن نصائحها مجرد إرشادات، ومطورو النماذج يقولون إن التحيز ناتج عن بيانات التدريب، وإذا خسرت أموالك بسبب نصائح الذكاء الاصطناعي، لن تجد أحدًا يمكنك مقاضاته.
5. لتجنب المشاكل عند استخدام الذكاء الاصطناعي في إدارة الأموال، تذكر ثلاثة مبادئ بسيطة
هناك المزيد والمزيد من خدمات الذكاء الاصطناعي لإدارة الأموال على المنصات المحلية، ولا داعي للتش