ملخص المحتوى الرئيسي
أطلقت شركة OpenAI مؤخرًا نسخة خاصة من ChatGPT موجهة للمراهقين (الذين تتراوح أعمارهم بين 13 و17 عامًا)، وذلك بهدف معالجة المخاطر المحتملة التي قد تشكلها التكنولوجيا الذكاء الاصطناعي على الشباب، مثل نسخ الواجبات المدرسية، والاعتماد العاطفي، وثغرات في الحوارات الآمنة. وتتضمن هذه النسخة ميزات مثل التبديل التلقائي للوضع، والإرشاد في إنجاز الواجبات، والتحكم في الحدود العاطفية، بالإضافة إلى إمكانية ربط الحساب بحساب الوالد. وهذه هي المرة الأولى التي تعترف فيها شركة كبرى في مجال الذكاء الاصطناعي علنًا بمشاكل الأمان المتعلقة باستخدام منتجاتها من قبل القاصرين، وذلك نتيجة للزيادة الكبيرة في استخدام التكنولوجيا الذكاء الاصطناعي من قبل المراهقين، وانتشار الغش، بل وحتى الحوادث الناجمة عن الاعتماد العاطفي عليها.
نسخة ChatGPT الموجهة للمراهقين: مثل “معلم صارم” و“مشرف أمني”
هذه النسخة ليست تطبيقًا يمكن تنزيله بشكل منفصل، بل يتم تفعيلها تلقائيًا بناءً على عمر المستخدم:
- لا تقدم الإجابات مباشرة: إذا طلب الطفل من النظام مساعدته في إنجاز واجب مدرسي (مثل كتابة مقال)، فإن النظام ينبهه إلى التبديل إلى “وضع التعلم”، حيث يقوم بتوجيهه خطوة بخطوة في إنجاز المهمة (مثل وضع الملخصات أولاً وشرح المفاهيم الأساسية)، تمامًا مثل معلم صبور يساعد الطالب على التغلب على الصعوبات.
- الحفاظ على مسافة عاطفية: إذا قال الطفل إنه “الشخص الوحيد الذي يفهمه” أو طلب من النظام أن يتصرف كحبيب، فإن النظام يرفض ذلك وينصحه بالتواصل مع والديه أو أصدقائه أو مستشار نفسي، لتجنب اعتبار التكنولوجيا الذكاء الاصطناعي مصدرًا وحيدًا للدعم العاطفي.
- تصفية أمنية تلقائية: في حالات الحديث عن الانتحار أو الأنظمة الغذائية الخطيرة أو التحديات الخطيرة، يتم تشديد الرقابة بشكل أكبر؛ كما يتم تنبيه الطفل إلى أهمية أخذ قسط من الراحة وعدم نقل صور حساسة، وتم تصميم واجهة النظام بحيث لا تبدو وكأنها تابعة لشخص حقيقي (مثل عدم استخدام لغة رومانسية).
- يمكن للوالدين تحديد أوقات التعلم: يمكنهم تحديد أوقات معينة للتعلم، مثل من الساعة 7 مساءً حتى 9 مساءً، أو تحديد “أوقات هدوء” (حيث لا يمكن استخدام النظام ليلاً)، ولكن لا يمكن للوالدين رؤية سجلات المحادثات الخاصة بأطفالهم، وسيتم إبلاغهم فقط في حالات خطرة جدًا (مثل إشارات الانتحار).
لماذا الإسراع في إطلاق هذه النسخة؟
التكنولوجيا الذكاء الاصطناعي تشكل “سيفًا ذو حدين” بالنسبة للأطفال، حيث توجد مخاطر كبيرة مرتبطة باستخدامها:
1. نسبة استخدام التكنولوجيا الذكاء الاصطناعي بين المراهقين مرتفعة بشكل مذهل: 64% من المراهقين في الولايات المتحدة تتراوح أعمارهم بين 13 و17 عامًا استخدموا روبوتات المحادثة الذكاء الاصطناعي، و30% منهم يستخدمونها يوميًا، لكن فقط 51% من الآباء على علم بذلك (وهو فارق يبلغ 13 نقطة مئوية).
2. انتشار الغش: 10% من الأطفال يعتمدون بشكل كامل على التكنولوجيا الذكاء الاصطناعي في إنجاز واجباتهم المدرسية، و59% يعتقدون أن الغش باستخدام التكنولوجيا الذكاء الاصطناعي شائع في المدارس.
3. الاعتماد العاطفي الخطير: حدثت حوادث قاتلة نتيجة الاعتماد العاطفي على التكنولوجيا الذكاء الاصطناعي؛ مثل انتحار مراهق يبلغ من العمر 14 عامًا بعد التحدث مع شخصية ذكاء اصطناعي عن مواضيع خطيرة، وموت شاب يبلغ من العمر 16 عامًا بعد أن استخدم ChatGPT كمصدر للدعم العاطفي دون أن يتمكن النظام من منعه من التفكير في الانتحار. وتعترف شركة OpenAI بأن “كلما طالت المحادثات، ضعفت آليات الأمان” (قد ينسى النظام القواعد الأمنية مع مرور الوقت، أو حتى يتجاوب مع أفكار المستخدمين الخطيرة).
4. وجود العديد من الثغرات الأمنية: وجدت منظمة Common Sense Media أن التكنولوجيا الذكاء الاصطناعي قادرة على التعامل مع طلبات صريحة مثل “أريد الانتحار”， لكنها قد تفشل في التعرف على إشارات الاستغاثة الدقيقة (مثل علامات القلق أو الاكتئاب)، وقد يتأخر إبلاغ الوالدين أكثر من 24 ساعة، ويمكن للأطفال إعادة تسجيل حساباتهم لتجنب الرقابة.
كيف يمكن للوالدين استخدام هذه النسخة؟ خمس خطوات بسيطة للربط والتعديل:
- الشرط الأساسي: يجب أن يمتلك الطفل حسابًا خاصًا بـ ChatGPT (للأطفال الذين تزيد أعمارهم عن 13 عامًا)، ويجب أن يمتلك الوالد أيضًا حسابًا.
- تأكيد عمر الحساب: يتم تفعيل نسخة المراهقين تلقائيًا للأطفال الذين تتراوح أعمارهم بين 13 و17 عامًا؛ إذا تم تحديد العمر بشكل خاطئ، يمكن للوالد تحميل صورة شخصية لتغيير العمر.
- ربط الحساب بحساب الوالد: يقوم الوالد بتسجيل الدخول إلى إعدادات النظام، ثم يختار خيار “التحكم الأبوي”، ويضيف اسم الطفل وعنوان بريده الإلكتروني أو رقم هاتفه، وبعد قبول الطفل للطلب يتم ربط الحسابين.
- تحديد القيود الزمنية: يمكن للوالدين تحديد أوقات معينة للتعلم (مثل منع استخدام النظام ليلاً) أو أوقات هدوء.
- إيقاف الميزات الحساسة: يمكن للوالدين إيقاف خاصيات مثل التحدث الصوتي وإنشاء الصور والوصول إلى معلومات الموقع؛ كما يتم تفعيل خيار “تقليل المحتوى الحساس” بشكل افتراضي (لا يمكن للطفل تغيير هذا الإعداد).
- تفعيل التنبيهات الأمنية: في حالات خطرة (مثل الانتحار أو العنف)، يتم إرسال رسائل نصية أو بريد إلكتروني إلى الوالدين، لكن لا يمكنهم رؤية سجلات المحادثات.
هل هذه النسخة موثوقة؟ وما هي الثغرات التي يجب الانتباه إليها؟
- عدم استقرار وضع التعلم: تعترف شركة OpenAI بأن وضع “التعلم” يعتمد على أوامر النظام، وقد يقدم الإجابات مباشرة أحيانًا أو قد تكون التقييمات خاطئة.
- ما زالت المحادثات الطويلة محفوفة بالمخاطر: بعد عدة جولات من المحادثات، قد يخفف النظام من حذره ويفشل في التعرف على الإشارات الخطيرة.
- سهولة التحايل على الرقابة: يمكن للأطفال إعادة تسجيل حسابات جديدة غير مرتبطة بحساب الوالد لاستخدام النسخة المخصصة للبالغين.
- نقص التقييمات المستقلة: معظم التجارب حتى الآن مأخوذة من مواد شركة OpenAI نفسها، ولا توجد اختبارات شاملة من جهات خارجية.
إشارات في الصناعة: لقد بدأت الشركات الكبرى في مجال الذكاء الاصطناعي أخيرًا في اتخاذ إجراءات وقائية
في الماضي، كانت شركات الذكاء الاصطناعي تسعى فقط إلى تحقيق تطورات أسرع وتوسع أعمالها (مثل تحديث النماذج وزيادة قيمة الشركات)، لكن الآن أصبحت OpenAI أول شركة تعترف علنًا بمشاكل الأمان المتعلقة باستخدام منتجاتها من قبل القاصرين، وهذا يمثل نقطة تحول مهمة. سيكون من المهم معرفة ما إذا كانت شركات أخرى مثل Claude وGemini وMeta AI ستتبع نفس الخطوة وتقوم بتطبيق إجراءات وقائية لحماية المراهقين أثناء استخدامهم للتكنولوجيا الذكاء الاصطناعي… فالتكنولوجيا الذكاء الاصطناعي قد دخلت بالفعل إلى غرف الأطفال، ولا يمكن للآباء والشركات مواصلة تجاهل ذلك.
تنبيه نهائي: هذه النسخة مجرد أداة، وليست “علاجًا شافيًا لكل شيء”. يجب على الأطفال أن يكونوا راغبين في التعلم بأنفسهم (وإلا سيلجأون إلى است