ملخص المحتوى الرئيسي
أصدر تحالف CHAI، المكون من 200 مؤسسة طبية رائدة في الولايات المتحدة (مثل عيادة مايو ومستشفى ماساتشوستس العام) بالإضافة إلى شركات تكنولوجيا، أكثر دليل منهجي في العالم لحوكمة الذكاء الاصطناعي في المجال الطبي. يقسم الدليل حوكمة الذكاء الاصطناعي إلى أربعة مكونات رئيسية: “السياسات + الهيكل التنظيمي + الموارد + الإجراءات”， مع التركيز على منطق “إدارة تصنيف المخاطر” (التحكم الدقيق في الذكاء الاصطناعي عالي المخاطر ومعالجة استخدام أدوات الذكاء الاصطناعي “الخفية” من قبل الموظفين بطريقة تجمع بين التشديد والتسهيل). يمكن للمستشفيات الصينية أن تستفيد من هذا الدليل في تحسين إجراءات حوكمة الذكاء الاصطناعي، وتنظيم التعاون مع الموردين الخارجيين، وضمان حق المرضى في الإطلاع، كما أن الدليل عملي للغاية (يحتوي على قوالب وإرشادات مخصصة لأنواع المستشفيات المختلفة)، وقد تم إعداده استنادًا إلى حالات فشل حقيقية في استخدام الذكاء الاصطناعي الطبي.
أولاً: إطار CHAI: ليس مجرد شعار، بل قائمة محددة بـ “من يقوم بماذا وكيف”
يحول هذا الإطار حوكمة الذكاء الاصطناعي من مجرد مفهوم نظري إلى خطوات عملية قابلة للتنفيذ. المكونات الأساسية هي أربعة:
1. السياسات: لا تتعلق فقط بـ “استخدام الذكاء الاصطناعي بمسؤولية”， بل تحدد ما يعتبر ذكاء اصطناعيًا (هل يشمل ذلك أدوات مثل ChatGPT أو وظائف الذكاء الاصطناعي في السجلات الطبية؟)، وإجراءات الموافقة على مشاريع الذكاء الاصطناعي، ومن يشرف على تحديث السياسات.
2. الهيكل التنظيمي: من الضروري إنشاء لجان لحوكمة الذكاء الاصطناعي (لا يجب أن تكون شكلية)، وتحديد من يتحمل المسؤولية، ومن يقرر، ومن يقدم الآراء، ومن يجب أن يكون على علم بالإجراءات (يُطلق على هذا مصطلح “مصفوفة RACI”، وهو توزيع واضح للمسؤوليات).
3. الموارد: يجب توفير أشخاص متخصصين وتمويل ودعم تقني لحوكمة الذكاء الاصطناعي.
4. الإجراءات: تغطي جميع مراحل دورة حياة الذكاء الاصطناعي (من اختياره إلى اختباره وتشغيله ثم التخلص منه)، بالإضافة إلى تقييم المخاطر وإدارة البيانات والتعاون مع الموردين الخارجيين وتدريب الموظفين.
باختصار، حوكمة الذكاء الاصطناعي ليست مسألة تقنية، بل مسألة إدارية تتعلق بـ “كيفية تنظيم الأشخاص ووضع القواعد”.
ثانيًا: تصنيف المخاطر: لا نتبع نهجًا شاملًا، بل نركز على الجوانب الأكثر أهمية
أبرز جزء في هذا الإطار هو منطق “التحكم الدقيق في الذكاء الاصطناعي”:
- الخطوة الأولى: تصنيف المخاطر: تقسيم أنواع الذكاء الاصطناعي إلى منخفضة/متوسطة/عالية المخاطر. على سبيل المثال، استخدام الذكاء الاصطناعي لكتابة السجلات الطبية من قبل الأطباء يعتبر خطرًا منخفضًا، بينما استخدامه في تشخيص السرطان يعتبر خطرًا عاليًا.
- الخطوة الثانية: تقييم إضافي للمخاطر العالية: يجب حساب احتمالات حدوث أخطاء ومدى خطورة تأثيرات الذكاء الاصطناعي بدقة.
- الخطوة الثالثة: تقييم التأثير على النظام: لا نركز فقط على المخاطر التقنية، بل أيضًا على ما إذا كان استخدام الذكاء الاصطناعي قد يعطل سير العمل للأطباء أو يؤثر على تجربة المرضى أو يؤدي إلى مشاكل عدالية (مثل التمييز ضد كبار السن أو الأقليات العرقية).
بالنسبة لأدوات الذكاء الاصطناعي “الخفية” (مثل ChatGPT التي يستخدمها الموظفون سرًا)، ينص الإطار على أن التسهيل أفضل من التشديد: إنشاء قنوات موافقة سريعة لجعل الاستخدام المتوافق مع القوانين أكثر سهولة من الاستخدام غير القانوني؛ على سبيل المثال، إذا أراد الطبيب استخدام الذكاء الاصطناعي لكتابة السجلات الطبية، يمكن الموافقة على طلبه في خمس دقائق فقط، فمن سيستخدم الأداة سرًا؟
ثالثًا: ثلاث نقاط يجب على المستشفيات الصينية تحسينها
1. نقص في إجراءات حوكمة دورة حياة الذكاء الاصطناعي الكاملة: العديد من المستشفيات اشترت أنظمة ذكاء اصطناعي، لكن لا يوجد من يقوم بفحص دورية لمعرفة ما إذا كان استخدام هذه الأنظمة مناسبًا لمرضاهم. يتطلب الإطار وجود خطوات واضحة في جميع مراحل دورة حياة الذكاء الاصطناعي (من اختياره إلى التخلص منه).
2. إدارة الموردين الخارجيين ضعيفة: عند توقيع العقود مع شركات الذكاء الاصطناعي، يجب تضمين بنود تحدد عيوب هذه الأنظمة وعدم استخدام البيانات بشكل عشوائي وحق المستشفى في مراجعتها واسترداد البيانات عند عدم الحاجة إليها.
3. غياب حق المرضى في الإطلاع: يتطلب الإطار أن تخبر المستشفيات المرضى بأن بياناتهم قد تُستخدم من قبل الذكاء الاصطناعي وتوفير خيار للانسحاب من استخدام هذه الأنظمة (مثل عدم رغبة المريض في أن يتم تحليل سجلاته الطبية بواسطة الذكاء الاصطناعي). هذه ليست مجرد معايير أمريكية متقدمة، بل جزء من أساسيات أخلاقيات الرعاية الصحية.
رابعًا: لماذا هذا الإطار موثوق به؟
1. القيادة من قبل المؤسسات الطبية: لم يتم إعداده من قبل الحكومة أو جمعية، بل نتيجة مشاورات بين 200 مستشفى وشركة تكنولوجيا، لذلك فهو يأخذ في الاعتبار الاحتياجات السريرية الفعلية.
2. الطابع العملي: كل خطوة مصحوبة بإرشادات مفصلة وقوالب (مثل جداول تقييم المخاطر)، مما يجعله مناسبًا للمستشفيات الصغيرة والكبيرة على حد سواء.
3. استناد إلى دروس حقيقية: يحتوي الدليل على العديد من حالات فشل استخدام الذكاء الاصطناعي في المجال الطبي (مثل التشخيصات الخاطئة أو مشاكل في التواصل)، مما يزيد من موثوقيته.
باختصار، إطار حوكمة الذكاء الاصطناعي هذا يوفر أساسًا قويًا للاستخدام الآمن والفعال لهذه التقنية في المجال الطبي، مما يساعد على تحسين جودة الرعاية الصحية.