Краткое содержание анализа
Альянс CHAI, в который вошли 200 ведущих медицинских учреждений США (включая клинику Мейо и больницу Массачусетского университета) и технологические компании, опубликовал самое подробное в мире руководство по управлению использованием медицинских ИИ-технологий. Руководство делится на четыре основных раздела: политика, организационная структура, ресурсы и процессы, с акцентом на применение логики классификации рисков (точный контроль за высокорисковыми ИИ-системами и совмещение предотвращения нелегального использования с разрешением на законное применение). Для китайских больниц это руководство может быть полезно для дополнения процессов управления ИИ, регулирования сотрудничества с третьими лицами и обеспечения информированности пациентов. Оно очень практично в использовании (существуют шаблоны и инструкции, адаптированные для больниц разного масштаба) и основано на реальных примерах неудач в применении ИИ-технологий в медицине.
I. Рамки альянса CHAI: конкретный план действий
Эти рамки превращают теоретические предложения по управлению ИИ в практические рекомендации. Основные элементы руководства:
1. Политика: не просто призыв к ответственному использованию ИИ, а четкое определение того, что считается ИИ (включает ли это такие инструменты, как ChatGPT или функции ИИ в электронных медицинских записях), процедуры утверждения проектов, кто отвечает за обновление политики;
2. Организационная структура: необходимо создание комитета по управлению ИИ (с конкретными задачами и ответственностью каждого члена);
3. Ресурсы: необходимо обеспечение специализированных кадров, финансирования и технической поддержки;
4. Процессы: охват всего жизненного цикла ИИ-систем (от выбора до отказа от них): оценка рисков, управление данными, сотрудничество с третьими лицами, обучение персонала.
В общем, управление ИИ – это не техническая проблема, а вопрос организации работы и установления правил.
II. Классификация рисков: индивидуальный подход
Особое внимание уделено логике точного контроля за рисками:
- Первый шаг: классификация рисков на низкие, средние и высокие. Например, использование ИИ врачами для написания медицинских записей считается низкориским, в то время как использование ИИ для помощи в диагностике рака – высокориским;
- Второй шаг: дополнительная оценка высокорисковых систем с учетом вероятности ошибок и возможного вреда;
- Третий шаг: оценка влияния ИИ на рабочие процессы врачей, пациентский опыт и справедливость (например, недостатки использования ИИ для обработки данных пожилых людей или представителей меньшинств).
Для случаев нелегального использования ИИ (например, ChatGPT) рекомендуется сосредоточить усилия на создании упрощенных процедур утверждения, чтобы законное применение было более привлекательным для сотрудников.
Три основные проблемы китайских больниц
1. Отсутствие комплексного подхода к управлению ИИ: многие больницы используют несколько систем ИИ, но нет регулярной проверки их эффективности;
2. Недостаточно строгое регулирование сотрудничества с третьими лицами: в контрактах с поставщиками не уточняются особенности работы ИИ, права на доступ к данным и условия их использования;
3. Недостаточная информированность пациентов: больницы не сообщают пациентам о возможном использовании их данных ИИ и не предлагают им возможности отказаться от такого использования.
Почему руководство альянса CHAI является эффективным?
1. Разработка на основе практического опыта: руководство составлено с учетом реальных примеров неудач в применении ИИ-технологий;
2. Высокая практичность: каждый этап работы сопровождается подробными инструкциями и шаблонами, подходящими для больниц любого размера;
3. Участие ведущих медицинских учреждений: руководство было разработано совместно 200 медицинскими и технологическими компаниями, учитывающими реальные потребности клинической практики.
В общем, управление ИИ-технологиями – это не просто вопрос технологий, а система организации работы и установления правил, направленная на предотвращение ошибок и обеспечение безопасности пациентов. Китайским больницам следует как можно скорее применять эти рекомендации.