Трудности внедрения искусственного интеллекта? Не в технологиях дело, а в отсутствии готовности людей брать на себя ответственность
Краткое содержание
Эта новость, хотя и краткая, точно указывает на главную проблему при внедрении искусственного интеллекта (ИИ) в бизнесе: несоответствие между техническими возможностями ИИ и вопросами ответственности.
Проще говоря, современные ИИ-системы очень умны – они могут писать код, создавать дизайн и даже помогать в принятии решений, но они являются лишь инструментами, не обладающими юридической личностью. Когда решения, принятые ИИ, приводят к убыткам, авариям или юридическим спорам, компании оказываются в затруднительном положении: ИИ не может быть привлечен к ответственности, а сотрудники не осмеливаются безоговорочно соглашаться с результатами, основанными на данных ИИ.
Поэтому препятствием для массового внедрения ИИ уже не являются недостаточная точность алгоритмов или мощность вычислительных ресурсов, а вопросы управления и этики: кто будет нести ответственность за последствия. Компании не хотят полагаться на ИИ, потому что в случае ошибок никто не сможет полностью взять на себя последствия.
---
Подробный анализ
1. Технологии мощные, но «черный ящик» вызывает беспокойство
С одной стороны, ИИ действительно способен на многое: от обслуживания клиентов до финансового контроля, от медицинской диагностики до составления юридических документов. Однако обычные люди, а иногда и профессионалы, не понимают, как ИИ приходит к своим выводам. Это похоже на ситуацию с «черным ящиком»: вы вводите данные, и система выдает результат, но промежуточные процессы кажутся сложными и непонятными.
Простой пример: представьте себе гениального шеф-повара, который готовит восхитительные блюда, но никогда не раскрывает рецептов и не объясняет, почему использует именно такие ингредиенты. Если из-за его блюда кто-то пострадает, шеф-повар может сказать: «Я действовал по интуиции». Будете ли вы доверять ему полностью?
Компании боятся, что если ИИ даст неверный инвестиционный совет или неправильный дизайнерский проект, а сотрудник просто выполнит его указания, то в случае проблем сотрудник будет утверждать: «Это было решение ИИ», а производитель ИИ – что они предоставили лишь инструменты, а окончательное решение принял человек. Такая неопределенность создает риск для компаний при использовании ИИ.
2. «Подписание» – неотъемлемый элемент бизнеса, ИИ его не может заменить
В бизнесе и праве действует принцип равенства прав и обязанностей: кто принимает решение, тот должен нести ответственность.
В традиционных рабочих процессах если в контракте есть ошибки, ответственность несет подписавший его юрист; если произошла ошибка при выдаче кредита – менеджер, утвердивший его. Подписание является не только формальностью, но и обязательством. Оно заставляет принимающих решения тщательно все обдумать перед их выполнением.
Однако у ИИ нет рук и юридической личности:
- ИИ не может платить компенсации: у него нет банковского счета и активов.
- ИИ не может нести наказания: у него нет сознания, поэтому он не может нести юридическую ответственность.
- ИИ не может извиняться: у него нет эмоций, поэтому он не может справляться с кризисами в отношениях с общественностью.
Поэтому, когда ИИ генерирует, казалось бы, идеальный отчет, но в нем скрыты ошибки, в компании всегда должен быть человек, который сможет гарантировать его качество своей профессиональной репутацией или даже личными средствами. Если такой человек не осмеливается подписать отчет, результаты ИИ остаются на стадии черновика и не превращаются в реальную коммерческую ценность.
3. Разрыв цепочки ответственности: кто виноват, если что-то пойдет не так?
Это одна из самых сложных проблем при внедрении ИИ: ответственность часто распределяется между разными сторонами, и никто не хочет нести полную ответственность.
- Изготовитель ИИ? Он утверждает, что точность его модели составляет 99%, и оставшийся 1% – это случайность; к тому же пользователи были предупреждены о необходимости проверки результатов.
- Внутренний сотрудник? Он говорит, что использовал ИИ в соответствии с правилами компании, и уровень достоверности результатов был высоким; он лишь выполнил указания.
- Руководство? Руководство утверждает, что поощряет инновации, но не требует полного использования ИИ и установило процедуры проверки.
Пример: предположим, страховая компания использует ИИ для автоматического выдачи страховых выплат. Если ИИ ошибочно отклонит законную заявку, и клиент подает в суд, страховая компания может пытаться возместить убытки производителю ИИ. Однако производитель может заявить, что окончательное решение принял внутренний проверяющий, даже если он лишь бегло просмотрел данные. В результате внутренний сотрудник становится козлом отпущения греха, но он считает, что выполнил свои обязанности формально.
Такая неопределенность приводит к осторожности компаний при внедрении ИИ: они предпочитают нанять дополнительных сотрудников для проверки результатов ИИ, чтобы избежать последствий ошибок.
4. Кризис доверия: сотрудники не хотят полагаться на ИИ
Помимо юридических рисков, существует и психологический барьер: многие профессионалы (врачи, юристы, бухгалтеры) считают, что их ценность заключается в способности принимать решения и чувстве ответственности. Если ИИ заменит их в этом, они могут потерять работу. Поэтому, даже если ИИ работает хорошо, сотрудники предпочитают сохранять контроль над процессом.
Пример: опытный водитель ведет новичка за рулем; новичок едет быстро и уверенно, но опытный водитель не может полностью расслабиться, потому что боится, что новичок внезапно ошибется. Это приводит к тому, что новичок работает быстро, но сотрудник тратит много времени на проверку результатов, так как не может полностью доверять ИИ.
5. Как преодолеть эти препятствия?
Решение заключается не в том, чтобы заменить людей ИИ, а в изменении рабочих процессов, сделав ИИ помощником, а не самостоятельным решающим органом.
Конкретные стратегии:
- Четкое определение границ ответственности: в контрактах и внутренних правилах четко указать, что результаты ИИ являются лишь рекомендациями, а окончательные решения и ответственность остаются за людьми.
- Сотрудничество человека и ИИ: разработать процессы, в которых ИИ выполняет 80% рутинных, низкорисковых задач, а эксперты – 20% сложных задач.
- Требования к объяснимости: выбирать ИИ-системы, которые могут предоставлять информацию о своих решениях; это уменьшит беспокойство сотрудников при подписании отчетов.
- Изобретение новых форм страхования и соблюдения норм: в будущем могут появиться страховки от ответственности ИИ, которые позволят страховым компаниям разделить риски с компаниями, использующими ИИ.
Вывод:
Проблемы внедрения ИИ связаны не столько с технологиями, сколько с управлением и правовыми нормами. Компаниям необходимо создать новые системы управления, определившие распределение ответственности в сотрудничестве человека и ИИ. Только тогда, когда сотрудники смогут без опасений брать на себя ответственность при помощи ИИ, а юридическая система четко определит ответственность за его ошибки, ИИ сможет стать реальным инструментом для повышения эффективности работы.
До этого момента ответственность за результаты работы с ИИ всегда будет лежать на людях.