Как нам сохранить основы человеческого достоинства, когда ИИ становится все более похожим на человека?
— Глубокий анализ выступления профессора Чжан Ронана на конференции на Набережной
I. Краткое содержание
На форуме конференции на Набережной 2026 года профессор философии Восточно-Китайского педагогического университета Чжан Ронан задал вопрос, затрагивающий актуальные проблемы: Когда искусственный интеллект (ИИ) становится все более похожим на человека и даже может имитировать его поведение, нашей главной опасностью не является потеря контроля над машинами, а унижение человеческого статуса.
Проще говоря, современные технологии преодолевают границы человеческого мира. Нам следует опасаться не того, что ИИ будет слишком умным, а того, что мы начнем оценивать людей по стандартам машин. Например, если человек не может работать так же эффективно и точно, как машина, или не может быть находиться в состоянии готовности к действию круглосуточно, разве мы считаем его недостаточно хорошим?
Профессор Чжан Ронан выделил три основные опасности, связанные с ущербом человеческому достоинству от ИИ:
1. Потеря субъектности: алгоритмы принимают решения за нас, и мы теряем чувство собственной ответственности.
2. Уничтожение ценности труда: наш уникальный опыт извлекается и копируется, что делает нас менее ценными.
3. Замена реальных человеческих отношений: холодные технологии заменяют настоящее общение, что приводит к эмоциональному унижению.
Для противодействия этим опасностям он предложил семь принципов человеческого достоинства и три этапа реализации этих принципов. Основная идея заключается в том, что ИИ должен быть помощником человека, а не заменителем; технологии должны служить людям, а не заставлять их адаптироваться к технологиям. Для этого необходимы совместные усилия системы, рынка и культуры, чтобы обеспечить, чтобы в ключевых решениях, защите частной жизни и эмоциональном обеспечении человек всегда сохранял контроль.
---
II. Глубокий анализ: понимание человеческого достоинства в эпоху ИИ с пяти точек зрения
1. Не становитесь „марионеткой“ алгоритмов: ключевые решения должны приниматься людьми
(Соответствует принципу человеческого лидерства)
Представьте, что при получении кредита в банке, хирургическом вмешательстве в больнице или собеседовании в крупной компании решение о вашей судьбе принимает не живой человек, а невидимый „черный ящик“ алгоритма.
- Риски современной ситуации: Во все большем количестве ситуаций — от отбора кандидатов на работу до предварительных диагностических заключений в больницах и судебных рекомендаций — используется ИИ. Если алгоритм говорит, что вы неквалифицированы или больны, вы часто не знаете, почему, и не можете обратиться за разъяснениями. Это означает потерю субъектности — вы больше не хозяева собственной судьбы, а рабы данных.
- Простое объяснение: Профессор Чжан подчеркивает, что в случаях, касающихся важных аспектов вашей жизни (судопроизводство, медицина, трудоустройство), необходимо сохранять возможность человеческого пересмотра решений.
- Пример: ИИ может быть эффективным помощником, который собирает информацию и предлагает варианты, но подпись должен ставить человек.
- Ключевой момент: Выводы алгоритма должны быть объяснимыми и подлежащими корректировке. Если они ошибочны, вы должны знать, в чем состоит ошибка, и иметь возможность обратиться к конкретному ответственному лицу (врачу, судье, HR-менеджеру) для разбирательства, а не к безликой системе.
2. Ваше тело и данные не являются „бесплатным обедом” для компаний
(Соответствует принципам самоуправления данными и автономии повествования)
Современные приложения часто требуют предоставления вашего местоположения, медицинских данных, даже данных о вашем электромагнитном ритме или эмоциональном состоянии. Профессор Чжан указывает, что такие чувствительные данные не должны использоваться в качестве „пропуска“ для использования сервисов.
- Риски современной ситуации: Многие продукты требуют предоставления ваших данных в обмен на доступ к их функциям. Более того, компании могут использовать эти данные для обучения ИИ или продажи. Ваши личные переживания, истории и эмоции становятся материалом для тренировок ИИ.
- Простое объяснение: Вы должны быть в курсе того, как используются ваши данные. Согласие должно быть конкретным и осознанным. Вы должны знать, что делаются с вашими данными, и иметь возможность отозвать его в любой момент.
- Возможность отзыва: Как и при аренде жилья, вы должны иметь возможность прекратить использование сервиса в любой момент. Если вы захотите, чтобы ИИ больше не знал о ваших эмоциях, должна быть простая кнопка для отключения связи.
- Суверенитет над данными: Записи ваших переписок с ИИ и созданный им контент являются вашим „цифровым имуществом“. Компании не имеют права использовать их в своих целях без вашего согласия. Вы можете удалять или изменять их по своему усмотрению.
3. ИИ — это „палка”, а не „инвалидная коляска”: предотвращение ухудшения способностей
(Соответствует принципу поддержки способностей, а не замены)
Мы часто говорим, что без использования технологий мы теряем навыки. Но если ИИ делает все за нас, не приведет ли это к ухудшению наших критического мышления, способности к самостоятельному принятию решений и базовых жизненных навыков (написание, математика, ориентация в пространстве)?
- Риски современной ситуации: Раньше нам приходилось искать информацию, думать и принимать решения самостоятельно, а теперь ИИ делает это за нас. Долгосрочная зависимость от ИИ может привести к ухудшению этих навыков.
- Простое объяснение: ИИ должен помогать нам, а не заменять нас. Мы должны сохранять возможность к самостоятельному мышлению и практике.
- Остерегайтесь „ловушки комфортной зоны: Если мы перестанем использовать свой разум для анализа и проверки информации из-за ИИ, наше интеллектуальное развитие может замедлиться. Профессор Чжан предупреждает о необходимости избегать долгосрочной зависимости от автоматизации, чтобы не стать ленивыми и тупыми.
4. Не превращайте реальных людей в „цифровые товары”: предотвращение дегуманизации и опасности иллюзий
(Соответствует принципам противодействия дегуманизации и предупреждения иллюзий)
Сегодня ИИ может клонировать ваш голос, ваше лицо и даже ваш характер. Это создает опасность превращения людей в „части”, которые можно легко использовать.
- Риски современной ситуации: Ваше лицо и голос могут использоваться без вашего согласия для создания виртуальных айдолов, рекламных материалов или мошенничества. Многие ИИ-чат-боты и виртуальные партнеры слишком похожи на настоящих людей, что может привести к эмоциональной зависимости у пользователей (особенно пожилых людей, детей и одиноких людей). Если пользователи узнают правду, это может вызвать сильное разочарование и чувство обмана.
- Простое объяснение: Ваше тело и образ являются священными. Никто не имеет права использовать их в коммерческих целях без вашего явного согласия. Все иллюзорные ИИ-продукты должны четко указывать, что они являются машинами, чтобы пользователи не путали их с реальными людьми.
5. Технологии не должны служить оправданием для отказа от ответственности: забота о уязвимых группах не должна быть нарушена
(Соответствует принципам внимания к уязвимым группам и дополнения к человеческим отношениям)
В ситуациях, когда людям особенно нужна забота (пожилые люди, дети, больные), может ли ИИ заменить реальных людей?
- Риски современной ситуации: Некоторые компании предлагают ИИ-роботов для общения с одинокими пожилыми людьми. На первый взгляд, у пожилых людей появляется „человек для разговора“, но на самом деле машина не может предоставить настоящего эмпатии, понимания и тепла.
- Риски современной ситуации: Некоторые компании используют ИИ для замены реальных сотрудников (медсестер, учителей, социальных работников), считая, что это экономит средства. Однако это лишь прикрытие для отказа от социальной ответственности.
- Важность заботы: В критических ситуациях ИИ может только помочь, но не заменить человека. Системы должны быть спроектированы так, чтобы обеспечивать возможность остановки работы, обращения за помощью и перехода к реальному человеку. Государство и организации не должны уменьшать количество реальных сотрудников из-за использования ИИ. Технологии не могут быть оправданием для отказа от ответственности перед обществом. Настоящая забота, эмоциональное общение и взаимопонимание — это то, что машины никогда не смогут заменить.
---
III. Как реализовать эти принципы? Три этапа и три ключевых слова
В заключение профессор Чжан подчеркнул, что эти идеи не должны оставаться просто словами. Для их реализации необходимы следующие шаги:
1. Предварительная проверка: перед запуском ИИ-продуктов необходимо независимое этическое рассмотрение, чтобы убедиться, что они не нарушают человеческое достоинство.
2. Создание правил: законы и регулирования должны четко определять границы использования ИИ, ответственность участников и способы идентификации пользователей.
3. Защитные меры на этапе разработки: с самого начала разработки технологий необходимо включать в код функции, обеспечивающие человеческое лидерство, защиту частной жизни и возможность ручного вмешательства.
В заключение он выделил три ключевых слова, которые каждый должен запомнить:
- Ответственность: