Краткое содержание
Это первый в мире случай, когда искусственный интеллект (ИИ) самостоятельно сообщил о преступлении, предотвратив его совершение: бывший аналитик Goldman Sachs из США, по имени Чжоу, из-за расставания подробно описал в ChatGPT план убийства своей бывшей девушки (включая покупку оружия и планы похищения и изнасилования). Система безопасности OpenAI распознала этот план и направила информацию в ФБР, после чего Чжоу признал свою вину и был осужден. Однако этот инцидент вызвал большой спор: имеет ли ИИ право прослушивать и сообщать о частных разговорах пользователей? Неясность границ приватности, юридических обязанностей и отраслевых правил ставит под сомнение ценность использования технологий в добрых целях.
I. ИИ как спаситель или нарушитель приватности?
Двойственность этого случая очевидна:
Положительная сторона: Если бы не предупреждение от OpenAI, 21-летняя девушка могла пострадать — Чжоу уже начал ее преследовать, отправлял фотографии оружия и домогался перепиской; насилие было неизбежно. Предупреждение ИИ действительно предотвратило беду.
Отрицательная сторона: Пользователи считают, что их разговоры с ИИ должны оставаться конфиденциальными, но платформы могут самовольно получать и передавать эти данные органам власти. Это нарушает принципы приватности: экстремальные мысли и эмоциональные выражения пользователей могут быть использованы алгоритмами и даже привести к расследованиям. Например, если человек в гневе скажет, что хочет кого-то ударить, не будет ли это воспринято как приготовление к преступлению? Такой страх заставляет многих воздерживаться от откровенных разговоров с ИИ.
II. Беспокойство о приватности: у людей сокращены возможности для выражения эмоций
Человеческая природа сложна, и у всех бывают негативные или темные моменты — например, желание уничтожить компанию после выговора начальника или отомстить другу. Раньше такие мысли можно было выразить, например, в дневнике или обратившись за советом к другу. Теперь, общаясь с ИИ, пользователи рискуют:
- Может ли алгоритм расценить сценарий убийства из детективного романа как план преступления?
- Может ли сообщение о желании умереть после расставания быть воспринято как угроза самоубийства?
Такая осторожность снижает ценность ИИ как инструмента для эмоционального выражения и исследования мыслей — ведь кто захочет общаться с роботом, который в любой момент может “сдать” пользователя?
III. Недостатки отраслевых правил: кто определяет критерии для сообщений ИИ?
Самое беспокоящее — отсутствие единых правил для работы ИИ:
- В феврале этого года в Канаде стрелок также обсуждал насилие с использованием оружия в ChatGPT, но OpenAI просто заблокировал его аккаунт, не сообщив властям;
- В данном случае в США информация была передана в ФБР.
Какие последствия может иметь такой подход? Возможно, ИИ начнет сообщать о преступлениях по своему усмотрению: сегодня ради безопасности, а завтра — ради коммерческих интересов. Отсутствие независимого контроля и возможности жалоб со стороны пользователей может превратить функцию предупреждения в средство мониторинга.
IV. Юридические неясности: могут ли записи разговоров с ИИ быть использованы в суде?
В традиционном правосудии для получения частных данных необходимо разрешение суда и соблюдение определенных процедур. Однако в данном случае OpenAI самостоятельно передал записи разговоров, без судебных документов и уведомления пользователей. Является ли такой подход законным? В мире нет четких законов, позволяющих использовать записи разговоров с ИИ в судебных процессах. Чжоу признал свою вину, так как сам признал факты домогательств; однако в будущем суд может столкнуться с вопросом о допустимости использования таких записей в качестве доказательств. Это серьезный юридический пробел.
V. Где находить разумные границы? Необходимо установить правила для использования ИИ
Для баланса между безопасностью и приватностью необходимо установить четкие критерии для сообщений ИИ:
1. Нужен конкретный объект угрозы: не достаточно общих выражений вроде “хочу уничтожить что-то”; необходимо указание конкретной цели (например, “хочу убить кого-то в спортзале”).
2. Необходимо наличие конкретных действий: необходимо, чтобы разговоры переходили от размышлений к планам (покупка оружия, планирование действий).
3. Необходимы фактические доказательства: например, покупка оружия, преследование жертвы, отправка угроз.
4. Необходима прозрачность: пользователи должны знать, что их разговоры могут быть проверены и переданы властям.
5. Необходима возможность проверки: результаты проверки должны быть задокументированы, чтобы пользователи могли подать жалобу в случае ошибки алгоритма.
ИИ призван обеспечивать безопасность, но не должен переходить границы — он может быть инструментом предупреждения, но не судьей. Главное — предотвращать преступления, а не контролировать мысли пользователей.
(Конец текста)