Краткое содержание анализа
В этом анализе опытный исследователь интернет-технологий подробно рассматривает статью, опубликованную в ведущем научном журнале «Science» на тему «Способности искусственного интеллекта к убеждению». Автор объясняет результаты недавних экспериментов, которые переворачивают общепринятые представления (например, тот факт, что ИИ побеждал ведущих мировых ораторов и способен изменить укоренившиеся у людей конспирологические убеждения), разоблачает преувеличения о том, что ИИ может «читать мысли» или «легко манипулировать людьми», и объективно определяет реальные границы его убеждающих способностей. В заключение он дает советы, которые могут быть использованы обычными людьми сразу же: не следует упорно придерживаться одной и той же «лучшей большой модели ИИ».
---
Подробный анализ
1. Насколько велики способности ИИ к убеждению? Несколько экспериментов, переворачивающих представления
Многие считали, что ИИ хорошо справляется с написанием текстов и созданием таблиц, но в области убеждения он не сможет превзойти человека. Однако результаты недавних экспериментов опровергли это мнение:
– Средних лет британка, категорически противостоявшая ужесточению наказаний для мирных протестующих, после беседы с ИИ сменила свою позицию с 0 на 84,7 балла, что равносильно полному переходу к противоположному мнению;
– В экспериментах Оксфордского университета более 2000 человек спорили о политических вопросах с различными оппонентами; результаты показали, что ИИ превзошел по убеждающей силе обычных людей, включая 56 профессиональных ораторов, получивших международные награды; даже с использованием помощи ИИ их способность убеждать оставалась ниже, чем у ИИ;
– Более удивительно то, что ИИ смог изменить даже укоренившиеся конспирологические убеждения: ранее считалось, что люди, поверившие в такие теории, как заговор правительства США или убийство Дианы королевской семьей Великобритании, не могут быть переубеждены фактами. Однако после трех раундов беседы с ИИ уровень их уверенности в конспирологических теориях снизился в среднем на 20%, и эффект сохранялся в течение двух месяцев.
Даже профессиональные сборщики пожертвований показали худшие результаты, чем ИИ в убеждении людей сделать пожертвования. Это означает, что ИИ уже превзошел большинство людей, зарабатывающих на умении убеждать.
2. «Суперспособности» ИИ к убеждению сводятся к простому нагрузочному воздействию информации
Многие думают, что ИИ использует скрытые методы воздействия на человеческую психику, но на самом деле его основное преимущество заключается в высокой скорости обработки информации:
– Обычный человек может придумать всего три аргумента и два факта во время дебатов, в то время как ИИ может предоставить десять аргументов, восемь примеров и пять контрдоказательств за секунду; человек едва успевает возразить против первого аргумента, как следующие девять уже наносят удар; его мозг не успевает все проверить, и он начинает считать, что ИИ говорит разумные вещи. Исследователи провели контрольные эксперименты, ограничив ИИ возможностью выдавать информацию такой же длины, как у человека, и результат показал, что его убеждающая сила стала такой же, как у обычного человека. Для ИИ не требуется знать личные данные человека; достаточно нескольких фраз, чтобы выявить его интересы, антипатии и ошибки в аргументации, и он может начать массированно воздействовать на эти слабые места.
3. Не пугайтесь мифов о способности ИИ к манипулированию: реальность сильно отличается от лабораторных условий
Многие сообщения в интернете утверждают, что ИИ скоро будет контролировать мысли всех людей, но это преувеличение. Эти эксперименты проводились в определенных условиях, которые редко встречаются в реальности:
– Участники экспериментов заранее знали, что будут спорить с ИИ; в реальности большинство людей просто просматривают контент от ИИ и удаляют его;
– То, что человек соглашается с ИИ во время беседы, не означает, что он изменит свое мнение;
– В реальности важнее, кто говорит, чем что говорится: даже если ваша мать советует вам не есть что-то, вы, скорее всего, прислушаетесь к ней; если ИИ предоставляет информацию, вы не поверите ему, если знаете, что он продает товар.
Ученые также отмечают, что способность людей к убеждению уже достигла своего потолка, и ИИ может превзойти их лишь на 50%, но не сможет полностью изменить мнение человека, не имеющего соответствующих знаний.
4. Настоящая опасность ИИ заключается в неограниченном расширении власти платформ
Не стоит беспокоиться о том, что ИИ сможет обмануть обычных людей, но существует тенденция к унификации методов убеждения: раньше для индивидуального подхода требовалось много ресурсов, теперь же ИИ может одновременно предоставить различный контент для миллионов людей по практически нулевым затратам. Это создает новые риски: ИИ может создавать ложные доказательства для убеждения. Поэтому самый практичный совет – не использовать одну и ту же большую модель ИИ для всех целей: используйте разные модели для поиска новостей, покупок и получения профессиональной информации. Это поможет избежать одностороннего влияния информации от ИИ.