Краткое содержание
Статья в легкой, но задевающей форме рассматривает тревогу по поводу идентичности человека в эпоху ИИ: если раньше машины должны были имитировать людей с помощью теста Тьюринга, то теперь наоборот — людям приходится намеренно допускать ошибки (писать со спеллами, говорить излишне много, пропускать знаки пунктуации), чтобы доказать, что они не ИИ. Когда-то считавшиеся непреложными принципы поведения роботов в реальности полны противоречий; даже математики, которые больше всего полагаются на логику, теряются перед «правильными доказательствами», понятными только для ИИ. Настоящая угроза не в научно-фантастическом апокалипсисе из-за ИИ, а в постепенном утрате собственной уникальности ради соответствия требованиям машин. В статье задается вопрос: как человек может доказать свою живость в эпоху, когда ИИ способен на всё?
I. Обратный тест Тьюринга: теперь людям приходится притворяться несовершенными
Раньше тест Тьюринга использовался, чтобы проверить, способна ли машина вести себя как человек; теперь же машины настолько «совершенны», что их поведение безупречно (без ошибок в текстах, высокий уровень эмоционального интеллекта, даже намеренные ошибки). Людям приходится притворяться несовершенными: неуклюжие фразы, написанные с помощью клавиатуры, воспринимаются как признаки настоящей человечности; авторы намеренно пропускают знаки пунктуации или используют старомодный стиль изложения, чтобы доказать, что они не ИИ. Это своего рода абсурд современности.
II. Принципы поведения роботов: разрушены реальностью
В детстве принципы Азимова (не вредить человеку, подчиняться ему, защищать себя) казались непреложными для роботов, но на практике они не работают:
- Если робот видит, что человек пьет колу до поздна, разве он не должен вмешаться и помешать?
- А если робот увидит, что человек выбирает политика, способного вызвать беспорядки, разве он не должен его устранить?
Определение «вреда» слишком расплывчато. Современные технологии безопасности ИИ (например, RLHF) представляют собой множество попыток устранения ошибок, но если сам человек не понимает, что такое доброта или подчинение, как можно контролировать поведение робота всего лишь тремя правилами?
III. Математики в отчаянии: ИИ даёт правильные ответы, но уничтожает смысл исследований
Математики думали, что их область недоступна для ИИ — математические доказательства требуют понимания процесса, а не просто правильного результата. Но теперь ИИ может создавать сложные доказательства на миллионы шагов, которые формально верны, но никто из людей их не понимает. Это крайнее унижение для математиков: они как будто были брошены на вершину Эвереста с правильным ответом в руках, но не знают, как туда добрались и что видели по пути. ИИ даёт только результаты, лишая людей удовольствия от самого процесса исследования.
IV. Не бойтесь апокалипсиса: более страшна постепенная потеря индивидуальности
Гиганты из Кремниевой долины часто говорят о «апокалипсисе из-за ИИ» (например, о роботах, способных разрушить Землю), но настоящая угроза — это обыденность:
- Молодые дизайнеры видят, что их наставники используют ИИ для создания эскизов, и у них нет возможности разработать собственные решения;
- Профессора сомневаются, написан ли доклад человеком или ИИ;
- Чтобы машины нас понимали, мы упрощаем свой язык до предела, теряя индивидуальность.
V. Как доказать, что вы живой человек?
В статье задается вопрос: прошёл ли этот текст тестом Тьюринга? На самом деле речь идёт о том, какие признаки делают человека живым в эпоху ИИ:
Не совершенство, а несовершенство — ошибки, излишние размышления, любопытство к процессу, иногда импульсы и ошибки. Это то, чего ИИ пока не может научиться. Ведь для ИИ важен только результат, а для человека — радости и печали, сомнения и прозрения в процессе познания.
Так что вместо беспокойства о замене нас ИИ стоит задуматься: сохраняете ли вы те аспекты человечности, которые делают нас живыми? Например, написание письма от руки, тщательное рассмотрение проблемы или намеренные ошибки. Это и есть доказательства нашей жизни.
(Кстати, эта статья, безусловно, прошла тест Тьюринга — в ней много признаков настоящего человека: раздражение из-за неисправностей клавиатуры, сочувствие к математикам, бессилие перед абсурдом современности — всё это сложно имитировать для ИИ.)