Победитель Филдсовской премии Теренс Тао предупреждает об опасности искусственного интеллекта для математики; ученые возражают: люди не потеряли работу, они просто сменили профессию
Здравствуйте, я ваш финансовый журналист и экономист. Сегодня мы поговорим не о колебаниях фондового рынка и не о выходе новых компаний на биржу, а о вопросе, который кажется сложным, но на самом деле касается будущей карьеры каждого из нас: что останется от человеческого интеллекта, когда ИИ начнет производить ответы с такой же скоростью, как печатные станки?
Недавно лидер математического мира, лауреат Филдсовской премии Теренс Тао, опубликовал серию постов в социальных сетях, а затем вместе с 24 другими выдающимися учеными выступил с заявлением, предупреждая о том, что ИИ чрезмерно использует математические задачи и может подорвать основы человеческих исследований в этой области.
Автор этой статьи (Чжао Бинь из Фуданьского университета) предложил очень острый и понятный ответ на мнение Тао. Он считает, что Тао боится, что «вода в реке» (способность решать задачи) будет исчерпана, но на самом деле ценно не само количество воды, а человек, который контролирует кран (кто и для чего будет брать эту воду).
Далее я разберу этот дискуссионный вопрос на пять аспектов, чтобы вы полностью поняли ход этого соперничества между ИИ и человеческим интеллектом.
---
Что боится Теренс Тао? «Мусорные ответы» затапливают «хорошие вопросы»
Прежде всего, нужно понять, чего именно боится Тао. Многие думают, что он против ИИ, но на самом деле он против влияния низкокачественных результатов ИИ на научную среду.
Тао сравнил ситуацию с современными банками продовольствия: раньше туда принимали все, что приносили, но теперь это невозможно. Если банк получает коробку просроченного, заплесневелого продукта, который нельзя раздать, ему приходится тратить ресурсы на его сортировку, хранение и даже утилизацию. Этот «мусор» не только не помогает, но и занимает место, создавая иллюзию удовлетворения потребностей, в результате чего те, кому действительно нужно свежее питание, остаются без помощи.
В математике ситуация аналогична:
1. Слишком много задач, слишком мало хороших: математических задач, как море, но действительно ценные и вдохновляющие исследования – как пресная вода, – крайне редки.
2. ИИ «добывает данные»: современные ИИ-модели могут генерировать математические доказательства и ответы, но многие из них некорректны – у них есть только результаты, без процесса, и их невозможно проверить.
3. Разрушение научной среды: если лаборатории публикуют только успешные результаты ИИ, игнорируя неудачи, это отвлекает исследователей от решения настоящих, сложных задач.
Простое резюме: Тао боится, что ИИ, как бесконечный принтер, будет производить непонятные тексты, заполняя библиотеки, и настоящие ученые не смогут заниматься важными исследованиями. Проблема не в силе ИИ, а в его шумности (неправильном подходе).
---
Ответ автора: вы используете неправильные критерии оценки
Автор считает, что, хотя опасения Тао обоснованы, он допускает фундаментальную ошибку: **он оценивает ситуацию с точки зрения «эпохи человека».
У Тао есть два «старых критерия» оценки сложности задач:
1. Карта сложности: она показывает, где трудно пройти. Например, доказательство может потребовать трех лет размышлений, и поэтому считается ценным.
- Критика автора: для ИИ это бессмысленно – ИИ не устает и не заботится о сложности задачи. Это как если бы автомобиль получил карту с указанием опасных дорог; ему эта информация не нужна. Тао считает, что сложность задачи сама по себе определяет ее ценность, но это устаревшее представление.
2. Критерии хороших задач: в математическом сообществе они часто определяются вкусами, традициями и властью узкого круга.
- Критика автора: это похоже на шахматы: раньше считалось, что определенные ходы правильны, но AlphaGo Zero отказался от всех человеческих шаблонов и нашел лучшие решения. Это показывает, что человеческие представления о правильных ходах могут быть ограниченными. Если критерии хороших задач остаются внутри узких кругов, то разрушение этих критериев ИИ не обязательно плохо – это может привести к новым открытиям.
Простое резюме: Тао считает, что ИИ уничтожает иерархию сложности задач, но автор утверждает, что сложность – это результат физиологических ограничений человека, а не сущность математики. ИИ не заботится о сложности, ему важны логика и результат. Поэтому критерии, основанные на человеческих ощущениях, устарели в эпоху ИИ.
---
Основное разногласие: что остается у человека – способность к исследованиям или к curационной деятельности?
Это самая интересная и глубокая часть статьи. Основное разногласие между автором и Тао заключается в том, может ли способность человека решать задачи считаться исследованием?
- Мнение Тао: Да. Он считает, что чистое исследование ради самого исследования – это священно и является сутью человеческого интеллекта. ИИ может решать задачи, но способность человека находить ценные вопросы остается ценной.
- Мнение автора: Нет. Это скорее похоже на кураторскую деятельность (подбор и организация информации).
Автор предлагает концепцию ориентации на цели:
- ИИ не имеет собственных интересов: он выполняет задачи без понимания причин.
- У человека есть цели: исследования направлены на достижение определенных целей – понимание мира, разработку криптографии, получение Нобелевской премии или простое любопытство. Цели определяются человеком.
Поэтому, хотя ИИ берет на себя задачи поиска направлений и решения задач, человек должен сохранить способность определять цели.
- Раньше: человек искал направление, решал задачи и оценивал их ценность.
- Сейчас: ИИ генерирует массу данных, а человек должен выбирать из них то, что соответствует его интересам, эстетическим или практическим критериям.
Простое резюме: Раньше человек был «шахтером», который сам добывал уголь, перерабатывал его и оценивал его качество. Сейчас ИИ – это «суперэкскаватор», который может выкопать всю гору, а человек становится «оценщиком драгоценностей» или «куратором»: ему не нужно самому копать, ему нужно умение выбирать ценные элементы из массы данных.
Автор считает, что называть эту деятельность исследованием – это преувеличение; на самом деле это скорее кураторская деятельность. Но это не означает ее уменьшения ценности; напротив, благодаря бесконечному выбору, способность выбора становится еще более важной.
---
Конкретный пример: лаборатории публикуют только успехи, не неудачи
Хотя автор философски опровергает Тао, он признает, что у Тао есть важное и актуальное замечание по поводу научных исследований:
Лаборатории ИИ публикуют только успешные результаты, не раскрывая неудачи. Это приводит к искажению представлений о реальных возможностях ИИ.
- Что такое «фронт» исследований? Это граница между тем, что ИИ может и не может решить.
- Почему это опасно? Если лаборатории показывают только успехи, исследователи могут пытаться решать неразрешимые задачи или игнорировать те, которые ИИ уже решил. Это подобно войне: если видеть только успешные атаки, нельзя понять реальные силы и слабости противника.
Простое резюме: Это пример информационной асимметрии. Компании, использующие ИИ, похожи на страховщиков: они показывают только свои успехи, не раскрывая неудачи. Это искажает понимание возможностей ИИ. Автор считает, что это самая конкретная и реально исправимая проблема в предупреждениях Тао. Если лаборатории будут публиковать неудачи, это поможет устранить эту асимметрию.
---
Заключение: не беспокойтесь о исчерпании ресурсов, беспокойтесь о том, кто контролирует кран
В заключение автор использует яркое сравнение:
Тао боится, что ИИ исчерпает «воду» в реке математики, но автор видит, что на самом деле важно тот, кто контролирует кран – человек, который решает, какую воду брать, для кого и для чего.
Главный вывод:
ИИ берет на себя задачи по производству данных, а человек должен сохранить способность определять ценность этих данных.
Значение для обычных людей:
1. Не беспокойтесь о замене: если ваша работа связана с выполнением приказов, вычислениями или повторяющимися задачами, вы действительно можете быть заменены ИИ.
2. Развивайте способность к кураторской деятельности: ключевая компетенция будущего – не количество написанного кода или обработанных данных, а способность выбирать ценную информацию и определять ее цель.
3. Ориентация на цели важна: независимо от технологий, цели и интересы всегда остаются в руках человека. ИИ – это инструмент, а человек – хозяин. Пока у вас есть право определять цели, вы не потеряете работу; вы просто переходите от рутинных задач к более важным.
В одном предложении:
Тао боится, что река исчерпается, но я вижу, что настоящий контролер – не река, а человек, который решает, как использовать доступные ресурсы. Когда ИИ берет на себя производство данных, человеческая способность к их оценке становится еще важнее, хотя и меняется по сути.