虎嗅

Открытый искусственный интеллект “крадет” идеи: могут ли математики остаться без работы?

原文:Open AI偷题,数学家也要失业了?

Заголовок: AI “отвечает первым” на сложные математические задачи: это честь гениев или “землетрясение” в академических кругах?

Здравствуйте, друзья! Я ваш финансовый журналист и экономист. Сегодня мы поговорим не о колебаниях фондового рынка и не о том, какие отчеты компаний выглядят хорошо, а о странном и в то же время значимом событии, произошедшем в мире технологий и науки.

Короче говоря, OpenAI объявил, что их новая модель ИИ нашла решение одной из самых сложных математических задач, которая мучила ученых на протяжении многих лет. Это могло бы стать вехой в развитии технологий, но в математическом сообществе поднялся большой шум. Почему? Потому что два ведущих математика заявили: “Подождите, это же решение, которое я уже опубликовал!”

Это похоже на ситуацию, когда вы только что подали на стол уникальное блюдо в ресторане, и вдруг повар из соседнего столика заявляет: “Это блюдо придумал я, и я уже его приготовил”. Разве это не сбивает с толку?

Далее я разберу это событие на пять аспектов и объясню вам логику, заинтересы сторон и возможные последствия.

---

1. Обзор события: Что сделал ИИ? Создал он решение или просто скопировал его?

Сначала давайте проясним, что именно сделал OpenAI.

OpenAI утверждает, что их новая модель ИИ самостоятельно пришла к решению известной математической задачи. В контексте технологических компаний это обычно означает, что ИИ обладает способностью к логическому мышлению, превосходящей способности лучших специалистов человечества, что является еще одним важным шагом на пути к развитию универсального искусственного интеллекта (AGI).

Однако два математика указали, что основные идеи, ключевые шаги и даже некоторые уникальные доказательства сильно совпадают с их собственными публикациями, вышедшими несколько лет или месяцев назад.

Вот в чем ключевое отличие:

  • Если решение было найдено самостоятельно: ИИ, как и человек, исходя из аксиом, прошел долгий путь логических рассуждений и пришел к правильному ответу. Это настоящий проявление интеллекта.
  • Если решение было скопировано: ИИ просто запомнил все математические работы, доступные в обучающих данных, и, столкнувшись с задачей, нашел наиболее подходящее решение из этих данных, представив его как свое собственное открытие.

Сейчас больше всего подозрений именно во втором варианте. Это как если бы студент на экзамене, не списывая, выучил все примеры, которые преподавал учитель, а затем немного изменил цифры и представил их как свой собственный решение. Учитель (в данном случае математики) конечно будет возмущен: Вы демонстрируете свою память или свой интеллект?

---

2. Академическое давление? Нет, это “серая зона” в вопросах интеллектуальной собственности

В новостях используется термин “академическое давление”, но на самом деле речь идет о борьбе за право собственности на знания.

В традиционном академическом сообществе правила ясны:

1. Кто первым опубликует результат, тот первым имеет на него право.

2. Если вы используете чужой метод, вы должны указать источник.

3. В противном случае это считается плагиатом или академическим мошенничеством.

Но в эпоху ИИ эти правила перестают действовать.

  • У ИИ нет автора: вы не можете подать в суд на нейронную сеть, поскольку она не имеет юридической личности.
  • Обучающие данные являются “черным ящиком”: OpenAI утверждает, что их модель была обучена на общедоступных данных из интернета, и эти математические работы также являются общедоступными, поэтому они имеют право их использовать.
  • Ситуация для математиков сложная: они потратили десять лет на разработку логики, а теперь эти результаты используются ИИ для привлечения инвестиций и повышения стоимости акций компании, при этом они не получают никаких признаний и даже могут быть обвинены в плагиате.

Это создает ощущение давления: Крупные компании используют свои технологические преимущества, превращая коллективный интеллект человечества (включая результаты ведущих ученых) в свой коммерческий актив, не платя за это никаких сборов и не предоставляя авторских прав. Это не традиционный плагиат, а более скрытая форма изъятия знаний.

---

3. Коммерческая логика крупных компаний противоречит ценностям академического сообщества

Почему OpenAI поступил таким образом? За этим стоит холодная коммерческая логика.

Для OpenAI:

  • Маркетинговая ценность: Заявление о решении сложной математической задачи – это более привлекательный сигнал, чем простое упоминание больших размеров модели. Это мгновенно повышает статус бренда, привлекает талантливых специалистов и увеличивает оценку компании.
  • Техническое подтверждение: Даже если решение вызывает споры, его успешное решение демонстрирует способности модели к сложным логическим вычислениям, что важно для дальнейшего развития ИИ.
  • Преимущество первопроходца: В соревновании в области ИИ скорость решает все. Даже если решение не идеально, важно первым объявить о нем, чтобы занять лидирующие позиции в общественном мнении.

Для математиков:

  • Превосходство строгости: Математика – это не программирование; код может работать, но доказательства должны быть безупречными, а логические цепочки – полными. Решения, предложенные ИИ, часто кажутся правильными, но не имеют строгих доказательств.
  • Честь и признание: Математики зависят от рецензирования коллег и академической репутации. Если ИИ может свободно использовать их результаты без наказания, это подорвет основы всей академической системы.

Суть конфликта в том, что крупные компании стремятся к результатам и эффективности, а академическое сообщество ценит процесс и истину**. Это приводит к ожесточенному столкновению интересов.

---

4. Глубокие последствия: изменится ли роль человеческих ученых, если ИИ станет посредником в распространении знаний?

Если это событие будет развиваться дальше, оно может спровоцировать серьезные изменения в отрасли.

Во-первых, автоматизация математических доказательств может ускориться. Если ИИ сможет эффективно генерировать предварительные версии доказательств, роль человеческих математиков изменится с решения задач на проверку и формулирование вопросов. В будущем математики могут тратить не месяцы на разработку формул, а лишь несколько дней на проверку сотен предложенных ИИ вариантов доказательств, чтобы найти наиболее элегантный и простой из них.

Во-вторых, правила академической публикации могут измениться. Существующие журналы могут не справиться с большим количеством “псевдоработок”, созданных ИИ. В будущем им может потребоваться внедрение механизмов проверки на авторство или требование от авторов предоставления записей своего мыслительного процесса для подтверждения оригинальности.

В-третьих, законы об интеллектуальной собственности столкнутся с проблемами. В настоящее время большинство стран защищают авторские права на человеческие творения. Если содержание, созданное ИИ, будет считаться произведением, кому принадлежат авторские права: создателям обучающих данных (математикам), разработчикам ИИ или общественности? Это оставляет большой юридический пробел, который необходимо устранить.

В-четвертых, изменится направление потока талантливых специалистов: если математики поймут, что их результаты могут использоваться компаниями без вознаграждения, они могут выбрать:

  • Более консервативный подход к публикациям, сохраняя ключевые идеи.
  • Переход в компании, занимающиеся разработкой ИИ, чтобы получать выгоду непосредственно от процесса обучения моделей.
  • Или переход в более основополагающие, абстрактные области, к которым ИИ пока не может добраться.

---

5. Взгляд в будущее: Это не конец, а начало новой эры сотрудничества человека и ИИ

В заключение хочу сказать, что, хотя это событие кажется странным, на самом деле оно является важным этапом в развитии человеческой цивилизации.

ИИ не является врагом человечества, а скорее увеличительом и зеркалом нашего интеллекта.

  • Как увеличитель: ИИ может помочь нам с выполнением сложных вычислений, позволяя сосредоточиться на более высоком уровне абстрактного мышления.
  • Как зеркало: Оно показывает слабые места в нашей системе знаний, а также неясность наших представлений об оригинальности и ценностях.

Заключение для всех:

Не стоит слепо восхищаться ИИ – он мощен, но пока больше похож на “суперпереписчика” и “собирателя логических конструкций”, чем на настоящего мыслителя.

Важно ценить процесс, а не только результаты**, ведь ИИ может дать вам ответ, но не может взять на себя ответственность за принятие решений.

Также важно следить за изменением правил, поскольку в будущем умение сотрудничать с ИИ, защищать интеллектуальную собственность и проверять достоверность его выводов станет ключевым навыком для каждого.

В общем, это событие, хотя и кажется странным, на самом деле является важным этапом в развитии человеческой цивилизации.