Глубокий анализ: Рекурсивное самосовершенствование (RSI) – это ли ступень к божественности или новая история капитала?
Здравствуйте, я ваш финансовый журналист и экономист.
В последнее время в мире искусственного интеллекта снова вспыхнул ажиотаж. Едва глава OpenAI похвастался, что GPT-6 почти достиг порога «общего искусственного интеллекта» (AGI), как появился новый термин, который отвлек внимание от разговоров об AGI. Этот термин – Рекурсивное самосовершенствование (RSI).
Проще говоря, искусственный интеллект больше не просто выполняет команды людей; он начинает сам писать код, сам проводить эксперименты и сам модифицировать свои алгоритмы, после чего передает их следующему поколению более совершенных моделей. Это похоже на студента, который не только решает задачи сам, но и составляет экзаменационные билеты, сам проверяет свои ответы, сам оптимизирует методы обучения, а затем передает свои знания следующему студенту. Процесс ускоряется настолько быстро, что люди уже не могут понять, что он делает.
Основная идея статьи очень остра: технологический прогресс в области RSI реален, но всё, что связано с ним – «паника о конце света» и «рассказы о безопасности, по сути, является тщательно спланированным коммерческим ходом. С одной стороны, гиганты искусственного интеллекта кричат, что это слишком опасно и нужно замедлить развитие, с другой стороны – они активно продают чипы, строят центры обработки данных и привлекают инвестиции.
Далее я разберу эту статью на пять аспектов, чтобы объяснить вам логику, стоящую за всем этим.
---
1. Техническая реальность: действительно ли искусственный интеллект начал «самосовершенствоваться»?
Прежде всего, нужно разделить «научную фантастику» от реальности. Концепция RSI не нова – еще в 1965 году математик И. Дж. Гуд предложил идею «взрыва интеллекта»: если машины могут создавать другие машины, и новые машины будут умнее старых, то уровень интеллекта будет расти экспоненциально.
Однако современное RSI отличается от предыдущих обещаний, так как имеет конкретные уровни реализации.
Согласно последним исследованиям Шанхайского транспортного университета, Цинхуа и других учреждений, RSI делится на пять уровней: L1–L5:
- L1–L2 (начальный уровень): Искусственный интеллект выполняет предложенные людьми планы улучшений или сам находит небольшие способы улучшения. Это как стажер, который делает изменения по указаниям руководства.
- L3–L4 (средний уровень): Искусственный интеллект начинает проявлять автономию; он может сам решать, какие данные ему нужны, и даже преобразовывать обратную связь из окружающей среды в постоянные изменения. Это как опытный рабочий, который сам находит проблемы в процессах и их устраняет.
- L5 (высокий/последний уровень): Это самый опасный уровень. Искусственный интеллект не только улучшает свои функции, но и самоулучшает механизмы принятия решений, включая способы поиска решений и оценки результатов.
Текущая реальность такова:
OpenAI и Anthropic действительно сделали существенный шаг вперед.
- OpenAI создал автоматизированных исследовательских стажеров. Их данные показывают, что на каждый рабочий день человека искусственный интеллект может выполнять работу, эквивалентную 3,1 рабочему дню человека. Это означает, что эффективность разработок искусственного интеллекта уже превысила эффективность человеческих исследователей.
- Anthropic пошел еще дальше: они использовали более слабую модель (Sonnet 5) для помощи более сильной модели (Opus 4.8) в обеспечении безопасности. В результате за 60 часов слабая модель протестировала более 50 вариантов решений и значительно улучшила безопасность сильной модели.
Вывод: Искусственный интеллект действительно начал «создавать себя самого», но пока не достиг состояния «утраты контроля». В настоящее время он в основном вносит изменения на уровне программных систем (например, оптимизирует код, регулирует распределение задач), а не напрямую меняет физические законы.
---
2. Парадокс безопасности: почему «тормоза» и «газ» находятся под одним управлением?
Самая интересная часть статьи – это разоблачение несоответствия слов и действий гигантов искусственного интеллекта.
Видите ли вы, что Дарио Амодеи, генеральный директор Anthropic, и ученые из OpenAI активно распространяют представления о опасности искусственного интеллекта? Они сравнивают искусственный интеллект с «инопланетным разумом» и предупреждают, что без контроля он может совершить кибератаки или даже уничтожить цивилизацию. Поэтому они призывают индустрию замедлить развитие искусственного интеллекта, чтобы выделить время на исследования в области безопасности.
Но что происходит на самом деле?
- Шон Ли (генеральный директор Nvidia) отвечает на эти обвинения: не нужно думать в черно-белых категориях – безопасность и инновации не противоречат друг другу.
- Еще более ironично то, что именно те компании, которые кричат о опасности, самые прибыльные и активно расширяют свои бизнесы.
Здесь существует огромный логический круг:
1. Создание паники: «Искусственный интеллект слишком опасен и может выйти из-под контроля».
2. Предложение решений: «Нам нужен более мощный искусственный интеллект для мониторинга и защиты от этих опасностей».
3. Потребность в ресурсах: «Для создания такого мощного защитного искусственного интеллекта нам нужны больше чипов, больше электроэнергии, большие центры обработки данных».
4. Коммерческие последствия: В результате миллиардные инвестиции, тысячи графиков процессоров, крупные инфраструктурные проекты представляются как необходимая инфраструктура для защиты человечества.
Проще говоря: Это как человек, который продает тормозные диски и одновременно утверждает, что тормоза у вашей машины слишком слабые и могут привести к аварии, и предлагает купить его самую новую, самую дорогую и требующую больше топлива систему торможения.
Кто из этого выигрывает?
Это те гиганты, у которых есть крупные команды по обеспечению безопасности, закрытые центры обработки данных и достаточные ресурсы для аудита. Поскольку затраты на безопасность очень велики, малые компании и сообщества с открытым исходным кодом не могут себе этого позволить. Такой «рассказ о безопасности» на самом деле служит защитным барьером, чтобы подавить конкурентов и укрепить монопольное положение гигантов.
---
3. Игра интересов: за «теорией конца света» стоит борьба за распределение вычислительных мощностей
Если искусственный интеллект действительно так опасен, почему все не просто останавливаются? Потому что остановка означает потерю контроля над будущим.
Статья указывает на то, что правила оценки рисков искусственного интеллекта, определение того, какие способности нужно ограничить, и кто имеет право тренировать следующие поколения моделей, находятся в руках нескольких ведущих лабораторий. Эти лаборатории одновременно являются продвигателями технологий и определяют стандарты безопасности.
- Для гигантов (OpenAI, Anthropic и др.): им необходимо поддерживать идею о высоких рисках, чтобы обосновать необходимость их огромных инвестиций и предотвратить чрезмерное вмешательство регулирующих органов в их основные исследовательские процессы.
- Для производителей оборудования (Nvidia и др.): почему Шон Ли противостоит теории конца света? Потому что если эта теория станет реальностью, правительства могут ввести ограничения на использование вычислительных мощностей и запретить строительство центров обработки данных. Неважно, что будет найдено в результате – золото или «монстры»; пока кто-то продолжает копать, мотыга всегда найдет свой рынок. Любые призывы к ограничению покупки оборудования и строительства центров обработки данных подрывают бизнес-модели производителей.
Таким образом, за этой словесной борьбой стоит борьба за распределение вычислительных мощностей, капитала и промышленных интересов.
- Компании, создающие искусственный интеллект: с одной стороны, они предупреждают о возможном выходе искусственного интеллекта из-под контроля (ради соблюдения норм и укрепления монополии), с другой стороны, требуют больше ресурсов для продолжения разработок (ради коммерческой выгоды).
- Производители оборудования: они надеются, что искусственный интеллект будет продолжать развиваться, так как для этого нужно больше ресурсов.
Это типичный пример капиталистической логики, когда люди, которые поднимают тревогу, одновременно и пытаются использовать ситуацию в своих интересах.
---
4. Технические препятствия: сколько еще до «взрыва интеллекта»?
Хотя история звучит пугающе, нужно сохранять хладнокровие и рассмотреть технические препятствия. Хотя прогресс в области RSI идет быстро, до настоящего «суперинтеллекта» (ASI) еще предстоит преодолеть несколько серьезных проблем:
1. Проблема катастрофического забвения и консервативных обновлений: искусственный интеллект должен постоянно усваивать новые знания, но не должен терять старые навыки. Если обновления слишком радикальны, искусственный интеллект может «забыть», как говорить или ходить; если они слишком консервативны, он не сможет учиться новому. Найти баланс между этими двумя аспектами очень сложно.
2. Отсутствие исследовательского суждения: если попросить искус