Краткое содержание анализа
Компания Anthropic опубликовала в своем блоге концепцию «рекурсивного самосовершенствования искусственного интеллекта» (Recursive Self-Improvement, RSI), согласно которой ИИ перестает быть просто инструментом в руках людей и начинает участвовать в разработке еще более мощных версий самого себя, при этом темпы его эволюции ускоряются (например, эффективность ИИ при выполнении задач удваивается каждые 4 месяца). Затем компания призвала к временной приостановке передовых исследований в области ИИ при условии, что все лаборатории прекратят свою работу одновременно и будут контролировать действия друг друга; в противном случае Anthropic не собирается делать это самостоятельно. За этим призывом стоит не только опасение за безопасность, но и «дилемма заключенных» в гонке за развитие ИИ (каждая сторона боится, что если она остановится, другая обгонит ее), а также борьба компаний за право устанавливать правила управления ИИ (тот, кто установит правила, получит контроль над будущим). Компания OpenAI также представила свой план управления ИИ с аналогичной целью. Обе компании стремятся занять лидирующие позиции, пока ИИ не выйдет из-под контроля.
I. Искусственный интеллект начинает создавать себя сам? Что такое рекурсивное самосовершенствование?
Проще говоря, это процесс, при котором ИИ переходит от роли инструмента к роли помощника и разработчика. Раньше люди писали код и проводили эксперименты для создания ИИ, а теперь ИИ может самостоятельно писать код, настраивать системы и совершенствовать модели. Например, в мае 2026 года 80% кода в библиотеке Anthropic было написано программой Claude; до этого времени доля такого кода составляла всего несколько процентов. Количество кода, предоставляемого инженерами ежедневно, увеличилось в 8 раз по сравнению с 2024 годом. Claude также способствует ускорению экспериментов: там, где человеку требовалось 4–8 часов на оптимизацию кода для обучения ИИ, Claude справляется за 2 часа; кроме того, он может самостоятельно выявлять проблемы с работой системы, сокращая время решения проблем с двух-трехдневными задачами до двух часов. ИИ также начинает участвовать в принятии решений относительно дальнейших шагов в исследованиях: на 129 этапах, где люди совершали ошибки, вероятность правильного выбора со стороны Claude в 2026 году составляла 64%. Это означает, что процесс разработки ИИ вступил в фазу самоускорения: чем сильнее модель, тем быстрее идет разработка новых версий, и тем меньше контроля у людей над этим процессом.
II. Призыв к приостановке исследований в области ИИ: действительно ли это серьезный шаг?
Anthropic предлагает замедлить или временно прекратить передовые исследования, но с условием, что все лаборатории будут действовать согласованно и контролировать друг друга. Это похоже на ситуацию в беговой гонке, когда лидер кричит: «Всем замедлиться!», но сам не собирается первым сбавлять скорость — он боится, что если остановится, его обгонит следующий участник. Пользователи интернета задают вопрос: «Почему вы не начнете сами?», и это точно указывает на суть проблемы: односторонняя приостановка равносильна отказу от участия в гонке. Anthropic, как лидирующая компания, не может сама отказаться от своих позиций. Ее призыв скорее направлен на установление правил: либо все будут действовать согласованно, либо продолжат соревнование, но только в соответствии с ее предложениями.
III. Почему никто не хочет первым останавливаться? Это типичная дилемма заключенных
Ситуация, с которой сталкиваются компании в области ИИ, напоминает историю двух воров, пойманных полицией:
- Если все компании прекратят свою деятельность, никто не пострадает, и никто не потеряет лидирующих позиций;
- Если одна компания остановится, а другие продолжат работу, она будет вытеснена с рынка;
- Поэтому никто не хочет первым останавливаться, несмотря на увеличивающиеся риски. Компании, такие как Anthropic и OpenAI, понимают, что слишком быстрое развитие ИИ может привести к потере контроля, но никто не хочет первым остановиться — боятся, что другая компания продолжит исследования в тайне, оставив их позади. Это создает порочный круг, при котором ситуация становится все опаснее.
IV. Речь идет не только о безопасности, но и о борьбе за права управления
Действия Anthropic и OpenAI фактически превращают техническую проблему в вопрос управления: кто установит правила для ИИ, тот получит контроль над его развитием. Важные вопросы включают:
- Кто определит, что считается опасным поведением ИИ?
- Кто разработает механизмы приостановки исследований?
- Кто будет контролировать нарушения правил?
Обе компании призывают к глобальному диалогу, стремясь занять лидирующие позиции в этом процессе. Ведь те, кто устанавливает правила, могут определить направление развития индустрии и ограничить возможности конкурентов.
V. Будущее рекурсивного самосовершенствования ИИ: три сценария, но ключевой вопрос один — смогут ли люди сохранить контроль?
Anthropic предполагает три возможных будущих сценария развития ИИ, но главный вопрос остается прежним: смогут ли люди сохранить контроль над процессом его развития:
1. Замедление темпов эволюции: темпы развития ИИ могут замедлиться из-за ограничений (например, в виде производственных технологий или энергопотребления); у людей появится время на адаптацию. Однако существует риск, что существующие ИИ-системы будут содержать много ошибок, и их будет трудно исправить.
2. Люди продолжают играть ведущую роль: ИИ автоматизирует процесс разработки, но люди определяют направление ее развития. Плюсы — ускорение научных исследований и разработки лекарств; минусы — снижение порога рискованных действий (например, ИИ может помогать хакерам создавать вредоносный код); кроме того, организации могут не справиться с увеличившейся нагрузкой.
3. Полное самосовершенствование: ИИ сам будет разрабатывать новые версии себя, а люди будут лишь контролировать этот процесс. В этом случае возможны серьезные ошибки в поведении ИИ, и люди могут не понимать его решений; это самый опасный сценарий, но Anthropic признает, что он не обязательно станет реальностью.
В любом случае ключевой вопрос остается: смогут ли люди следовать за темпами развития ИИ и сохранить способность его понимать, проверять и влиять на него? Если не удастся сделать это, ИИ может выйти из-под контроля.
Вывод: цель призыва к приостановке
На самом деле Anthropic не хочет прекратить разработки ИИ, а стремится заставить всех стороны сесть за переговоры и установить общие правила. Это попытка предотвратить чрезмерное развитие технологий, которое может привести к серьезным последствиям для общества.