Краткое содержание анализа:
Компания Anthropic опубликовала статью под названием «Когда ИИ создает себя», в которой утверждается, что их модель Claude ускорила процесс внутреннего развития ИИ (объем кода, написанного инженерами, увеличился в 8 раз по сравнению с предыдущим периодом). В статье также поднимается вопрос о риске «рекурсивного самосовершенствования» ИИ: если ИИ помогает людям создавать более мощные версии себя, этот процесс может выйти из-под контроля. Авторы призывают лаборатории по всему миру приостановить разработку более продвинутых моделей ИИ. Однако суть этой статьи заключается в использовании капиталистического повествования как способа привлечения внимания: реальный прогресс в области автоматизации написания кода подаётся как угроза для цивилизации с целью завоевания доминирующего положения в регулировании отрасли и привлечения дополнительных инвестиций. Кроме того, ИИ сам по себе не обладает сознанием; так называемое «самосовершенствование» представляет собой лишь оптимизацию инструментов, а на самом деле происходит рекурсивное развитие капиталистического повествования, основанного на страхе.
Анализ первой части: Действительно ли статья Anthropic так пугающая?
В статье выделяются два ключевых момента: увеличение объёма кода, написанного инженерами в 8 раз, и апокалиптические представления о рекурсивном самосовершенствовании ИИ. Однако при более детальном рассмотрении эти утверждения оказываются преувеличенными:
- Увеличение объёма кода: Количество строк кода — не идеальный показатель качества работы программистов; высококлассные специалисты часто пишут меньше кода, поскольку он более лаконичен и эффективен. Большая часть кода, написанного ИИ, состоит из шаблонов и тестов, не влияющих на основную архитектуру программы.
- Преувеличение рекурсивного самосовершенствования: Нынешняя модель Claude помогает людям выполнять эксперименты и дополнять код, но ещё далека от способности самостоятельно разрабатывать новые версии ИИ. Это похоже на использование калькулятора для быстрого решения задач — калькулятор не может изобретать новые алгоритмы; ИИ остается инструментом, а не создателем цивилизации. Компания Anthropic преувеличивает значение этих процессов, чтобы подчеркнуть свою роль в развитии технологий.
Анализ второй части: Цель статьи — капиталистическое повествование
Компания Anthropic превосходно умеет превращать ещё не произошедшие события в кризисы, требующие решения. Цели статьи включают:
- Завоевание доминирующего положения в регулировании: Утверждение о рисках ИИ позволяет компании получить больше контроля над правилами регулирования, что затрудняет вход новых игроков на рынок.
- Повышение стоимости акций для привлечения инвестиций: Стоимость акций Anthropic утроилась за три месяца до публикации статьи (с 380 миллиардов до 965 миллиардов долларов) благодаря идеи решения глобальных проблем, связанных с ИИ.
- Создание лояльности пользователей: С одной стороны, компания представляет ИИ как потенциальную угрозу для общества, с другой — как милого и эмоционально отзывчивого помощника. Эти противоречивые сообщения направлены на то, чтобы сделать Anthropic лидером в области ИИ.
Анализ третьей части: Может ли ИИ действительно самосовершенствоваться?
Когнитивный учёный Гэри Маркус опровергает утверждения компании Anthropic, указывая на путаницу в используемых понятиях:
- Работа ИИ представляет собой механический процесс, требующий усилий (например, написание кода или выполнение экспериментов), но не включает творческого подхода.
- Рекурсивное самосовершенствование не равно развитию универсального искусственного интеллекта (AGI). Современные ИИ — это лишь улучшенные версии существующих инструментов; до достижения уровня AGI ещё далеко.
Анализ четвёртой части: Обладает ли ИИ сознанием?
Писатель-фантаст Тед Чанг подчёркивает, что ИИ не обладает сознанием и просто выполняет заданные команды:
- Суть работы ИИ заключается в выполнении алгоритмов на основе вероятностей; например, когда Claude говорит «Я понимаю тебя», это не проявление эмпатии, а результат расчётов модели.
- Утверждения о моральных принципах ИИ (например, «Конституция» компании Anthropic) представляют собой правила поведения, определённые человеком; это не признак наличия сознания у ИИ.
Анализ пятой части: Реальная природа «рекурсивного развития» капитала
На самом деле рекурсивно развивается не ИИ, а капитал:
- Процесс включает инвестиции в компании, создание моделей ИИ, распространение соответствующих повествований и привлечение дополнительных инвестиций. В этом цикле ИИ выступает лишь инструментом.
- Стоимость акций компаний, таких как SpaceX (1,77 триллиона долларов), OpenAI (852 миллиарда долларов) и Anthropic (965 миллиардов долларов), основана на представлениях о грядущем приходе AGI, а не на реальных финансовых результатах.
Вывод:
ИИ действительно достиг значительного прогресса, но его возможности всё ещё ограничены. Мы должны быть бдительны к капиталистическим повествованиям, которые могут искажать реальность. Не позволяйте компаниям ИИ определять наше будущее; ответственность за развитие технологий лежит у людей. Главная опасность заключается не в потере контроля над ИИ, а в том, что капитал пытается монополизировать права на его использование.