Резюме основного содержания статьи
Статья Anthropic под названием «Когда ИИ создает себя» на основе внутренних реальных данных демонстрирует, как ИИ (Claude) активно участвует в собственном развитии: сейчас 80% производственного кода Anthropic генерируется Claude, и инженеры перешли от роли программистов-исполнителей к роли контролеров, проверяющих код. В статье также указывается, что скорость итераций ИИ увеличивается, однако заголовок может вводить в заблуждение, создавая впечатление, что ИИ уже способен к самоэволюции. За этим стоят два важных аспекта: во-первых, ИИ действительно ускоряет свой развитие, но ключевые решения по-прежнему принимаются людьми; во-вторых, перед финансированием и выходом на биржу Anthropic призывает к регулированию, возможно, чтобы закрепить свое лидирующее положение.
1. Инженеры переходят от роли исполнителей к контролерам: цена исполнительских навыков снижается
Сейчас 80% кода написано Claude, и количество ежедневно предоставляемых инженерами строк кода в 8 раз превышает показатели прошлого года (хотя количество строк не всегда отражает качество, но проверенная логика без ошибок). Это означает, что способ работы программистов кардинально изменился: раньше они сами писали код, тестировали его и отправляли на проверку; теперь они задают ИИ цели, ИИ выполняет работу, тестирует код и исправляет ошибки, а люди контролируют только правильность направления разработок и отсутствие проблем в результатах.
Пример: раньше режиссер сам держал камеру и монтировал фильм; сейчас у него есть 10 ИИ-команд, и ему достаточно сказать, что нужно снять, где что не так и когда остановиться. Ценность человека теперь заключается не в умении выполнять задачи, а в понимании того, что нужно делать и как определять правильный подход. Это похоже на ситуацию с фотографиями: качество фотографии не зависит от технологий затвора, а от выбора ракурса и содержания.
Вывод: Цена исполнительских навыков снижается, а ключевой компетенцией будущего становится способность к правильному принятию решений.
2. Новый барьер: можете ли вы проверить результаты работы ИИ?
ИИ способен генерировать большое количество кода, решений и экспериментов, но проблема в том, что люди не могут все это своевременно проверить. Anthropic использует ИИ для проверки кода другого ИИ и удается заранее обнаружить около трети ошибок, однако здесь есть риск: если Claude проверяет собственный код, это похоже на ситуацию, когда студенты вместе оценивают свои работы, и они могут не замечать одни и те же ошибки.
Более важно понимание того: если ИИ действует правильно, вы уверены, что его логика безопасна? Например, если ИИ создает функцию, которая работает нормально, вы не можете быть уверены, нет ли скрытых рисков в ее работе. В будущем главной проблемой команд будет не отсутствие идей, а выбор из множества возможных решений: какое из них действительно стоит реализовать, а какое кажется хорошим, но на самом деле отклоняется от цели.
Вывод: Самой редкой компетенцией будущего будет способность проверять результаты работы ИИ — выбирать правильные варианты, обнаруживать скрытые ошибки и понимать, когда нужно остановиться.
3. ИИ развивается слишком быстро, люди не могут следовать за ним
В статье приводится данные: время, необходимое ИИ для самостоятельного выполнения сложных задач, удвоилось с 7 месяцев до 4 месяцев. В марте 2024 года ИИ мог выполнять задачи, занимающие 4 минуты; в марте 2025 года — 1,5 часа, а к марту 2026 года — 12 часов. Хотя успех составляет всего 50% (и ИИ еще не может полностью доверять себе), тенденция очевидна: скорость итераций ИИ растет, и в будущем он может сам создавать следующее поколение ИИ, не ограничиваясь количеством людей, а только вычислительными мощностями и чипами.
Однако существует проблема: между «машинной скоростью» ИИ и «скоростью развития человеческого общества» возникает большой разрыв. Например, ИИ может быстро разрабатывать новые лекарства, но одобрение лекарств занимает десятилетия (необходимо проверить побочные эффекты); ИИ может быстро изменять код, но формирование привычек пользователей требует времени (например, для получения функций, аналогичных человеческой памяти, необходимо собрать много отзывов пользователей). Эти «медленные переменные» (законодательство, образование, психология пользователей) ИИ заменить не может, и это реальная проблема для обычных людей — не утрата рабочих мест, а невозможность соответствия социальных правил технологическим изменениям.
Вывод: Если в вашей работе есть такие «медленные переменные» (например, понимание пользователей, доработка решений, налаживание доверия), это ваша защита от потенциальных проблем.
4. Заголовок статьи — «дымовая завеса»: ИИ еще не способен к самоэволюции
Заголовок статьи впечатляющий, но на самом деле ИИ сейчас используется только для помощи в разработках людей, а не для создания себя самостоятельно. Подлинная самоэволюция означает, что ИИ должен сам находить свои слабые стороны, предлагать решения и участвовать в процессе обучения. Anthropic признает, что до этого шага еще далеко.
Пример: создание архитектуры Transformer произошло благодаря случайному обсуждению среди инженеров в коридоре; великий ученый Сазер услышал их разговор и присоединился к работе над кодом, что помогло преодолеть трудности. В этом процессе ключевую роль сыграли случайные общения и важные решения людей; код — это лишь результат их работы. То, что 80% кода Anthropic написано ИИ, не означает, что 80% работы выполнено ИИ: выбор проблем, оценка результатов и решение о прекращении разработок все еще находится в руках людей.
Вывод: Не позволяйте заголовку ввести вас в заблуждение: ИИ сейчас — это «суперассистент», а не «автономный принимающий решения элемент».
5. Призыв к регулированию как стратегия для закрепления лидирующего положения
В конце статьи призывается к введению механизмов проверки разработок ИИ, что звучит ответственно, но за этим стоит определенная цель: Anthropic только что получил финансирование в размере 650 миллионов долларов и оценивается примерно в триллион долларов; кроме того, компания секретно подала заявку на выход на биржу. Такой призыв может быть связан с желанием закрепить свое лидирующее положение. Это похоже на план Барука 1946 года, когда США, контролировавшие ядерное оружие, призвали сначала создать международную систему контроля. Целью может быть не только безопасность, но и укрепление своего экономического и политического влияния.
Вывод: Призыв к регулированию может быть частью стратегии компании для дальнейшего развития и укрепления своих позиций на рынке.