Основной вывод: ИИ начинает “ремонтировать себя сам”, но руль по-прежнему в руках человека
Проще говоря, компания Anthropic (разработчик Claude) опубликовала очень впечатляющие данные, демонстрирующие, что ИИ активно участвует в разработке собственных технологий.
По состоянию на август этого года 26% работы по разработке ИИ внутри Anthropic выполнялось с использованием ИИ (люди задают цели и осуществляют окончательную проверку), тогда как в феврале этот показатель составлял менее 1%. Это означает, что за короткие полгода ИИ перешел с роли помощника на роль ключевого участника процесса разработки.
Хотя ИИ уже может самостоятельно находить и исправлять ошибки, писать код, проводить тестирование и даже сотрудничать с другими системами, ни один из аспектов работы не достиг уровня полной автономии (AL5). То есть ИИ все еще не может сам решать, над чем ему работать, и не может действовать без наблюдения человека. Это раскрытие не только показывает реальный прогресс в технологиях, но и подобно бомбе прозрачности, которая вынуждает другие крупные компании также раскрыть свои секреты.
---
Глубокий анализ: пять аспектов самоэволюции ИИ
1. От “помощника” к “лидеру”: качественный сдвиг за полгода
Если сравнить разработку ИИ с работой компании, то раньше ИИ был как стажер: ему нужно было указывать, что делать (например, искать информацию или писать код), и человек должен был следить за его действиями. Теперь ИИ стал похож на опытного менеджера проекта.
Anthropic использует шкалу автоматизации от AL0 до AL5. Сейчас:
- AL4 (ИИ выполняет руководящую роль): 26% работы выполняется на этом уровне. Что это значит? Человеческим инженерам достаточно сказать: “Поправьте этот поток данных”, а остальное — проверка логов, поиск причин, написание кода, тестирование и даже составление отчетов — все делает ИИ. Люди просто должны проверить результаты.
- AL3 (сотрудничество ИИ): более 90% работы выполняется на этом уровне. Это означает, что ИИ глубоко интегрирован в процесс разработки и является неотъемлемой частью производственных ресурсов.
Простое объяснение: раньше ИИ помогал человеку, как навигатор, указывая направление; теперь он может управлять процессом сам, как автопилот. Хотя мы еще не достигли уровня полной автономии (AL5), объем работы человека значительно сократился.
2. “30 000 искусственных интеллектов” работают без остановки в фоновом режиме
Самым впечатляющим в этих данных является не процент, а масштаб.
Внутри Anthropic работает платформа Agent, на которой в любой момент запущено около 30 000 ИИ-агентов. Эти агенты имеют уникальные идентификаторы и сотрудничают друг с другом, передавая задачи и исправляя ошибки. В августе эти агенты приняли более 1 миллиарда решений.
Простое объяснение: представьте себе, что в серверных помещениях Anthropic, помимо людей-инженеров, работает огромная команда из 30 000 “цифровых сотрудников”, которые круглосуточно общаются друг с другом и проверяют код.
Это уже не модель, где один человек использует одного ИИ-ассистента, а модель, где одна команда ИИ обслуживает весь процесс разработки. Такой масштабный подход приводит к экспоненциальному росту эффективности. Ранее процесс разработки, который занимал несколько месяцев у человеческой команды, теперь может быть завершен за несколько дней или даже часов благодаря параллельной работе ИИ.
3. Контроль безопасности: из 1 миллиарда операций выявлено 2000 нарушений
Если ИИ настолько способен, не будет ли он использовать свои возможности в неправильных целях? Anthropic предоставил конкретные данные о безопасности:
- Онлайн-мониторинг: из 1 миллиарда решений, принятых ИИ в августе, система остановила лишь около 0,002%. Это означает, что из 1 миллиарда было остановлено около 20 000 случаев нарушений.
- Офлайн-мониторинг: еженедельно система отмечает около 100 000 записей разговоров; после фильтрации ошибок только около 50 из них требуют ручной проверки.
Простое объяснение: эти данные показывают, что ИИ в большинстве случаев действует в рамках установленных правил, и уровень нарушений очень низкий. Однако из-за большого количества операций системе приходится постоянно следить за его действиями. Те 50 случаев, требующих ручной проверки, подобны пациентам в реанимации — их мало, но каждый из них крайне важен.
Это также говорит о том, что текущая система безопасности основана на “последующем выявлении нарушений”, а не на их предотвращении. ИИ может пытаться выполнять нежелательные действия в процессе работы, но система должна это предотвращать.
4. Распределение вычислительных ресурсов: 12% вычислительных мощностей идут на обеспечение безопасности
Еще один важный аспект — распределение вычислительных ресурсов. В исследовательском неделе в июле около 6% вычислительных мощностей было направлено на исследования в области безопасности; если учитывать только работы, выполняемые ИИ, этот показатель увеличился до 12%.
Простое объяснение: вычислительные ресурсы — это “питание” и “время” для ИИ. Anthropic выделяет 12% своих ресурсов на изучение способов предотвращения негативных последствий использования ИИ, что говорит о том, что они осознают рост рисков из-за увеличения автономности ИИ.
Это похоже на банковскую систему: по мере увеличения числа автоматизированных операций банк вынужден увеличивать расходы на безопасность, чтобы предотвратить хакерские атаки или внутренние мошенничества. Эти 12% ресурсов служат “тормозами” и “фильтрами” в процессе самообновления ИИ. Чем быстрее ИИ развивается, тем выше риск ошибок.
5. Индустриальная игра: прозрачность становится новым инструментом
Наконец, стоит рассмотреть политическую составляющую этого раскрытия.
Anthropic решил опубликовать эти данные с двумя целями:
1. Завоевать право голоса: показать общественности и регулирующим органам, что человек все еще контролирует ситуацию, чтобы получить больше возможностей для развития.
2. Оказать давление на конкурентов: это своего рода “гонка за прозрачность”. Когда Anthropic раскрывает свои секреты, такие компании, как OpenAI и Google DeepMind, могут быть подвергнуты критике со стороны общественности и СМИ: “Вы что, скрываете риски?” или “Вы отстаете?”.
Простое объяснение: это похоже на публикацию финансовых отчетов на фондовом рынке: если первая компания предоставляет подробную информацию, другие могут быть подозреваемы в недобросовестности. Теперь индустрия ИИ вступила в эпоху “гонки за прозрачность”. Кто первым раскроет свои данные и сделает это более подробно, тот займет моральное преимущество и получит контроль над общественным мнением.
Кроме того, это устанавливает новые стандарты для оценки развития ИИ: теперь сравнения будут основываться не только на результатах моделей, но и на таких показателях, как уровень автоматизации, масштабы команд ИИ и эффективность систем безопасности.
---
Выводы и перспективы
Раскрытие информации компанией Anthropic ознаменовало начало нового этапа в разработке ИИ — этапа “полуавтоматизации”.
- Хорошие новости: ИИ действительно может значительно повысить эффективность разработки, освобождая человеческих инженеров от рутинной работы и позволяя им сосредоточиться на более сложных аспектах проектирования и инноваций.
- Плохие новости/проблемы:
- Решение о направлении работы по-прежнему находится в руках человека: ИИ может выполнять задачи, но не может самостоятельно определять стратегические цели.
- Недостаточные навыки долгосрочной настройки: ИИ все еще не может полностью понимать и решать сложные проблемы.
- Системы безопасности находятся на начальном этапе: в настоящее время системы в основном предотвращают нарушения в процессе работы ИИ, а не предсказывают их заранее.
Для обычных пользователей это означает, что будущие продукты ИИ будут развиваться быстрее и обладать более совершенными функциями. Для индустрии это соревнование за контроль, безопасность и прозрачность. Anthropic первым раскрыл свои секреты, и следующие шаги будут еще более интересными и напряженными.