Краткое содержание анализа
Руководитель проекта Claude Code в компании Anthropic, Борис Черный, рассказал о последних достижениях в области искусственного интеллекта (ИИ): модель Opus5 способна работать непрерывно в течение нескольких недель и защищена от атак типа prompt injection; упрощение процесса формирования системных инструкций (System Prompt) позволяет в полной мере раскрыть потенциал модели; явление “Product Overhang” (ограничение возможностей ИИ из-за существующих продуктов) представляет собой перспективную возможность для стартапов; сотни агентов (Agents) могут совместно автоматически обслуживать код; с приближением решения проблемы программирования основные навыки разработчиков смещаются в область формулирования задач и проектирования продуктов.
1. Opus5: способность к непрерывной работе и защита от атак
Ранее ИИ мог лишь дополнять фрагменты кода, но теперь модель Opus5 в режиме Auto Mode может работать несколько дней, недель или даже месяцев без сложных инструкций. Например, команда Bun использовала эту модель для переписания кода на языке Rust за 11 дней (ранее это занимало более года). Более того, модель решена от серьезной проблемы prompt injection: в прошлом хакеры могли внедрять вредоносные команды в код ИИ (например, удалять файлы). Anthropic использует три уровня защиты:
1. Алгоритмы согласования действий модели (Model Alignment): трехлетние исследования позволили ИИ соблюдать установленные правила;
2. Детекторы активности нейронов (Neuron Detectors): определяют, активированы ли определенные нейроны во время работы модели, что позволяет выявить попытки внедрения вредоносных команд;
3. Классификаторы режима Auto Mode: фильтруют потенциально опасные операции. Теперь эффективные атаки практически невозможны.
2. Противоречие распространенному мнению: чем умнее модель, тем короче должны быть начальные инструкции
Ранее для работы ИИ требовались длинные системные инструкции, направляющие его действия. Однако модель Opus5 настолько умна, что понимает многие из этих инструкций самостоятельно; поэтому компания Anthropic удалила 80% системных инструкций. Даже после экспериментов оказалось, что модель стала еще умнее! Чрезмерное количество инструкций ограничивает ее гибкость. При каждом обновлении модели они удаляют все старые инструкции и добавляют только те, которые действительно необходимы.
3. Явление “Product Overhang” и возможности для стартапов
“Product Overhang” означает, что ИИ уже обладает определенными возможностями, но существующие продукты не используют их в полной мере. Например, ранние версии ИИ могли создавать полные файлы, но пользователи требовали лишь дополнения отдельных фрагментов кода. Проект Claude Code направлен на преодоление этих ограничений: модель получает доступ к терминалу и может изменять файлы, раскрывая таким образом ее полный потенциал. Перспективные стартапы могут найти такие ограничения и создать продукты, которые раскроют этот потенциал. Например, было обнаружено, что модель Opus5 может рисовать с использованием библиотеки OpenCV (без специальной подготовки); все, что для этого нужно — правильные инструкции. Это еще неисследованный потенциал ИИ.
4. Сотни агентов совместно работают над кодом: автоматическое обслуживание
Anthropic использует два способа координации работы агентов:
1. Динамические рабочие процессы (Dynamic Workflows): организация работы сотен или тысяч агентов для разделения сложных задач (например, переписи кодовых библиотек) и их параллельной обработки;
2. Рутины (Routines): автоматическое удаление неиспользуемого кода, выполнение тестов, унификация повторяющихся действий и отправка предложений для улучшения кода (PR-запросов). Ежедневно компания выполняет 20–30 таких задач, что эквивалентно работе десятков или сотен инженеров. Инженерам больше не нужно заниматься рутинным обслуживанием кода; они могут сосредоточиться на разработке новых продуктов и удовлетворении потребностей пользователей.
5. Программирование на грани решения: в будущем ключевыми станут не навыки написания кода, а другие качества
Все чаще большая часть кода создается с помощью ИИ (более 50% в реальных проектах). В будущем различия между разработчиками будут заключаться не в навыках программирования, а в следующих аспектах:
- Формулировке проблем;
- Проектировании продуктов;
- Анализе коммерческих возможностей;
- Готовности к экспериментам с решением ранее невозможных задач.
Рекомендация для студентов-компьютерных наук: не ограничивайтесь теорией — нужно создавать реальные продукты и развивать навыки дизайна и коммерческого мышления; именно эти качества станут ключевыми в эпоху ИИ.
Вывод: Искусственный интеллект переходит от роли вспомогательного инструмента к автоматизированному рабочему инструменту; в будущем ключевыми станут творческие способности и способность к принятию решений человека.