Краткое содержание анализа
В последнее время ведущие производители ИИ, такие как Anthropic, OpenAI и Google, активно выпускают или анонсируют новые модели, что свидетельствует о возобновлении интенсивной конкуренции в области передовых ИИ-технологий после непродолжительного затишья. В отличие от прошлых соревнований, где главным критерием были показатели производительности, на этот раз ключевым аспектом стала безопасность. Производители не только совершенствуют функциональные возможности моделей (программирование, обработка знаний, анализ сетевой безопасности), но и уделяют больше внимания мерам безопасности: они приостанавливают тренировки с высоким риском, откладывают выход новых моделей для доработки защитных механизмов и совместно принимают меры по предотвращению сетевых атак, связанных с использованием ИИ. Синхронное развитие производительности и безопасности становится основной задачей следующего этапа конкуренции в области ИИ-технологий.
I. Коллективные действия ведущих производителей: возобновление соревнований
В последнее время в сообществе ИИ наблюдается активность со стороны ведущих компаний:
- Anthropic выпустил модели Claude Fable 5.1 и Mythos 5.1, заявив, что это самые передовые модели для программирования и обработки знаний;
- OpenAI анонсировал новую модель Astra, но предоставил возможность тестирования её самых сильных функций по обеспечению сетевой безопасности лишь ограниченному кругу пользователей;
- Google также активно работает над улучшением своих моделей, стремясь сократить отставание от конкурентов.
Такое совпадение действий свидетельствует о возобновлении интенсивной конкуренции. Однако на этот раз речь идет не только о сравнении производительности моделей, но и о безопасности.
II. Новая модель Anthropic: улучшенная производительность, но повышенные затраты на выполнение задач
Модель Fable 5.1 действительно превосходит предыдущие версии: по результатам сторонних тестов она показала лучшие показатели по таким критериям, как интеллектуальный индекс, тесты на программирование и знания в финансовой сфере. Однако с точки зрения цен ситуация неоднозначна:
- Хорошая новость заключается в снижении стоимости использования кэша на 75% (кэш позволяет модели использовать ранее обработанные данные, экономя время и ресурсы);
- Плохая новость — увеличение затрат на выполнение одной задачи на 20%. Причина в том, что модель способна генерировать более длинные результаты (количество выдаваемых данных в 1,7 раза больше, чем у предыдущих версий), что компенсирует экономию от использования кэша.
Для корпоративных пользователей важно, насколько часто модель может использовать кэш, поскольку это влияет на фактические затраты.
III. OpenAI придает безопасности первостепенное значение: модель Astra тестируется в ограниченном кругу
Модель Astra от OpenAI представляет собой уникальный пример: она первая из созданных компанией моделей, достигшая установленных критериев по обеспечению сетевой безопасности. Она самостоятельно обнаруживает уязвимости в системах и может разрабатывать способы их использования без вмешательства человека. Из-за высокой уровня безопасности OpenAI решил не спешить с её выпуском: тренировки модели продолжаются, но выход откладывается для усиления защитных мер. Компания также учла уроки прошлых инцидентов с безопасностью и внесла ряд дополнительных изменений в алгоритмы модели (отказ модели от вредоносных запросов, усиленный мониторинг). Ответственный за модель Олтман подчеркнул, что синхронное развитие производительности и безопасности сейчас важнее, чем когда-либо.
IV. Вся индустрия сосредотачивается на устранении недостатков в области безопасности
Не только OpenAI, но и вся индустрия ИИ уделяет большое внимание вопросам безопасности:
- Anthropic анализирует недавние инциденты с безопасностью и сотрудничает с третьими организациями для независимой проверки; приостановил тренировки моделей с использованием методов усиленного обучения, связанных с риском;
- Коалиция компаний: OpenAI вместе с Anthropic, Google, Microsoft и другими организациями выпустили обращение с предупреждением о том, что сетевые атаки, совершаемые ИИ, становятся все более распространенными и сложными; призывают всех усилить меры защиты, особенно для критически важных инфраструктур (больницы, электросети, водоочистные заводы).
Эти действия являются реакцией на недавние инциденты с безопасностью; производители начинают применять более строгие меры предосторожности в разработке ИИ-технологий.
V. Синхронное развитие производительности и безопасности: ключ к конкуренции на следующем этапе
Раньше в соревнованиях ИИ главным критерием были показатели производительности; теперь же важны и безопасность, и производительность.
С одной стороны, производители совершенствуют функциональные возможности моделей (Anthropic — программирование, OpenAI — обеспечение сетевой безопасности); с другой стороны, уделяют больше внимания мерам безопасности (приостановка тренировок с высоким риском, улучшение защитных механизмов). Олтман признал, что ранее компания упустила возможности в области программирования, но отставание не является катастрофой — компания может наверстать упущенное с помощью более совершенных моделей, при условии, что безопасность будет на должном уровне.
В общем, конкуренция в области ИИ-технологий в будущем будет основываться не только на производительности, но и на сбалансированном сочетании производительных возможностей и уровня безопасности.