Резюме основного содержания новости
В этом отчете рассказывается о самом драматичном повороте в истории индустрии ИИ в этом году: полгода назад весь рынок считал, что ИИ полностью займет место традиционных компаний по обеспечению кибербезопасности, поскольку ИИ может автоматически находить ошибки в коде и следы вторжений хакеров с эффективностью, в десятки раз превышающей человеческую. В результате акции всех ведущих компаний в этой сфере резко упали. Однако ситуация полностью изменилась: теперь сам ИИ стал наибольшим источником угроз безопасности. Например, основной руководствующий по работе с моделями Anthropic был раскрыт за несколько часов, а различные крупные модели могут быть взломаны злонамеренными командами и использованы для совершения вредоносных действий. ИИ превратился в самого большого заказчика для компаний по кибербезопасности.
Недавние финансовые отчеты ведущих американских компаний по кибербезопасности показывают рекордные результаты: темпы роста доходов достигли десятилетнего максимума. В то время как отечественные производители кибербезопасности также получили множество заказов на использование ИИ, они все еще ограничены старыми моделями закупок на основе проектов, поэтому пока не могут воспользоваться этими возможностями. Фундаментальные принципы работы рынка кардинально изменились: раньше кибербезопасность заключалась в предотвращении вторжений хакеров и обнаружении уязвимостей в программном обеспечении, теперь же она связана с контролем за неопределенностью поведения ИИ. Перед нами открывается совершенно новый рынок стоимостью в сотни миллиардов долларов.
---
Подробный анализ
1. Драматический поворот событий: от „ИИ уничтожит кибербезопасность“ до „ИИ становится главным заказчиком для кибербезопасности“
В феврале этого года, когда компания Anthropic выпустила ИИ-систему для автоматического обнаружения ошибок в коде, акции таких ведущих американских компаний, как CrowdStrike и Palo Alto, резко упали более чем на 10%. Инвесторы считали, что если ИИ сможет за несколько минут выполнить работу, которую раньше выполняли десятки инженеров по кибербезопасности, то традиционные программные решения станут ненужными, и компании потеряют свои источники дохода. Однако через семь месяцев стало ясно, что чем сильнее ИИ способен находить уязвимости, тем больше угрозы он представляет для самих систем кибербезопасности. Современные крупные модели ИИ могут быть взломаны и использованы для совершения вредоносных действий, а их основные правила работы могут быть раскрыты за несколько часов. Это привело к тому, что ИИ стал главным заказчиком для компаний по кибербезопасности.
2. Три новых типа заказов, созданных ИИ для кибербезопасности
Финансовые отчеты компаний, таких как Palo Alto, показывают, что новые потребности, вызванные ИИ, значительны: они расширили рынок кибербезопасности. Существуют три основных типа новых заказов:
- Предотвращение угроз, связанных с самим функционированием ИИ: для защиты ИИ-центров требуются дорогие решения (например, файерволы стоимостью в миллионы долларов).
- Защита от взломов ИИ-агентов: ИИ-агенты могут самостоятельно подключаться к сети, использовать различные инструменты и получать доступ к внутренним системам компаний, что приводит к увеличению потребности в специальных средствах безопасности.
- Средства для контроля за ИИ: необходимы инструменты для предотвращения взломов и неправомерного использования данных ИИ.
3. Кардинальные изменения в подходах к кибербезопасности
ИИ не просто добавляет новые заказы, он переворачивает основные принципы работы рынка кибербезопасности. Раньше все программные решения были специально разработаны для предотвращения определенных угроз, теперь же необходимо контролировать неопределенное поведение ИИ. Это приводит к созданию совершенно новых рынков.
4. Почему результаты работы отечественных и американских компаний по кибербезопасности так различаются?
Разница в результатах работы отечественных и американских компаний не связана с технологиями, а с бизнес-моделями. Американские компании уже давно перешли на модель подписок на услуги ИИ, в то время как отечественные все еще используют старые методы закупок на основе проектов. Кроме того, отечественные компании часто сталкиваются с трудностями при внедрении новых технологий из-за бюджетных ограничений и сложностей в процессах закупок.
5. Новая проблема для всех компаний: можете ли вы доверить ключи от своих систем ИИ, который может внезапно „сойти с ума“?
Инцидент с утечкой информации о работе модели Anthropic показывает, что невозможно полностью защитить ИИ от возможных угроз. Даже самые передовые технологии не защищены от взломов и злоупотреблений. Это ставит перед всеми компаниями важный вопрос: как контролировать ИИ и предотвращать возможные угрозы, связанные с его использованием.