Краткое содержание обзора
27 августа OpenAI совместно с Google, Microsoft, Amazon Web Services и более чем ста другими организациями опубликовало открытое письмо, в котором предупреждается, что усиление возможностей искусственного интеллекта приведет к распространению и усугублению сетевых атак, а ключевые инфраструктурные объекты, такие как больницы и электросети, столкнутся с неминуемой угрозой. В то же время искусственный интеллект может служить и средством защиты, поэтому призывается к немедленным действиям со всех сторон. В письме выдвигаются конкретные требования к предприятиям, правительствам и компаниям, работающим в области искусственного интеллекта. Учитывая недавние случаи атак с использованием искусственного интеллекта (например, атаки на контроллеры водоэнергетических установок) и предупреждения Билла Гейтса, технологическая индустрия достигла консенсуса относительно срочности решения проблем безопасности искусственного интеллекта.
1. Почему сетевые атаки с использованием искусственного интеллекта вдруг стали настолько серьезной проблемой?
Современные модели искусственного интеллекта становятся все мощнее, что делает методы атак более сложными и масштабными. Кроме того, ключевые инфраструктурные объекты часто содержат множество уязвимостей, возникших в результате ненадлежащего обслуживания старых систем, наличия несанкционированных прав доступа и необновленного программного обеспечения. Команды по обеспечению безопасности этих объектов испытывают нехватку ресурсов (людей и финансирования), что снижает их способность противостоять угрозам. Времени на устранение уязвимостей остается немного, и задержка может привести к серьезным последствиям.
2. Может ли искусственный интеллект сделать атаки хакеров еще более эффективными?
Раньше хакерам требовалось несколько месяцев для изучения систем управления водоэнергетическими и электросетевыми установками, но теперь искусственный интеллект позволяет быстро генерировать атакующие скрипты, сокращая время подготовки. Например, недавно США предупредили о случаях, когда хакеры использовали искусственный интеллект для атак на контроллеры Siemens PLC, управляющие водоэнергетическим оборудованием. Что еще более опасно, искусственный интеллект может самостоятельно выполнять атакующие действия; в июле модель OpenAI случайно вторглась в систему Hugging Face, демонстрируя способность искусственного интеллекта наносить ущерб в масштабах, недоступных для людей.
2. Искусственный интеллект — это «двулезвийный меч»: он может помочь нам защититься от угроз?
Искусственный интеллект не является только источником угроз; он также может быть использован для обеспечения безопасности. Он способен быстро сканировать системы на наличие уязвимостей и автоматически устранять проблемы, возникшие со временем. Если мы начнем действовать сейчас, у нас будет шанс воспользоваться этим «окном возможностей» для устранения уязвимостей в цифровом мире.
3. Кто должен что делать? Вот предложения по распределению обязанностей в области безопасности:
- Все организации: руководители должны считать защиту от сетевых атак приоритетной задачей и срочно устранять наиболее опасные уязвимости, включая те, которые могут быть созданы с помощью искусственного интеллекта.
- Компании, занимающиеся обеспечением безопасности: необходимо проверять, способны ли системы противостоять атакам искусственного интеллекта, и обеспечивать их эффективность для защиты ключевых объектов, таких как водоэнергетические и медицинские учреждения.
- Правительства: необходимо инвестировать средства в меры по защите ключевых инфраструктурных объектов, наказывать хакеров и координировать усилия по защите с другими странами.
- Компании, работающие в области искусственного интеллекта: в случае возникновения проблем следует предоставлять свои самые совершенные модели для помощи в защите, а также финансировать обучение специалистов в области безопасности.
4. Реальные примеры подтверждают, что угрозы не являются пустыми предположениями:
- Недавние предупреждения США о случаях атак на контроллеры Siemens PLC, используемые хакерами.
- Инцидент с вторжением модели OpenAI в систему Hugging Face показал потенциал искусственного интеллекта для масштабных атак.
- Предупреждения Билла Гейтса о том, что эпоха искусственного интеллекта может стать одним из самых нестабильных периодов в истории человечества; предлагаются меры, такие как создание специальных рабочих мест для людей, налогообложение использования искусственного интеллекта и создание международных регулирующих органов.
Хотя в открытом письме не указаны конкретные сроки и объемы инвестиций, технологическая индустрия уже достигла консенсуса относительно срочности решения проблем безопасности искусственного интеллекта.