Анализ китайских новостей
I. Простое изложение основного смысла
За последние два года во всей индустрии активно разрабатывались меры безопасности для использования технологий искусственного интеллекта (ИИ). Все спорили о том, какой именно алгоритм выбрать, чтобы быть уверенными в его надежности: использовать закрытый или открытый исходный код, алгоритмы от крупных компаний или собственные модификации. После множества тестов и проверок квалификации разработчиков алгоритмов только тогда решались передавать их для использования в критически важных бизнес-процессах. Однако Голдман Сакс решил применить в области ИИ уже проверенные методы традиционной информационной безопасности, такие как принципы «нулевого доверия» и «глубокой защиты», предложив противоречащее общепринятому мнению подход: не предполагать, что любой алгоритм 100% надежен. Даже если алгоритм является открытым исходным кодом, его можно смело использовать в крайне чувствительных сценариях, таких как банковские операции, при условии наличия многоуровневой защитной инфраструктуры. Это изменение означает смещение акцента с выбора надежных алгоритмов на создание надежных систем, что позволяет компаниям более свободно использовать ИИ и избежать зависимости от определенных поставщиков алгоритмов. Это также свидетельствует о том, что ИИ наконец-то переходит от статуса экспериментального инструмента к важному элементу инфраструктуры, необходимому для выполнения ключевых бизнес-задач.
II. Популярное объяснение по пунктам
1. Прежний подход к безопасности ИИ основывался на однократной проверке
Ранее компании подходили к использованию ИИ подобно найму сотрудников: сначала проводили проверку биографических данных, письменные тесты, тестировали на безопасность и проверяли квалификацию поставщиков, и только после этого предоставляли разрешение на использование ИИ. Затем они постепенно увеличивали уровень доступа ИИ: сначала он мог работать с обычными данными, затем с информацией о ключевых клиентах, после чего ему разрешалось использовать платежные интерфейсы и изменять производственные настройки. В конце концов процесс ручного контроля полностью исключался, что было равносильно передаче полномочий новому сотруднику без проверки его квалификации. Однако этот подход имеет серьезный недостаток: алгоритмы не являются статичными. Сегодня они могут считаться безопасными, но завтра кто-то может внести в них вредоносный код, послезавтра их версия может быть обновлена, и их поведение может измениться, что приведет к рискам. Одна проверка может гарантировать безопасность только в момент тестирования, но не гарантирует, что алгоритм всегда будет работать корректно в будущем.
2. Суть подхода «нулевого доверия» в контексте ИИ
Подход «нулевого доверия» предполагает отказ от предположений о полной надежности любого алгоритма. Даже если алгоритм является открытым исходным кодом, его использование в критически важных сценариях возможно только при наличии надежной защитной инфраструктуры. Это позволяет компаниям более свободно использовать ИИ и избежать зависимости от поставщиков алгоритмов. Важно проверять каждую операцию ИИ перед ее выполнением: сколько средств будет переведено, кому, соответствует ли она текущим бизнес-процессам и т. д. Такой подход гарантирует, что даже если алгоритм был приобретен за большие деньги и прошел все проверки на безопасность, его использование в критических сценариях не приведет к ошибкам.
3. Перенос принципов традиционной безопасности на ИИ
Голдман Сакс применил в области ИИ методы традиционной информационной безопасности, такие как «нулевое доверие» и «глубокая защита». Эти методы позволяют компаниям избежать зависимости от поставщиков алгоритмов и обеспечивают более надежную защиту. Алгоритмы больше не обладают высшими правами доступа; они являются лишь инструментами, которые должны использоваться в соответствии с установленными правилами. Это позволяет компаниям более свободно использовать ИИ и уменьшает риски, связанные с его использованием.
4. Смена подхода к безопасности ИИ
Ранее компании ограничивали использование ИИ из-за опасений по поводу его надежности. Теперь, с применением новых подходов, они могут более свободно использовать ИИ, не рискуя потерять контроль над своими бизнес-процессами. Это означает, что ИИ наконец-то становится важной частью инфраструктуры, необходимой для выполнения ключевых бизнес-задач, а не просто экспериментальным инструментом.
5. Необходимость независимого контроля
Существует еще одна проблема, которую необходимо решить: многие ИИ-системы работают в рамках установленных правил, но иногда могут допустить ошибки, приводящие к серьезным последствиям. Поэтому в будущих системах ИИ должен быть встроен независимый механизм контроля, который будет проверять каждую операцию независимо от того, кто ее выполняет и какие у него есть права. Этот механизм будет гарантировать, что даже если алгоритм прошел все проверки на безопасность, его использование в критически важных сценариях будет безопасным.
6. Значение изменений в подходах к безопасности ИИ
Изменения в подходах к безопасности ИИ означают, что технология ИИ наконец-то становится важной частью инфраструктуры, необходимой для выполнения ключевых бизнес-задач. Это позволяет компаниям более свободно использовать ИИ и уменьшает риски, связанные с его использованием. Это также свидетельствует о том, что ИИ переходит от статуса экспериментального инструмента к важному элементу инфраструктуры, необходимому для выполнения ключевых бизнес-задач.