---
Résumé en français simple
Au cours des deux dernières années, l'ensemble de l'industrie s'est concentré sur la sécurité de l'intelligence artificielle, se demandant constamment : « Lequel modèle choisir pour être sûr ? » Devrait-on privilégier des modèles fermés ou ouverts, ceux développés par de grandes entreprises ou ceux modifiés soi-même ? Les entreprises effectuaient d'innombrables tests et vérifications de qualifications avant de confier leurs activités essentielles à ces modèles. Cependant, cette fois, Goldman Sachs a appliqué directement les principes de sécurité réseau traditionnels tels que le « zéro confiance » et la « défense en profondeur » au domaine de l'IA, proposant une approche contraire à l'intuition : il ne faut pas présumer que aucun modèle est à 100 % fiable. Même un modèle open-source de source inconnue peut être utilisé sans crainte dans des environnements très sensibles comme les banques, à condition que des couches de protection indépendantes soient mises en place. Ce changement marque un déplacement du focus de la sélection de modèles fiables vers la construction de systèmes fiables, permettant aux entreprises d'utiliser l'IA plus librement tout en évitant de dépendre d'un seul fournisseur de modèles, ce qui signifie que l'IA est en train de devenir une infrastructure essentielle capable de soutenir les activités commerciales.
---
Interprétation détaillée
1. L'approche traditionnelle de la sécurité de l'IA reposait sur une vérification unique avant d'accorder tous les droits
Auparavant, l'utilisation de l'IA par les entreprises ressemblait beaucoup à l'embauche de nouveaux employés : on vérifiait leurs antécédents, leurs compétences, leur sécurité, et les qualifications des fournisseurs avant de leur donner l'accès. Ensuite, on relâchait progressivement la vigilance et on leur accordait des droits : d'abord l'accès à des données ordinaires, puis à des informations sur les clients clés, puis l'autorisation d'utiliser des interfaces de paiement ou de modifier des configurations de production, jusqu'à éliminer tout contrôle manuel. Cependant, cette approche présente un problème majeur : les modèles ne sont pas statiques. Un modèle peut sembler sûr aujourd'hui, mais demain, quelqu'un pourrait y introduire du contenu malveillant, ou le modèle pourrait être mis à jour sans préavis, modifiant ainsi les fonctionnalités du système. Un test ne garantit que la sécurité de la version du modèle au moment du test, pas sa stabilité à long terme.
2. Le principe du zéro confiance en IA
Le zéro confiance n'est pas une approche défensive contre l'IA en soi, mais une règle éprouvée issue de la sécurité réseau traditionnelle. Auparavant, on considérait que toutes les personnes ayant accès au réseau interne de l'entreprise étaient fiables, mais après des incidents de piratage, on a commencé à vérifier à nouveau leur identité à chaque utilisation des systèmes critiques. Cela est encore plus nécessaire dans le contexte de l'IA, car les modèles peuvent continuer à fonctionner normalement même après avoir été infectés ou manipulés. L'objectif est de s'assurer que chaque action menée par un modèle, même si elle provient d'un modèle open-source, soit raisonnable et sécurisée.
3. La délégation des responsabilités de sécurité
L'architecture de défense en profondeur proposée par Goldman Sachs évite que les entreprises ne soient liées à un seul fournisseur de modèles. Les modèles n'ont plus de droits d'accès illimités ; ils doivent obtenir l'approbation des systèmes internes de l'entreprise avant de pouvoir accéder aux données ou modifier des configurations. Ainsi, même si un modèle est coûteux ou a passé toutes les vérifications de sécurité, chaque action doit être vérifiée individuellement pour garantir sa légitimité et sa sécurité.
4. La nécessité d'un tiers impartial
Un dernier élément crucial est l'existence d'un organe de contrôle indépendant qui ne prend en compte ni les intérêts des fournisseurs ni ceux des entreprises. Ce tiers doit vérifier si chaque action menée par un modèle est appropriée, quel que soit le fournisseur ou le contexte. Cela permet de prévenir des erreurs ou des actions malveillantes, même si les autres contrôles ont été réussis.
5. L'importance de la fiabilité du système
L'utilisation de l'IA ne doit pas signifier la perte de contrôle par les entreprises. Les entreprises peuvent choisir différents modèles en fonction de leurs besoins, sans avoir à réadapter l'ensemble du système de sécurité à chaque changement. Cela rend l'IA une infrastructure essentielle, capable de soutenir les activités commerciales sans risque majeur.
---
Cette traduction respecte les exigences spécifiées, en conservant la structure originale du texte chinois et en utilisant un langage français naturel et adapté au contexte financier.