---
Zusammenfassung der Kerninhalte in einfachem Deutsch
In den letzten zwei Jahren hat die gesamte Branche sich mit der Sicherheit von KI-Systemen beschäftigt – alle haben darüber diskutiert, welches Modell am zuverlässigsten ist: Open Source oder Closed Source, entwickelt von großen Unternehmen oder selbst angepasst. Es wurden unzählige Tests durchgeführt und Qualifikationen überprüft, bevor die Kernprozesse an solche Modelle übertragen wurden. Goldman Sachs hingegen übernimmt nun Konzepte aus der traditionellen Netzwerksicherheit wie „Zero Trust“ und „Tiefenverteidigung“ und schlägt einen gegenintuitiven Ansatz vor: Man sollte nicht davon ausgehen, dass ein Modell zu 100 Prozent zuverlässig ist. Selbst offene Quellenmodelle können in hochsensiblen Bereichen wie Banken sicher eingesetzt werden, sofern eine umfassende Schutzarchitektur vorhanden ist. Dieser Wandel bedeutet, dass der Fokus von der Auswahl zuverlässiger Modelle auf den Aufbau zuverlässiger Systeme verlagert wird. Unternehmen können dadurch die Nutzung von KI ungehindert vorantreiben und das Risiko vermeiden, an einzelne Modellhersteller gebunden zu sein. Damit wird KI endlich von einem „neuen Spielzeug“ zu einer ernsthaften Infrastruktur, die Kernprozesse unterstützen kann.
---
Erläuterung der Punkte
1. Die bisherige Herangehensweise an die KI-Sicherheit war im Grunde genommen „alle Berechtigungen nach einer einmaligen Überprüfung erteilen“
Beim Einsatz von KI durch Unternehmen ähnelte dies dem Prozess der Einstellung neuer Mitarbeiter: Zunächst wurden Hintergrundüberprüfungen, Prüfungen und Sicherheitstests durchgeführt sowie die Qualifikationen der Anbieter überprüft. Erst wenn alles in Ordnung war, erhielt das System die Berechtigung. Danach wurde die Vorsicht allmählich gelockert – zunächst wurden nur allgemeine Daten zugänglich gemacht, später auch Kernkundendaten, anschließend wurden Zahlungsfunktionen und Produktionskonfigurationen bereitgestellt, und schließlich wurden manuelle Überprüfungen entfernt. Dies entspricht dem Übergeben von wichtigen Berechtigungen an neu eingestellte Mitarbeiter.
Dieser Ansatz hat jedoch einen fatalen Fehler: KI-Modelle sind nicht statisch. Heute mag ein Modell sicher erscheinen, aber morgen könnte es bösartige Inhalte erhalten, übermorgen könnte die Modellversion aktualisiert werden, und überübermorgen könnte die zugrundeliegende Systemkonfiguration geändert werden – die Risiken ändern sich dadurch dramatisch. Eine einzelne Prüfung garantiert nur, dass das Modell zum Zeitpunkt der Prüfung in Ordnung war, nicht jedoch, dass es auch zukünftig stabil bleibt.
2. Das Herzstück von „Zero Trust“ in der KI-Sicherheit: Kein Modell wird voreingenommen als zuverlässig angesehen
„Zero Trust“ bedeutet, dass kein Modell ohne weitere Überprüfung verwendet wird. Selbst offene Quellenmodelle müssen vor dem Einsatz in kritischen Bereichen gründlich überprüft werden. Die Anforderungen sind dabei sehr einfach: Selbst wenn ein Modell teuer gekauft wurde und alle Sicherheitsprüfungen bestanden hat, muss jede einzelne Aktion – unabhängig davon, wie viel Geld überwiesen wird oder an wen – vor dem Einsatz erneut überprüft werden. Dies schützt Unternehmen vor unerwarteten Problemen.
3. Die Sicherheitsverantwortung wird vom Modell auf die umgebenden Systeme verlagert
Das Konzept der „Tiefenverteidigung“ von Goldman Sachs macht es Unternehmen unabhängiger von Modellherstellern. Modelle haben keine höchsten Berechtigungen mehr; sie dienen lediglich als Mittel zur Ausführung von Anfragen. Um Zugriff auf Kerndaten oder die Änderung von Konfigurationen zu erhalten, müssen diese Anfragen durch externe Systeme genehmigt werden. Dadurch können Unternehmen flexibler auf verschiedene Modelle umsteigen, ohne das gesamte Sicherheitssystem umstellen zu müssen.
4. Ein letzter fehlender Baustein: Ein unabhängiger „Schiedsrichter“
Um eine zuverlässige Sicherheit zu gewährleisten, benötigt man einen unabhängigen Kontrollmechanismus, der unabhängig von Modellen und Geschäftsprozessen entscheidet, ob eine Aktion zulässig ist. Dieser „Schiedsrichter“ überprüft jede einzelne Transaktion und kann auch dann eingreifen, wenn alle vorherigen Schritte in Ordnung waren.
---
Fazit
Goldman Sachs zeigt damit, dass KI-Sicherheit nicht länger nur ein experimentelles Thema ist, sondern zu einer entscheidenden Infrastruktur für die Geschäftsprozesse wird. Unternehmen können dadurch die Vorteile von KI voll ausschöpfen, ohne sich auf einzelne Modellhersteller zu verlassen. Dies markiert einen wichtigen Schritt auf dem Weg, bei dem KI endlich zu einer essentiellen Komponente der Geschäftswelt wird.