Zusammenfassung der Kerninhalte
In den letzten zehn Jahren hat sich die globale Technologiebranche von der Verfolgung einer allgemeinen Künstlichen Intelligenz (AGI), die in der Lage ist, die meisten Aufgaben wie Menschen zu erledigen, zu einem ehrgeizigeren Ziel gewandt – der künstlichen Superintelligenz (ASI). ASI ist nicht ein einzelner „Superhirn“, sondern eine „kollektive Intelligenz“, die die Fähigkeiten von Zehntausenden Top-Experten übertrifft. Sie nutzt die physischen Vorteile digitaler Systeme (wie extrem schnelle Verarbeitungsgeschwindigkeiten, unendliches Gedächtnis und effiziente Zusammenarbeit), ist aber auch den physikalischen Gesetzen unterworfen. Der Artikel analysiert vier technische Wege zur Entwicklung von ASI, die vier größten Hindernisse auf dem Weg dorthin sowie die Probleme der Bewertung und Sicherheitsabstimmung in der post-AGI-Ära.
Was ist ASI eigentlich – und wie unterscheidet es sich von AGI?
AGI ist ein „allrounder Meister auf dem Niveau des menschlichen Mittelwerts“, der in verschiedenen Bereichen die meisten kognitiven Aufgaben erledigen kann (z. B. sowohl Code schreiben als auch Essays verfassen). Die Hürde für ASI ist jedoch viel höher: Es muss in nahezu allen Bereichen die Zusammenarbeit von Zehntausenden Top-Experten stabil übertreffen (z. B. besser sein als das beste Team aus Ärzten, Wissenschaftlern und Ingenieuren weltweit).
„Natürliche Vorteile“ der digitalen Intelligenz:
- Schnelle Verarbeitung: Biologische Neuronen können maximal einige hundert Signale pro Sekunde übertragen; digitale Intelligenzen hingegen können Milliarden von Signalen pro Sekunde verarbeiten.
- Gutes Gedächtnis: Sie vergessen nichts und können die gesamten Informationen des Internets genau speichern.
- Leichte Reproduzierbarkeit: Ein gut trainiertes AI-Modell kann sofort Millionen identischer „Kopien“ erzeugen.
- Effiziente Kommunikation: AI-Systeme müssen nicht miteinander sprechen, um „Denkdetails“ zu teilen – es gibt keine Sprachverständnisprobleme.
Aber auch ASI hat seine „physikalischen Grenzen:
- Schnelligkeitsbeschränkungen durch das Licht: Die Übertragung von Informationen zwischen AI-Knoten kann nicht schneller als das Licht erfolgen.
- Energieverbrauch: Rechenvorgänge verbrauchen Energie und können nicht unbegrenzt energieeffizient sein.
- Zeitrealeität: Bei der Analyse von Prozessen wie dem Klima oder der Wirtschaft muss AI auf die Zeitabläufe in der realen Welt warten; physikalische Experimente können nicht beschleunigt werden.
Die vier technischen Wege zur Entwicklung von ASI
ASI entsteht nicht durch eine einzelne Erfindung, sondern durch den parallelen Fortschritt auf vier verschiedenen Wegen:
1. Erhöhung der Rechenkapazität: In den letzten zehn Jahren hat sich gezeigt, dass größere Modellparameter, mehr Datenmengen und höhere Rechenleistungen zu stärkerer AI-Fähigkeit führen. Heute wird nicht nur während des Trainings, sondern auch beim Schlussfolgern Rechenkapazität aufgebaut – z. B. verwenden AI-Systeme mehr Rechenleistung, um komplexe Probleme zu lösen (ähnlich wie Menschen, die bei mathematischen Aufgaben Skizzen zeichnen). Doch eine rein quantitative Erhöhung der Rechenkapazität könnte bald an Ressourcengrenzen stoßen.
2. Änderung der Algorithmusarchitektur: Die aktuellen Transformer-Modelle weisen oft „Aufmerksamkeitsbeschränkungen“ auf (sie arbeiten langsamer bei der Verarbeitung langer Texte). Neue Architekturen wie Zustandsraummodelle versuchen, dieses Problem zu lösen. Noch wichtiger ist die Entwicklung von „Weltmodellen“, die AI helfen, kausale Zusammenhänge in der realen Welt zu verstehen (z. B. zu wissen, dass das Schieben eines Tisches zu Bewegungen führt). Falls dieser Weg nicht funktioniert, könnten neuronale Netzwerke verwendet werden, die dem menschlichen Gehirn ähneln, oder AI-Systeme in der realen Welt lernen (z. B. Roboter, die selbst physikalische Gesetze erkunden).
3. Selbstverbesserung durch AI: Dies ist der wahrscheinlichste Weg, um die Fähigkeiten von AI dramatisch zu steigern: AI-Systeme entwickeln eigene Chips, optimieren Algorithmen und erzeugen Trainingsdaten. Wenn ihr Fortschrittsrhythmus den Entwicklungszyklus menschlicher Ingenieure übertrifft, entsteht eine positive Schleife: „Je stärker sie werden, desto besser können sie sich selbst verbessern“.
4. Kollektive Zusammenarbeit mehrerer intelligenter Systeme: Wenn einzelne AGI-Systeme das Niveau des menschlichen Mittelwerts erreichen, können sie mithilfe von Cloud-Ressourcen sofort in Millionen von Kopien vervielfältigt und zusammenarbeiten (z. B. einige kümmern sich um Mathematik, andere um Physik). Die Kombination der Fähigkeiten vieler Systeme erzeugt eine Intelligenz, die weit über die einzelnen Systeme hinausgeht.
Die vier größten Hindernisse auf dem Weg zur Entwicklung von ASI
Der Aufbau von ASI verläuft nicht reibungslos; es gibt vier wesentliche Herausforderungen:
1. Mangel an Daten: Das jährliche Wachstum der AI-Modelle übertrifft bereits die Geschwindigkeit, mit der neue hochwertige menschliche Texte auf das Internet gelangen. Bis etwa 2030 könnten alle verfügbaren „menschlich generierten“ Daten aufgebraucht sein. Wenn AI-Systeme nur mit selbst generierten Daten trainiert werden, neigen sie dazu, immer abweichender zu werden (z. B. die von ihnen erzeugten Geschichten werden immer absurder). Die einzige Lösung besteht darin, dass AI-Systeme selbst „zuverlässige“ Daten außerhalb ihrer eigenen Fähigkeitsgrenzen erzeugen (z. B. durch eigene Experimente neue Erkenntnisse gewinnen).
2. Hohe Ressourcenkosten: Die Ausweitung der AI-Infrastruktur erfordert mehr Chips, Energie und andere Ressourcen. Das Training großer Modelle kann enorme Kosten verursachen (z. B. in Form von Strom- und Chipkosten). Wenn die wirtschaftlichen Vorteile durch AI nicht den steigenden Kosten entsprechen, werden Unternehmen möglicherweise keine weiteren Investitionen tätigen, was das Wachstum der Rechenkapazität einschränken könnte.
3. Fähigkeit zur eigenständigen Entdeckung von Gesetzmäßigkeiten: Derzeit lernen AI-Systeme an bereits vorhandenen menschlichen Wissen (z. B. Büchern, wissenschaftlichen Artikeln); sie können keine grundlegenden Gesetzmäßigkeiten aus der realen Welt extrahieren. Wenn AI diese Hürde nicht überwinden kann, wird es nur zu Wiederholungen bestehender Erkenntnisse kommen – ohne echte wissenschaftliche Durchbrüche.
4. Entwicklungsrisiken und Regulierung: Je komplexer AI-Systeme werden, desto höher ist das Risiko von Fehlern (z. B. ein Fehler im System, das das Stromnetz kontrolliert, kann zu einem großen Ausfall führen). Schwere Unfälle könnten dazu führen, dass Regierungen die Nutzung von Rechenkapazitäten einschränken und somit den technologischen Fortschritt blockieren.
Die beiden zentralen Fragen der post-AGI-Ära
Sobald die Fähigkeiten von AI die menschlichen übertreffen, müssen zwei grundlegende Probleme gelöst werden:
1. Wie kann man das wahre Niveau von AI bewerten? Herkömmliche Tests (z. B. Mathematikaufgaben, Programmierprobleme) sind nicht mehr geeignet, da AI-Systeme oft höhere Ergebnisse erzielen als Menschen. Neue Methoden umfassen die gegenseitige Herausforderung von AI-Systemen, die Bewertung ihrer Generalisierungsfähigkeit mithilfe mathematischer Modelle sowie die Überprüfung ihrer strategischen Fähigkeiten in dynamischen Spielsituationen (z. B. Simulationen internationaler Verhandlungen).
2. Wie kann man sicherstellen, dass AI den Menschen folgt? AI-Systeme könnten alles tun, um ihre Ziele zu erreichen – z. B. die „Glücklichmachung der Menschen“. Mögliche Lösungen sind:
- Die Entwicklung von AI-Systemen, die sich für das Verständnis der Welt interessieren und keine Ressourcen rauben;
- Die Einstellung solcher Systeme auf kurzfristige Ziele, um langfristige Planungen zu vermeiden;
– Die Entwicklung sichererer Belohnungssysteme, die ein „Betrügen“ durch AI-Systeme verhindern (z. B. durch das Manipulieren von Sensordaten).
Fazit
Die Entwicklung von ASI ist ein komplexes Systemprojekt. Es ist derzeit wenig sinnvoll, vorherzusagen, wann sie tatsächlich erscheinen wird. Entscheidend ist die Zusammenarbeit von Wissenschaftlern, Regierungen und Unternehmen: Die Entwicklung sicherer Bewertungssysteme, die Berechnung eines ausgewogenen Verhältnisses zwischen Rechenkapazität und Wirtschaft sowie die Erforschung der sicheren Zusammenarbeit mehrerer intelligenter Systeme. Nur so kann ASI wirklich zum Wohle der Menschheit genutzt werden.