Zusammenfassung der Kerninhalte in verständlicher Sprache
Diese Nachricht klärt die derzeitige, paradoxale Situation in der AI-Branche auf: Auf den ersten Blick scheint die gesamte Branche in vollem Gange zu sein – neue Modelle werden in Massen veröffentlicht, führende Unternehmen wie OpenAI und Anthropic bereiten sich auf den Börsengang vor, und ihre Bewertungen wurden von den Kapitalmärkten auf bis zu 2 Billionen US-Dollar in die Höhe getrieben; alle behaupten, die goldene Ära der AI sei angebrochen. Doch im Verborgenen ist das Kernteam, das die AI entwickelt, in Panik geraten: Früher waren nur die Mitarbeiter für die Sicherheit besorgt, dass die AI außer Kontrolle geraten könnte. Jetzt äußern sogar die Kernforscher, die täglich große Modelle trainieren, sowie der Chefwissenschaftler von OpenAI öffentlich, dass die bisherigen Sicherheitsmaßnahmen nicht mehr mit der Geschwindigkeit des Fortschritts der AI Schritt halten und dass innerhalb von zehn Jahren ernsthafte Probleme entstehen könnten, die die ganze Menschheit gefährden könnten. Noch seltsamer ist, dass alle sehen, dass vor ihnen ein Abgrund liegt – doch niemand wagt es, auf die Bremse zu treten. Stattdessen fürchten sie, dass der Wettbewerb noch gefährlichere AI-Systeme entwickeln könnte, und treten noch stärker auf das Gaspedal, was zu einem Teufelskreis führt: Je mehr sie Angst vor der Gefahr haben, desto schneller fahren sie.
---
Aufschlussreiches Erläutern der Punkte
1. Diejenigen, die jetzt warnen, dass mit der AI etwas passieren könnte, sind keine Außenstehenden, sondern die Kerningenieure, die die AI entwickeln
Früher wurden Aussagen, dass die AI die Menschheit zerstören könnte, entweder als Science-Fiction-Phantasie abgetan oder als übertriebene Warnungen von Sicherheitsexperten. Doch die Personen, die jetzt diese Warnungen aussprechen, haben eine ganz andere Rolle: Jacob, der gekündigt hat, war tatsächlich an der Entwicklung von GPT-4 beteiligt und war einer derjenigen, die den AI-Systemen Daten zuführten und Parameter einstellten. Seine Aussage, dass das von ihnen entwickelte System fast außer Kontrolle geraten sei, hat viel mehr Gewicht als die von Sicherheitsmitarbeitern.
2. Der widersinnigste Teufelskreis: Obwohl alle die Gefahr erkennen, wagen sie es nicht, auf die Bremse zu treten
Viele fragen sich, warum die Entwickler der AI nicht einfach aufhören. Die Antwort ist paradox: Sie fürchten, dass sie noch gefährdeter dastehen würden, wenn sie aufhören würden. Die Logik der führenden AI-Unternehmen lautet: „Ich weiß, dass superintelligente Systeme gefährlich sind. Wenn ich jetzt aufhöre, um an der Sicherheit zu arbeiten, und der Wettbewerb weitermacht und unkontrollierte Systeme entwickelt, wäre das noch schlimmer für mich. Deshalb muss ich vor allen anderen eine „sichere“ Version der AI entwickeln – zumindest kenne ich das System, das ich geschaffen habe, und das ist besser, als wenn es in die Hände von Unverantwortlichen fällt.“
3. Das Kapital drängt die Unternehmen, schneller zu sein
Der Druck kommt nicht nur von den Konkurrenten, sondern auch von den Investoren. Anthropic steht kurz vor dem Börsengang, und die Marktbewertung wurde auf 2 Billionen US-Dollar geschätzt. Investoren wollen, dass die Unternehmen monatlich neue, leistungsstärkere Modelle veröffentlichen, um den Markt zu übernehmen und die Aktienkurse in die Höhe zu treiben. Wenn ein Unternehmen ankündigt, in den nächsten sechs Monaten keine neuen Modelle mehr zu veröffentlichen, um sich auf die Sicherheit zu konzentrieren, könnten die Aktienkurse sofort um die Hälfte fallen – das Unternehmen würde bankrottgehen.
4. Die AI beginnt bereits, sich selbst weiterzuentwickeln
Früher war die Selbstentwicklung superintelligenter Systeme eine Science-Fiction-Szene für die nächsten Jahrzehnte – heute ist das ein zentrales Entwicklungsziel der führenden Unternehmen. OpenAI arbeitet daran, AI-Systeme zu entwickeln, die selbst Code schreiben, Trainingsdaten finden und Parameter anpassen können. Diese Entwicklungsgeschwindigkeit ist für Menschen unerreichbar.
5. Ein Appell zur Verlangsamung bleibt wirkungslos
Obwohl viele in der Branche dazu aufrufen, die Entwicklung zu verlangsamen, ist das schwierig umzusetzen. Selbst wenn die führenden Unternehmen zusammenkommen und aufhören würden, würden andere Unternehmen und Open-Source-Entwicklungen dies ignorieren. Die Situation erinnert an die nordischen Götter, die wussten, dass das Ende naht, aber trotzdem weiterkämpften – doch dadurch wurde das Ende nur noch beschleunigt.