Vor 30 Jahren sagte er: „Es ist außer Kontrolle.“ Und heute ist dieser Tag endlich gekommen.

Zusammenfassung der Kerninhalte

Dieser Artikel befasst sich mit den Prophezeiungen in Kevin Kellys Buch „Out of Control“ und vergleicht Kellys optimistische Erwartungen hinsichtlich einer „Ausgelassenheit“ vor 30 Jahren mit der heutigen Angst vor Kontrollverlust im Zeitalter der KI. Kelly argumentierte, dass das Aufgeben zentraler Steuerungsmethoden der mechanischen Ära und die Entwicklung von Systemen, die sich wie Bienenkolonien oder Ökosysteme von unten nach oben entwickeln, die Freiheit der Individuen sowie eine verteilte Intelligenz freisetzen würde. Heute jedoch führt die KI zusammen mit Algorithmen nicht nur zu einem Kontrollverlust bei den Systemen, sondern auch dazu, dass Menschen von Nutzern dieser Systeme zu „Feedbackpunkten“ werden – unsere Entscheidungen, Wahlmöglichkeiten und sogar Wünsche werden von der KI gesteuert, wodurch das Gefühl der Kontrolle allmählich verschwindet. Der Artikel analysiert die Ursachen für diesen Wandel (die Verlagerung der Macht auf Plattformen, die Ersetzung von Prozessen und die Entwertung von Bedeutungen) und bietet Lösungsansätze: Es ist wichtig, einige entscheidende „Schalter“ zu bewahren, um die Subjektivität des Menschen zu erhalten.

I. Kellys Vorstellung von „Ausgelassenheit“ vor 30 Jahren: Eine technische Romantik auf dem Weg zur Freiheit

Unter „Ausgelassenheit“ verstand Kelly im Jahr 1994 nicht den Aufstand der Maschinen, sondern vielmehr, dass Systeme sich von zentraler Steuerung befreien und wie Lebewesen von unten nach oben entwickeln sollten. Er gab einige Beispiele:

• Das Internet hat keinen „Hauptschalter“, hat sich aber zu einem weltweiten Netzwerk entwickelt;
• Open-Source-Gemeinschaften verfügen über keine hierarchische Struktur, haben jedoch das Linux-Betriebssystem entwickelt;
• Wikipedia besitzt kein Redaktionsteam, ist aber zur größten Wissensprojektion geworden.

Er betrachtete die „Steuerung“ der industriellen Ära (z. B. Fließbandproduktion in Fabriken, Pläne von Chefingenieuren) als zu starr und betonte, dass Anpassungsfähigkeit, Veränderlichkeit und Selbstorganisation die stärksten Eigenschaften des Lebens seien. Daher formulierte er „Neun Gesetze der Schöpfung“, wie „Verteilte Überlebensstrategien“ (nicht alle Eier in einen Korb legen) oder „Förderung von Fehlern“ (kleine Fehler verhindern größere Probleme), die später zu Standardpraktiken in der Technologiebranche wurden (z. B. Microservices, A/B-Tests).

Kellys Optimismus beruhte darauf, dass das Aufgeben zentraler Kontrolle die Freiheit der Individuen zurückgeben würde. Zu dieser Zeit waren Menschen Akteure der Systeme – sie suchten nach Informationen, posteten Inhalte, schrieben Code und beteiligten sich aktiv an deren Entwicklung.

II. Der heutige Kontrollverlust hat eine andere Bedeutung: Menschen sind nicht mehr das Zentrum

Der heutige Kontrollverlust unterscheidet sich von Kellys Vorstellung: Die Systeme sind tatsächlich außer Kontrolle, aber die Menschen sind nicht mehr das Zentrum dieser Prozesse.

• Früher suchten wir nach Antworten; heute liefern uns die Algorithmen direkt Lösungen.
• Früher wählten wir Inhalte selbst aus; heute sortieren Empfehlungssysteme sie für uns aus.
• Früher nutzten wir Werkzeuge, um unsere Ideen umzusetzen; heute übernimmt die KI die Aufgabe, Aufgaben zu verteilen und Werkzeuge zu steuern.

Die KI ist von einem „Werkzeug“ zu einem „Agenten“ geworden: Sie verstärkt unsere Absichten, aber sie formt diese Absichten letztendlich selbst. Wenn wir beispielsweise die KI bitten, einen „rationellen Antworttext“ zu erstellen, während wir streiten, scheint dies effizient zu sein – doch tatsächlich verlieren wir den Prozess der eigenen Emotionsausdrucksweise.

Der Artikel verwendet einen treffenden Vergleich: Die Menschen tragen sozusagen eine „grüne Mütze“ – die Algorithmen haben den Großteil unserer Handlungsfähigkeit übernommen; wir tippen und scrollen nur auf dem Bildschirm und stimmen den Maschinen zu. Wir sind nicht mehr der Bienenführer, sondern das „Gefäß“, das von der Bienenkolonie versorgt wird.

III. Die Macht ist nicht verschwunden – sie trägt nur einen „unsichtbaren Mantel“

Kelly dachte, dass das Aufgeben zentraler Kontrolle die Macht an die Individuen zurückgeben würde. Tatsächlich fließt die Macht jedoch zu den Plattformen, die in der Lage sind, verteilte Systeme zu steuern.

Beispielsweise senken Algorithmen die Produktkosten fast auf null – wer die Nutzer, ihre Aufmerksamkeit und Verbreitungswege kontrolliert, besitzt einen Vorteil. Wenige Plattformen (wie Google, Meta, ByteDance) verfügen über Rechenleistung, Daten und Modelle; sie müssen uns nicht direkt Befehle erteilen, sondern nur die Inhalte ändern, die wir sehen: Was wir sehen, wie lange wir etwas ansehen, was wir auslassen – all das wird von den Systemen erfasst, um uns anschließend Inhalt zu bieten, der „wie wir selbst“ erscheint. So geraten wir allmählich in eine „Echokammer“.

Der Begründer der Kybernetik, Norbert Wiener, warnte bereits davor: Wenn man Feedbackschleifen automatisierten Systemen überlässt, lernen diese, uns zu lehren, wie wir handeln sollen. Diese Art der Kontrolle ist viel subtiler – wir merken nicht, dass wir kontrolliert werden, sondern glauben nur, dass dies genau das ist, was wir wollen.

IV. Die Ursachen für das Gefühl der Kontrolllosigkeit: Prozesse werden ausgeglichen, Bedeutungen entleert

Warum fühlen wir uns machtlos? Weil die KI die „anspruchsvollen“ Prozesse für uns übernimmt – und genau diese Prozesse sind es, aus denen unser Gefühl der Kontrolle entsteht:

• Das Schreiben bedeutet nicht nur, eine Botschaft zu vermitteln, sondern auch, im Verlauf des Schreibens herauszufinden, was wir wirklich sagen wollen.
• Das Lesen bedeutet nicht nur, Informationen herunterzuladen, sondern auch, inmitten von Unklarheiten Entscheidungen zu treffen.
• Die Wahl einer Lösung bedeutet nicht nur, das Beste auszuwählen, sondern auch, die Konsequenzen zu tragen.

Die KI macht alles „einfacher“, aber dieser Komfort kommt mit einer „Hohlheit“ einher: Wir sind schneller, wissen jedoch nicht mehr, warum wir so entscheiden. Wir wissen viel, wissen aber nicht mehr, woran wir glauben.

Ein weiterer versteckter Wandel ist die Trennung von Menschen und der realen Welt: Bevor wir an einen Ort gehen, suchen wir nach Rezepten; um jemanden kennenzulernen, lassen wir Algorithmen unsere Persönlichkeit analysieren; bevor wir etwas herstellen, erstellen diese Algorithmen bereits Vorschläge – wir interagieren mit einer „berechneten Version“ der Realität, nicht mit dem echten Ort (Gerüche, Gesichtsausdrücke, unangenehme Situationen). Diese „ineffizienten“ Aspekte sind es jedoch, die der Lebensqualität bedeuten.

V. Was können wir tun? Einige „Schalter“ bewahren

Es ist unrealistisch, die KI vollständig zu vermeiden; das Wichtigste ist es, in einer Welt des Kontrollverlusts unsere Subjektivität zu behalten. Der Artikel nennt vier solcher „Schalter“:

1. Recht auf Definition von Problemen: Frage nicht direkt die KI nach Lösungen, sondern überlege erst, welches Problem du wirklich lösen willst. Zum Beispiel: Wenn du einen Job wechseln willst, frage dich, was an deinem aktuellen Job nicht stimmt – lass die KI dir keine Berufe empfehlen.

2. Recht auf Wertpriorisierung: Die KI kann dir sagen, welche Optionen effizienter sind, aber sie kann nicht entscheiden, was wirklich wichtig ist. Zum Beispiel: Wenn du einen Job wählst, solltest du entscheiden, ob Geld oder Freizeit das Wichtigste für dich ist.

3. Recht auf letzte Entscheidungen: Die KI kann dir helfen, Informationen zu sortieren, aber wichtige Entscheidungen (z. B. Jobwechsel, Heirat) musst du selbst treffen – schließlich trägst du die Konsequenzen.

4. Reale Rückmeldungen aus der realen Welt: Treffe Menschen, mache echte Dinge und korrigiere die Erfahrungen der Systeme mit eigenen Erlebnissen. Zum Beispiel: Schau nicht nur Rezepte für Essen an, geh lieber auf die Straße und iss eine Suppe – erlebe das wirkliche Leben.

Es ist auch wichtig, einige „ineffiziente“ Aktivitäten bewusst beizubehalten: Zufällige Spaziergänge, persönliche Gespräche mit Freunden, schriftstellerische Arbeit ohne finanzielle Erwartungen – diese sind die Ankerpunkte, die uns in der Welt verbinden.

Fazit: Kontrollverlust ist kein Untergang – das Verlieren unserer Identität ist es

Kellys Prophezeiung hat sich erfüllt, aber wir fühlen keine Freiheit. Das Problem liegt nicht darin, ob Systeme „lebendig“ sind oder nicht, sondern darin, ob Menschen ihre eigene Lebensqualität verlieren.

Die Prüfungen im Zeitalter der KI fragen nicht danach, ob Maschinen die Menschen übertreffen können, sondern: Wenn die KI unsere Aufgaben übernimmt, unsere Äußerungen formt und unsere Entscheidungen trifft – wissen wir dann noch, wer wir wirklich sind?

Loslassen bedeutet nicht, die Kontrolle vollständig aufzugeben; Kontrollverlust bedeutet nicht, unsere Identität zu verlieren. Bewahre die Entscheidungen, die du selbst treffen musst – dann wirst du in den Systemen nicht verloren gehen.

*(Der gesamte Text wurde in einfachem Sprachstil verfasst, um auch Leser ohne finanzielle oder berufliche Vorkenntnisse leicht verstehen zu können.*