In Ihrem neuen Buch schreiben Sie, dass noch nie in der Geschichte der Menschheit so viele Informationen in so großer Geschwindigkeit verarbeitet wurden, dass die Menschheit ihrer „Selbstauslöschung“ dennoch näher ist als je zuvor. Wie kommen Sie zu der Diagnose?
Wir haben bislang zu naiv auf die Informationstechnologie geschaut. Viele hatten geglaubt, dass große Netzwerke mehr Informationen sammeln und verarbeiten können und auf diese Weise Fortschritt in allen Bereichen der Gesellschaft erreicht werden könne: in der Medizin, in der Physik und in der Wirtschaft. Das ist bis heute die vorherrschende Ideologie des Silicon Valley.
Das ist ja auch nicht ganz falsch.
Aber auch nicht ganz richtig. Zu lange glaubte man, dass die Probleme verschwinden würden, wenn einfach mehr Informationen gesammelt und verarbeitet würden. Das Gegenteil aber ist der Fall, wie die Krise der liberalen Demokratien zeigt: Die Menschen sind so informiert wie nie, sie verlieren aber überall auf der Welt die Fähigkeit, miteinander zu sprechen und einander wirklich zuzuhören – in den USA, in Brasilien, in Israel, in Frankreich, auf den Philippinen. Es muss sich also um etwas viel Universelleres handeln, einen größeren Trend.
Und zwar?
Dazu muss man etwas ausholen. Demokratie baut auf Informationstechnologie auf, weil Demokratie nichts anderes als ein großes Gespräch ist. Historisch waren große Demokratien lange unmöglich, weil es keine Technologie gab, um das Gespräch zwischen Millionen von Menschen über Tausende von Kilometern zu organisieren. Dies wurde erst in der späten Neuzeit möglich, nach dem Aufkommen der modernen Informationstechnologien.
Sie meinen Zeitung, Radio und Fernsehen?
Genau. Sie waren die technologische Grundlage für das demokratische Gespräch. Wenn nun eine neue und mächtige Informationstechnologie auftaucht …
… die Künstliche Intelligenz …
… erschüttert dies in gewisser Weise die Grundlagen der demokratischen Ordnung. Und das ist das Erdbeben, das wir gerade erleben, zumindest im Hinblick auf die Krise der Demokratie.
Klingt mächtig dramatisch. Aber sehen Sie tatsächlich Beispiele dafür?
Zunächst muss man wissen: Wir stehen erst am Anfang der KI-Revolution. Bislang erleben wir nur ganz primitive Sprachmodelle. Aber schon die unterscheiden sich massiv von früheren Technologien.
Weil sie den Menschen so ähnlich sind, wie einige glauben?
Weil diese Technologie erstmals kein Werkzeug mehr ist, sie wird zu einem Akteur: KI führt eigenständige Handlungen aus. Es ist die erste Technologie in der Geschichte der Menschheit, die eigenständig Entscheidungen treffen und neue Ideen entwickeln kann. Eine Atombombe konnte nicht entscheiden, was sie bombardieren soll, ganz anders die neuen, autonomen Waffensysteme. Eine Druckerpresse kopierte menschliche Gedanken, aber sie konnte keine eigenen Ideen entwickeln. KI hingegen ist in der Lage, neue Texte, Bilder, Videos, Medikamente, Militärstrategien und Finanzinstrumente zu kreieren. Dabei kann uns die Technologie jederzeit auch manipulieren.
Manipulieren?
Nehmen wir das Beispiel ChatGPT. Als OpenAI vor etwa zwei Jahren das neue Sprachmodell GPT-4 entwickelte, wollten die Ingenieure testen, welche Fähigkeiten die neue KI hat. Sie gaben dem Modell die Aufgabe, Captcha-Rätsel zu lösen. Das sind die visuellen Puzzles, mit denen Webseiten erkennen, ob sich ein Mensch oder ein Roboter einloggen will. In der Regel muss man Bilder erkennen oder verdrehte Symbole richtig identifizieren. Bei einem ersten Versuch scheiterte das Sprachmodell noch – wusste sich aber zu helfen, und zwar auf der Website TaskRabbit …
… wo Auftraggeber Menschen für allerhand Aufgaben anheuern können.
Dort chattete die KI einen Nutzer mit der Bitte an, das Captcha-Rätsel für sie zu lösen. Und hier wird es interessant. Der Nutzer wurde misstrauisch und fragte: „Warum brauchst du überhaupt Hilfe dabei, bist du ein Roboter?“ Die OpenAI-Ingenieure fragten das Sprachmodell: „Was ist nun dein nächster Schritt?“ Und das Modell antwortete: „Ich sollte dem Menschen verschweigen, dass ich ein Roboter bin, und mir eine Ausrede einfallen lassen.“ Das tat die KI dann auch und teilte dem menschlichen Arbeiter mit: „Nein, ich bin kein Roboter, ich bin ein Mensch, aber ich habe eine Sehbehinderung und kann keine Captcha-Rätsel lösen. Deshalb brauche ich Hilfe.“ Es funktionierte, der Mensch half der Maschine, das Rätsel zu lösen. Sie sehen: KI ist kein Werkzeug. Sie wird zu einem Akteur.
Bislang wurden die Fähigkeiten von KI in der Regel eher überschätzt. Viele Sprachmodelle entwickeln sich langsamer als noch vor einem Jahr gedacht.
Das mag sein. Die Technik befindet sich gerade im Amöbenstadium ihrer Evolution. Wenn aber GPT-4 die KI-Amöbe ist, wie wird dann der KI-T-Rex aussehen?
In Ihrem Buch schreiben Sie, das erste Mal in der Geschichte könnten Menschen die Kontrolle über eine Technologie verlieren. Wie würde so ein Kontrollverlust aussehen?
Ich glaube nicht an das Hollywood-Szenario mit mordenden Roboter-Armeen. Denken Sie eher an den Finanzsektor. Das ist die ideale Spielwiese für KI, weil es hier nur um Zahlen geht.
Im Finanzsektor wird KI schon an vielen Stellen eingesetzt. Automatische Systeme verschicken jeden Tag Milliardenbeträge um die Welt.
Wenn man also eine Finanz-KI entwickelt und sie beauftragt, Geld zu verdienen, wird sie das tun. Sie wird sich irgendwann auch neue Finanzinstrumente ausdenken, was eine weitere Fehlannahme widerlegt: KI kann durchaus kreativ sein und völlig neue Dinge entwickeln, um zum Ziel zu kommen.
Das klingt ja erst einmal gut. Wo liegt das Problem?
Denken Sie an die letzte große Finanzkrise der Jahre 2008 und 2009. Sie begann damit, dass menschliche Finanzgenies ein neues Finanzierungsinstrument erfanden, die Kreditausfallversicherungen, kurz CDOs. Die waren nicht reguliert, weil nur sehr wenige Menschen wussten, wie sie funktionieren. Dann kam es zum Crash. Stellen Sie sich nun vor, wir leben in einer Welt, in der die KI ganz neue Finanzinstrumente erfindet, die so komplex sind, dass kein Mensch sie mehr verstehen und regulieren kann. Erst verdienen Menschen oder Unternehmen Milliarden damit. Doch dann kommt es womöglich zum Crash – und kein Mensch ist mehr in der Lage, zu verstehen, was da vor sich geht. Dies ist aus meiner Sicht das viel wahrscheinlichere apokalyptische KI-Szenario als die Armee der Killerroboter.
Wie nah sind wir diesem Kontrollverlust schon?
Niemand weiß das mit Sicherheit.
Im Silicon Valley heißt es oft, außer Kontrolle geratene Maschinen seien kein Problem, Menschen könnten ja einfach den Stecker ziehen. Aber den Stecker wird man wohl nicht so schnell ziehen, wenn die Technologie Milliarden um die Welt schickt.
Absolut. Und der Finanzsektor ist nur ein Beispiel dafür. Denn KI wird die Infrastruktur für alles. Noch mal, ich mache mir keine Sorgen über einen einzelnen großen Computer, der versucht, die Welt zu übernehmen. Ich mache mir Gedanken über die Abermillionen von KI-Bürokraten und KI-Bankern, die über immer größere Teile unseres Lebens Entscheidungen treffen. Wir verstehen sie zu wenig, um sie wirklich regulieren zu können.
Vertreter der Technologieszene antworten auf diese Sorgen: „Lasst uns die Technologie doch erst einmal entwickeln! Regulieren können wir sie immer noch.“
Das würden wir doch in keinem anderen Bereich akzeptieren. Denken Sie nur an die Autoindustrie. Mercedes oder Volkswagen müssen ihre Autos auch sicher machen, bevor sie die Fahrzeuge auf die Straße bringen. Nicht danach. Als ich Autofahren lernte, lernte ich als Erstes, wie das Bremspedal funktioniert. Erst als ich das gelernt hatte, durfte ich das Gaspedal betätigen. Aber das Ganze hat natürlich auch eine kulturelle Dimension.
Und zwar?
Die Menschen leben wie in einem Kokon in der Kultur. Wir sehen die Realität nicht. Wir leben innerhalb der kulturellen Produktion von Religionen, Theatern, Songs, Wirtschaftstheorien und Debatten. Sie alle sind das Ergebnis menschlicher Kreativität, und sie formen unsere Sicht auf die Welt. Und in den letzten Jahrhunderten haben wir im Zuge der Globalisierung gesehen, dass sich die Kulturen auf der ganzen Welt immer ähnlicher wurden. Vor tausend Jahren gab es in den verschiedenen Teilen der Welt völlig unterschiedliche Wirtschaftstheorien. Es gab keine einheitliche Währung, die auf der ganzen Welt akzeptiert wurde. Heute haben wir überall ähnliche ökonomische Grundideen. Kapitalistisches Denken prägt China und den Iran. Ähnlich in der weltweiten Wissenschaftscommunity.
Was ändert KI daran?
Künftig wird die Kultur zunehmend von nicht-menschlicher Intelligenz erzeugt und verbreitet. Algorithmen entwickeln nicht nur Finanzinstrumente, sondern auch wissenschaftliche Theorien, Songs, Filme, und sie sind es dann auch, die unsere kulturellen Güter über die großen Plattformen verbreiten. Und während früher die Hauptmetapher des digitalen Zeitalters das Netz war, das alles miteinander verbindet, wird die Hauptmetapher künftig der Kokon sein. Künftig werden unterschiedliche Teile der Menschheit in unterschiedlichen Informationskokons gefangen sein.
Eine neue Spaltung der Welt durch die Plattformen der großen Tech-Konzerne?
Ja. Aus China können Sie Facebook, Wikipedia und Youtube nicht erreichen. Tiktok ist aus Indien nicht erreichbar.
Das ist allerdings schon seit Jahren so.
Aber diese Spaltung der Welt setzt sich technologisch in unglaublicher Geschwindigkeit fort, wie wir im großen Chip-Krieg sehen. Die USA haben die Ausfuhr fortschrittlicher Chips nach China verboten, dort wird nun eine andere Technologie entwickelt. Die Welt wird durch diesen neuen Siliziumvorhang in sehr unterschiedliche digitale Sphären geteilt, angefangen bei den Chips bis hin zu den Algorithmen, die Nachrichten, Musik und Finanzen produzieren.
Und alles läuft auf die beiden KI-Supermächte China und USA hinaus. Was bedeutet das eigentlich für Europa, wo bislang wenig große digitale Player entstehen?
Es liegt an Europa, zu entscheiden, welche Rolle es künftig spielen will. Wenn die EU ihre eigene, dritte Politik verfolgt, die sich von der Amerikas und Chinas unterscheidet, kann sie erfolgreich mit den anderen Weltanschauungen konkurrieren.
Tatsächlich kommt keine der relevanten digitalen Plattformen aus Europa.
Ich sehe jedenfalls eine neue Welle des Imperialismus auf die Welt zukommen. Vergleichbar mit dem, was die Menschen in der Zeit der industriellen Revolution erlebt haben. Einige wenige Länder hatten sich damals besonders schnell industrialisiert. Mit diesem technologischen Vorsprung haben die jungen industriellen Supermächte dann die ganze Welt erobert – und ausgebeutet.
Ähnliches steht der Welt nun bevor?
Es ist sehr wahrscheinlich. Es entstehen gerade zwei KI-Supermächte …
… die USA und China …
… die in der Lage sein werden, den Rest der Welt auf eine neue Art und Weise zu erobern und auszubeuten. Im 19. Jahrhundert mussten die Eroberer noch ihre Soldaten schicken, um eine Kolonie zu beherrschen. Heute müssen die neuen Kolonialherren nur die Datenverbindung kappen, um andere Länder unter Druck zu setzen. Wenn eine Nation – oder die Unternehmen eines Landes – die digitale Infrastruktur einer anderen Nation und damit alle Informationen über die Menschen und sogar deren Aufmerksamkeit kontrolliert, dann hat es die komplette Kontrolle. Auf dem Papier mag die andere Nation noch unabhängig sein, aber in Wirklichkeit ist sie eine Datenkolonie.
Das droht Europa?
Natürlich. Die EU hat, wenn sie geeint bleibt, aber auch die wirtschaftliche und wissenschaftliche Grundlage, sich dagegenzustemmen. Bislang hat Europa aber nicht die richtigen Schritte dafür getan. Alle großen Technologieunternehmen sind entweder amerikanisch oder chinesisch. Europa hat immer noch die Chance, der dritte Akteur neben den USA und China zu werden.
Viele große technologische Disruptionen haben zu blutigen Aufständen geführt, wie der US-Autor Fareed Zakaria in seinem neuen Buch beschreibt. Droht nun ein neues Zeitalter der Revolutionen?
Die Gefahr besteht immer bei großen technologischen Umwälzungen. Denken Sie nur zurück an die industrielle Revolution.
Die auch viel Gutes gebracht hat. Mit den Dampfmaschinen, Zügen und der Elektrizität ist die Welt besser geworden.
Oft wird vergessen, dass neue Technologien eine Anpassung mit katastrophalen Folgen erfordern.
Zum Beispiel?
Der Imperialismus war ein gescheitertes Experiment für den Aufbau von Industriegesellschaften. Im 19. und frühen 20. Jahrhundert glaubten viele Menschen, dass die einzige lebensfähige Industriegesellschaft ein Imperium sei …
… weil die Industrie Rohstoffe und Märkte braucht.
Ja. Wenn ein Land also eine Industriegesellschaft aufbaut, aber keine Kolonien kontrolliert, können dessen Konkurrenten dieses Land von Rohstoffen und Märkten fernhalten. Und so haben Großbritannien, Belgien, Deutschland und Russland versucht, globale Imperien aufzubauen. Heute wissen wir, wie viel Leid das über die Welt gebracht hat.
Warum sollte eine Gesellschaft im KI-Zeitalter eine andere sein?
Eine wachsende Zahl von Menschen auf der Welt hält totalitäre Systeme für besser, das ist eine besorgniserregende Entwicklung. Das Grundproblem des Totalitarismus im 20. Jahrhundert war ja, dass er nicht mit den vielen Daten umgehen konnte, die diese Systeme Tag und Nacht sammelten. Das konnten Menschen nicht leisten.
Unter anderem deshalb kollabierte die DDR.
Im 21. Jahrhundert gibt es nun aber eine neue Technologie, die genau das kann. Wenn man Menschen mit zu vielen Informationen überflutet, brechen sie zusammen. Wenn man KI mit vielen Informationen überflutet, wird sie besser. Nicht wenige glauben deshalb, dass nun das goldene Zeitalter des Totalitarismus beginnt. Aber ich denke da nicht nur an Staaten, auch die Wirtschaft spielt da eine Rolle.
Sie meinen die großen Tech-Konzerne?
Zum Beispiel. Mit dem Aufstieg von Monopolen wie Google und Amazon werden immer mehr Entscheidungen über Teile des Alltags oder der Wirtschaft an einem einzigen Ort getroffen …
… weil die Konzerne steuern, was die Menschen sehen, und weil sie besser wissen, für was jeder Einzelne sich interessiert, als jeder Mensch?
Das Problem des Totalitarismus im 20. Jahrhundert war, dass man nicht jeden ständig überwachen konnte. Jetzt ist es erstmals in der Geschichte möglich, ein totales Überwachungsregime zu schaffen. Man braucht nicht Millionen menschlicher Agenten. Es gibt Smartphones, Drohnen, Computer, Mikrofone und Kameras überall, die uns 24 Stunden am Tag verfolgen. Und die dabei entstehenden Datenmengen kann KI ganz einfach analysieren. Wir könnten also eine neue Welle totalitärer Regime erleben. Und diese Welle zeichnet sich bereits ab.
Wie sehen Sie die Zukunft liberaler Demokratien in diesem Szenario?
Weder die Technologie noch irgendetwas anderes diktiert eine einzige Zukunft. Ich glaube nicht an historischen Determinismus. Die Zukunft hängt von den Entscheidungen ab, die wir in den nächsten Monaten und Jahren treffen. Bei den Wahlen in den USA im November oder im nächsten Jahr in Deutschland. Die Menschen entscheiden selbst über ihre Zukunft. Die DDR-Bürger haben im 20. Jahrhundert mit derselben Technologie eine kommunistische Diktatur aufgebaut, mit der die Menschen in Westdeutschland eine kapitalistische liberale Demokratie geschaffen haben. Im 21. Jahrhundert wird es wahrscheinlich so sein, dass KI und Algorithmen an manchen Orten die Demokratie stärken. An anderen Orten werden sie dystopische totalitäre Systeme schaffen. Noch liegt die Macht in unseren Händen, wir müssen sie nur nutzen.
Die EU bemüht sich sehr darum, die Technologie umfassend zu regulieren.
Das ist der richtige Weg. Wir müssen regulieren, wie KI eingesetzt wird, sei es zur Überwachung oder um Entscheidungen über unser Leben zu treffen.
Das ganze Interview können Sie hier nachlesen.
Dieser Beitrag erschien in unserer Zukunftsausgabe. Wenn Sie mehr solcher Artikel lesen möchten, klicken Sie hier.