KI auf Einstein-Niveau: Ist das möglich? (Optik: Larissa Holzki | Dall-E)
Möglich machen soll das der Fortschritt bei Künstlicher Intelligenz: Schon für 2026 hält Amodei die Entwicklung einer KI für möglich, die schlauer ist als die Nobelpreisträger mehrerer Wissenschaftsgebiete zusammen.
Warum das wichtig ist? Amodei schreibt, dass Rechenzentren durch die Entwicklung von so mächtigen Systemen die wissenschaftlichen Leistungen einer ganzen Nation von Genies vollbringen könnten. Rechenzentren voller Einsteins! Die gesellschaftlichen, sicherheitspolitischen und wirtschaftlichen Auswirkungen einer solchen Entwicklung wären enorm.
Amodei hat sein Essay bereits im Oktober veröffentlicht. Doch die Diskussion, wie wir mit solchen Systemen umgehen sollten und wie sie die Wirtschaft verändern könnten, steht noch ganz am Anfang.
Anthropic-Co-Gründer und -CEO Dario Amodei (Foto: Getty Images Entertainment/Getty Images)
In Washington stand derweil in den vergangenen Wochen vor allem der Vorschlag eines US-Kongressausschusses im Raum. Er hatte empfohlen, dass die USA eine Art „Manhattan-Projekt“ für Superintelligenz starten sollten. Das sei der beste Weg, um bei Künstlicher Intelligenz mit China zu konkurrieren.
Zum Hintergrund: „Manhattan-Projekt“ war der Deckname des Geheimprogramms, mit dem die Vereinigten Staaten ab 1942 mit privaten und staatlichen Akteuren den Bau einer Atombombe vorantrieben. Die Kernspaltung wurde erst durch dieses Projekt militärisch nutzbar.
Jetzt kommt neue Dynamik in die Debatte um das Manhattan-Projekt für KI. Auslöser ist ein Positionspapier von namhaften Autoren aus der Technologieszene, das mit „Superintelligenz-Strategie“ betitelt ist. Darin raten der frühere Google-Chef Eric Schmidt, der CEO von Scale AI, Alexandr Wang, und der Direktor des Zentrums für KI-Sicherheit, Dan Hendrycks, von einem solchen Programm ab.
Eric Schmidt, der frühere Google-Chef (Foto: IMAGO/ABACAPRESS)
Sie argumentieren, dass die USA heftige Gegenreaktionen provozieren könnten, wenn sie aggressiv auf die KI-Vorherrschaft dringen und alles daran setzen, superintelligente KI-Systeme exklusiv zu kontrollieren. Ein solches Vorgehen könne die internationalen Beziehungen destabilisieren.
Schmidt und seine Co-Autoren schlagen stattdessen ein Konzept vor, das ans „Gleichgewicht des Schreckens“ aus der Zeit des Kalten Krieges erinnert. Mit der MAD-Doktrin, kurz für „Mutually Assured Destruction“, sicherten sich die USA und die Sowjetunion die gegenseitige Zerstörung zu, sollte eine der beiden Nationen einen ersten Nuklearschlag wagen.
Die Superintelligenz-Strategie empfiehlt in Anlehnung daran eine „Mutual Assured AI Malfunction“, also das gegenseitig zugesicherte KI-Versagen. Die Autoren schlagen damit vor, dass die USA ihr Arsenal an Cyberangriffen erweitern und Methoden entwickeln, mit denen sie bedrohliche KI-Projekte anderer Nationen stoppen können, wenn diese zum „Erstschlag“ ausholen.
Larissa Holzki hält solche Diskussionen für wichtig, gerade weil traditionelle Methoden der Export- und Rüstungskontrolle bei Künstlicher Intelligenz an ihre Grenzen stoßen. Da lohnt es sich, das Unvorstellbare zu durchdenken, auch wenn es Zweifel daran gibt, ob und wann die KI-Entwicklung auf allgemeinem Nobelpreis-Niveau realistisch ist.
Google-Deepmind-Gründer Demis Hassabis spricht mit Blick auf die nächsten fünf Jahre immerhin von einer 50-prozentigen Chance auf eine Superintelligenz. Und der hat mit seiner Proteinfaltungs-KI zumindest den Nobelpreis in einer Kategorie gewonnen, nämlich in der Chemie.
Economist-Chefredakteurin Zanny Minton Beddoes mit den KI-Gurus Demis Hassabis (M.) und Dario Amodei (Foto: Visionaries Club: Vincent Vanfleteren)
Wenn einem das alles doch zu sehr wie ein Doomsday-Szenario vorkommt, empfiehlt Larissa Holzki den Einwurf von Huggingface-Mitgründer Thomas Wolf zu lesen. Er ist ebenso beim „Unplugged“-Event des Berliner Wagniskapitalgebers Visionaries in Paris aufgetreten wie Amodei und Hassabis und ging dabei direkt auf die Vision der Rechenzentren voller Einsteins ein.
Als er das Essay von Amodei zum ersten Mal gelesen habe, sei er fasziniert gewesen und überzeugt, dass KI die Welt verändern werde, sagte Wolf. Dann habe er den Text ein zweites Mal gelesen und gedacht: „Das ist alles Bullshit.“ Denn er habe große Zweifel daran, dass KI, wie sie heute entwickelt wird, auch nur an die Leistung eines überdurchschnittlichen Doktoranden heranreiche.
Thomas Wolf, Co-Gründer von Huggingface (Foto: Visionaries Club: Vincent Vanfleteren)
Unsere Empfehlung: Lesen Sie den Text, bevor Sie darüber nachdenken, ob Sie für eine KI von OpenAI wirklich 20.000 Dollar im Monat zahlen würden. Gerüchteweise hat der ChatGPT-Entwickler seinen Investoren nämlich in Aussicht gestellt, dass es eine KI auf Doktorandenniveau zu diesem Preispunkt auf den Markt bringen könnte.
Mehr zu diesem Thema erfahren Sie im Gastbeitrag von Thomas Wolf hier. Dieser Beitrag erschien in unserem KI-Newsletter. Wenn Sie mehr solcher Artikel lesen möchten, abonnieren Sie gerne das KI-Briefing hier.