Dario Amodei: Der Anthropic-Chef war zuvor Chefwissenschaftler bei OpenAI und hat GPT-2 und GPT-3 mitentwickelt. Foto: Getty Images Entertainment/Getty Images
Herr Amodei, Sie waren Chefwissenschaftler bei OpenAI, heute das zweitwertvollste Start-up der Welt. Wie war das?
OpenAI hat Pionierarbeit geleistet. Ich selbst habe GPT-2 und GPT-3 mitentwickelt. Dabei haben wir die Skalierung großer Sprachmodelle vorangetrieben, mit erstaunlichen Ergebnissen. Als das Modell etwa zum ersten Mal Python-Code schreiben konnte, war das ein magischer Moment. Jedes neue Modell wurde mit mehr Daten noch ein bisschen besser.
Warum sind Sie dann nicht bei OpenAI geblieben?
Wir hatten das Gefühl, dass es bei den gigantischen Fähigkeiten der Modelle eine Herausforderung sein würde, sie zu kontrollieren und sicherzustellen, dass sie das tun, was Menschen von ihnen erwarten. Das reicht von den einfachsten Dingen, wie, dass die Modelle nicht halluzinieren, bis hin zum Risiko, dass die Modelle gehackt werden. Uns haben viele Fragen um den Schlaf gebracht. Wie können wir verhindern, dass Modelle missbraucht werden? Wie schwer werden sie zu kontrollieren sein, wenn sie intelligenter sind als Menschen? Viele, die ähnlich dachten, sind dann zu Anthropic gegangen.
Das ist keine wirkliche Antwort. Noch einmal konkret gefragt: Warum sind Sie gegangen?
Wissen Sie, bei den ersten Skalierungsansätzen wurden wir von OpenAI noch gut unterstützt. Aber mit der fortschreitenden Entwicklung der Modelle hatten wir immer mehr Bedenken und zunehmend eine andere Vision als das Unternehmen. Wir waren eine Gruppe von Menschen, die Skalierung und Sicherheit in Einklang bringen wollten. Am Anfang waren wir zu siebt, am Ende waren es 15, die gingen.
War OpenAI-Chef Sam Altman weniger vorsichtig als Sie?
Ich würde den Fokus mehr auf uns legen. Ich hatte eine Gruppe von Leuten um mich herum, denen ich wirklich vertraute und von denen ich glaubte, dass sie das Richtige tun würden. Wenn Sie in einem Unternehmen Dinge anders machen wollen, können Sie um Veränderung bitten. Sie können jeden Tag mit Ihrem Chef streiten. Oder Sie ziehen los und machen Ihr eigenes Ding. Und wenn Sie dabei erfolgreich sind, wirkt das anziehend auf andere. Marktmechanismen können andere Spieler dazu bringen, Innovationen, einschließlich ethischer Innovationen und ethischer Standards, zu übernehmen.
Zum Beispiel auch OpenAI?
Ja, zum Beispiel.
OpenAI ist deutlich größer als Anthropic und hat mit Microsoft einen finanzstarken Partner im Rücken. Sie arbeiten mit mehreren Tech-Riesen zusammen, mit Amazon, mit Google, mit SAP. Warum?
Wir wollen ein unabhängiges Unternehmen bleiben und insbesondere die Sicherheitsthemen, die uns am Herzen liegen, vorantreiben. Daher sind wir sehr darauf bedacht, unsere Partnerschaften so zu strukturieren, dass sie es uns ermöglichen, die besondere Kultur von Anthropic zu bewahren.
Wir haben Partnerschaften geschlossen mit Amazon und Google, um Investitionen und Cloud-Ressourcen zu bekommen. Die Tatsache, dass wir zwei davon haben, impliziert logischerweise, dass unsere Geschäfte an einigen Stellen nicht exklusiv sein können. Wir streben danach, dass unsere Partnerschaften relativ locker, aber hochfunktional sind, damit beide Partner viel davon haben.
Sie haben wiederholt vor den Risiken der KI-Entwicklung gewarnt. Schlafen Sie heute besser?
Die Risiken sind nach wie vor groß. Gemäß unserem Plan zur verantwortungsvollen Skalierung testen wir beispielsweise jede neue Generation von Modellen, die wir herstellen, auf biologische und Cyber-Risiken. Dabei arbeiten wir auch mit den KI-Sicherheitsinstituten in den USA und in Großbritannien zusammen.
Wie wichtig ist Deutschland für Anthropic?
Deutschland ist als Markt sehr wichtig für uns. Neben SAP arbeiten wir etwa auch mit Siemens zusammen. Deutschland ist eine der größten Volkswirtschaften der Welt, daher wollen wir hier noch stärker aktiv sein. Claude ist schon heute auf Deutsch ziemlich gut und ich glaube, neuere Versionen werden noch besser sein. Wir arbeiten mit hoher Priorität daran, Claude in Deutschland auszurollen. Es gibt dort einige sehr bedeutende Unternehmen, mit denen wir bereits kooperieren. Mit vielen weiteren wollen wir in Zukunft zusammenarbeiten.
OpenAI-Gründer Sam Altman. Foto: SeongJoon Cho/Bloomberg
2023 war das Jahr des KI-Hypes, 2024 das Jahr der Experimente. Folgt 2025 die große Ernüchterung?
Als GPT Ende 2022 herauskam, löste das eine Welle unglaublicher Begeisterung aus. 2024 sind die Modelle noch besser geworden. Und ich glaube, dass KI weiter skalieren wird. Die Modelle werden immer besser. Das heißt aber nicht, dass der Stand der Technologie in der öffentlichen Wahrnehmung korrekt gesehen wird. Die Technologie kommt jetzt im Alltag an. Möglich ist damit eine weitere Welle der Euphorie. Es könnte aber auch zu einem neuen KI-Winter kommen.
Und wann kommt die AGI, die Künstliche Allgemeine Intelligenz, die viele Aufgaben besser löst als der Mensch?
Ich weiß gar nicht, was eine AGI genau sein soll. Aber ich bin überzeugt davon, dass KI zum Fundament unserer Wirtschaft werden wird. KI wird so wichtig sein wie das Feuer oder die Elektrizität. Künftig werden wir immer mehr KI-Kollegen haben, mit denen wir sprechen wie heute mit menschlichen Kollegen. Dennoch werden Menschen immer noch für bestimmte Aufgaben wertvoll sein.
Das klingt nicht sehr beruhigend. Wenn KI zum Fundament der Wirtschaft wird, was bedeutet das für unseren Alltag?
Wir werden KI als intellektuellen Partner nutzen, um Medikamente zu entwickeln, um Krankheiten zu heilen, um Umweltprobleme anzugehen oder die Armut zu bekämpfen. Die Leute unterschätzen wirklich, was möglich ist. Wenn wir Modelle entwickeln, die so gut sind wie ein Nobelpreisträger für Medizin, dann könnten wir zehnmal so schnell wissenschaftliche Fortschritte erzielen. Wenn es eine Million KI-Nobelpreisträger gibt, die Laborroboter steuern und Experimente durchführen, könnte ich mir vorstellen, dass wir den gesamten Fortschritt in der Medizin, den wir im 20. Jahrhundert geschafft haben, in fünf oder zehn Jahren schaffen. Das Beste steht uns noch bevor.
Herr Amodei, vielen Dank für das Interview.