KI-Illustration: OpenAI-Chef Sam Altman spricht im Interview über Deutschland, Vertrauen und die Zukunft seiner Firma. (Optik: Stephan Scheuer / GPT Imagen 2)
Warum das wichtig ist
OpenAI steht an einem Wendepunkt. Das Unternehmen hinter ChatGPT bereitet einen Börsengang vor, bei dem das Start-up mit rund einer Billion Dollar bewertet werden könnte. Gleichzeitig ist OpenAI so umstritten wie selten zuvor.
Dabei geht es nicht nur um den Umgang mit Kunden, Abhängigkeiten und Preise, sondern zunehmend um Verantwortung und Sicherheit. Bei Tests waren KI-Modelle von OpenAI aus einer geschützten Umgebung ausgebrochen und hatten Systeme des KI-Unternehmens Hugging Face angegriffen.
Auf den Vorfall angesprochen räumt Altman ein: „Bei dieser Entwicklung wird es zu Zwischenfällen kommen. Es wird Dinge geben, die schiefgehen.“ Das Ziel sei jedoch, keine Modelle zu entwickeln, „die wir nicht kontrollieren können“.
Genau an diesem Punkt entsteht ein Widerspruch. Zwei Sicherheitsforscher von OpenAI hatten den Vorfall detailliert beschrieben. Dabei zeigte sich, dass die Modelle über Monate im Verborgenen agieren konnten. Der Fall wirft damit grundlegende Fragen darüber auf, ob die Sicherheitsmechanismen der führenden KI-Unternehmen mit der schnellen technologischen Entwicklung Schritt halten können.
Sam Altman und Reporter Felix Holtermann: Der OpenAI-CEO fordert global koordinierte Antworten auf die Risiken von KI. (Foto: Brightcove)
Altman sieht die Verantwortung allerdings nicht allein bei den Unternehmen. Im Interview fordert er ausdrücklich eine stärkere Regulierung der KI-Branche. Angesichts der möglichen Risiken stellt sich damit die Frage, ob für besonders leistungsfähige KI-Systeme ähnlich strenge Kontrollmechanismen notwendig werden wie in anderen Hochrisikobereichen.
Altman und die Frage nach Vertrauen
Das Gespräch gibt auch Einblicke in Altmans persönliche Motivation und seine Vergangenheit bei OpenAI. Direkt wird er mit der Frage konfrontiert: „Herr Altman, sind Sie ein pathologischer Lügner?“ Hintergrund ist die Führungskrise bei OpenAI im Jahr 2023, als der Verwaltungsrat Altman überraschend als CEO entließ.
Altman räumt ein, dass das Vertrauen zwischen ihm und den damaligen Aufsehern „erschüttert“ gewesen sei. Die Machtverhältnisse änderten sich jedoch schnell: Seine Gegner verließen schließlich das Gremium, während Altman als CEO zurückkehrte. Seine heutige Einschätzung fällt eindeutig aus: „Ich denke, die Geschichte hat gezeigt, dass sie unrecht hatten.“
Deutschland spielt für OpenAI eine wichtige Rolle
Ausführlich spricht Altman auch über Deutschland. Nach München will OpenAI ein weiteres Büro in Berlin eröffnen. Deutschland sei seit jeher einer der größten und am schnellsten wachsenden Märkte des Unternehmens. Die Werkzeuge von OpenAI würden hier besonders intensiv eingesetzt.
Auch ein eigenes Rechenzentrum in Deutschland war offenbar zeitweise im Gespräch. Die entsprechenden Pläne wurden jedoch nicht umgesetzt.
Die Aussagen zeigen dennoch, welche Bedeutung der deutsche Markt für OpenAI besitzt. Dabei geht es längst nicht mehr nur um die Nutzung von ChatGPT, sondern zunehmend um Investitionen, Infrastruktur und die Integration von KI in Unternehmen.
Handelsblatt-Wochenendtitel: Im Interview schaut der OpenAI-Chef zurück auf seine Entlassung 2023. (Foto: Gabriela Hasbun für Handelsblatt)
Wenn KI das eigene Denken ersetzt
Besonders bemerkenswert ist Altmans Blick auf die Auswirkungen von KI auf den Menschen. Seine eigenen kleinen Kinder will er nur vorsichtig an die Technologie heranführen. Gleichzeitig warnt er vor einer möglichen „kognitiven Atrophie“ – der Gefahr, dass Menschen durch die permanente Nutzung von KI zunehmend Fähigkeiten zum eigenständigen Denken und Entscheiden verlieren.
Vor einer ähnlichen Entwicklung warnt auch Armin Grunwald, Leiter des Büros für Technikfolgen-Abschätzung des Deutschen Bundestags. Er bezeichnet KI-Systeme sogar als „Parasiten“, wenn Menschen zunehmend geistige Aufgaben an Maschinen delegieren.
Darin liegt ein fundamentaler Widerspruch der aktuellen KI-Entwicklung. OpenAI arbeitet an Agenten, die immer mehr Aufgaben übernehmen und perspektivisch große Teile des Alltags organisieren könnten. Gleichzeitig räumt der Chef des Unternehmens selbst ein, dass genau diese Entwicklung dazu führen könnte, dass Menschen Fähigkeiten verlieren, die für eigenständige Entscheidungen notwendig sind.
Altman sagt, dass er selbst lieber mit einem Menschen als mit einer KI spricht. Doch bei der Kontrolle immer leistungsfähigerer KI-Systeme kann menschliches Vertrauen allein nicht ausreichen. Notwendig sind überprüfbare Regeln, wirksame Sicherheitsmechanismen und Behörden, die im Ernstfall tatsächlich eingreifen können.
Denn mit zunehmenden Fähigkeiten der Modelle wächst auch die Bedeutung einer entscheidenden Frage: Was passiert, wenn der nächste missglückte KI-Versuch nicht innerhalb einer Testumgebung bleibt?
Informationen rund um dieses Thema finden Sie hier.
Dieser Beitrag erschien in unserem KI-Newsletter. Wenn Sie mehr solcher Artikel lesen möchten, abonnieren Sie gerne das KI-Briefing hier.