Digitale Souveränität droht zum neuen Greenwashing zu werden. Doch was bedeutet das konkret für KI im GovTech-Kontext?
Wer die Kontrolle über Infrastruktur, Nutzerdaten und Systeme an außereuropäische Anbieter abgibt, gefährdet Grundpfeiler unserer Demokratie. Als der Chefjustitiar von Microsoft Frankreich im Sommer des vergangenen Jahres unter Eid nicht garantieren konnte, dass europäische Daten nicht in die USA fließen, musste auch dem letzten Skeptiker klar geworden sein: Mit US-Infrastruktur ist digitale Souveränität rechtlich unmöglich.
Rechtsstaat braucht Unabhängigkeit
Besonders kritisch ist dies im Rechtswesen, einer der sensibelsten Bereiche eines Staates, neben Verteidigung und Medizin. Denn ein unabhängiges Rechtssystem ist Garant für den Rechtsstaat und damit auch für die Demokratie. Um unseren Rechtsstaat langfristig zu schützen, müssen wir und sicherstellen, dass insbesondere staatliche Institutionen wie die Justiz und das Rechtswesen insgesamt sicher vor fremden Zugriffen sind, und das umso mehr in der digitalen Welt. Solche sensiblen Daten können und dürfen nicht mehr auf der Cloud-Infrastruktur von US-Hyperscalern liegen – unabhängig davon, was in wohlklingenden Marketing-Claims gesagt wird: Wenn es hart auf hart kommt, zählt nicht die geographische Lage eines Rechenzentrums, sondern die Frage der (politischen) Kontrolle. Wir müssen also mehr, schneller und dezidierter in europäische KI-Infrastruktur investieren und sie auch nutzen.
Hinzu kommt, dass dieses Angeboten, die auf generischen Modellen wie ChatGPT & Co. basieren, die nötige Spezialisierung und Genauigkeit fehlt – und jedem, der schon einmal ansatzweise mit rechtlichen Texten zu tun hat, weiß, dass Präzision das A und O ist. Generische KI-Angebote wie ChatGPT sind deshalb für europäische Rechtsanwendungen ungeeignet. Sie sind mit Informationen aus dem Internet trainiert; juristische Daten sind dabei nur ein sehr kleiner Teil, und wenn sie überhaupt enthalten sind, stammen sie hauptsächlich aus dem US-amerikanischen Kontext. Man kann sogar fast schon von der Gefahr einer „Amerikanisierung“ des Rechts sprechen.
Neben den fachlichen Ungenauigkeiten liegt hier auch ein Risiko im schleichenden Verlust der Hoheit über unsere Systeme. Wenn weder transparent ist, mit welchen Daten KI-Modelle trainiert wurden, noch nach welchen Kriterien Inhalte kuratiert werden oder wer diese Systeme tatsächlich betreibt, geben wir die Kontrolle darüber aus der Hand.
Dabei verändert sich unser Informationsverhalten gerade grundlegend. KI-basierte Systeme werden in absehbarer Zeit klassische Suchmaschinen ablösen. Anstatt aktiv zu recherchieren, lassen wir uns Antworten liefern. Daraus folgt auch: Wer diese Systeme kontrolliert, entscheidet damit faktisch, welche Narrative sich durchsetzen und was als wahr oder falsch gilt. In einer Phase zunehmender geopolitischer Spannungen ist das hochriskant.
Wir müssen auch nicht alles nachahmen, was in den USA entwickelt wird. Denn wir haben in Deutschland und Europa sehr viel Potenzial, was wir brauchen, um Innovationen zu schaffen. Unsere Stärke liegt im über Jahrzehnte aufgebauten Fachwissen, sei es in privatwirtschaftlichen Bereichen wie der produzierenden Industrie oder in systemrelevanten Bereichen wie dem Recht. Dieses Wissen können generische KI-Modelle ohne Zugriff auf die Daten nicht einfach so abbilden.
Wie Digitalisierung unsere Demokratie stärken kann
Neben der Frage nach der Datensicherheit ist unser Rechtsstaat aktuell noch einer weiteren Gefahr ausgesetzt, bei der KI – geschickt und sinnvoll eingesetzt – unterstützen kann. Sie entsteht dort, wo Gerichte und Verwaltungen unter wachsendem Arbeitsdruck, Personalmangel und zunehmender Komplexität handlungsunfähig zu werden drohen. Wenn Verfahren sich über Jahre hinziehen und Entscheidungen aus Kapazitätsgründen verzögert werden, ist das ein wesentliches Risiko für Rechtsstaatlichkeit und die demokratische Stabilität. Genau hier kann die KI unterstützen, indem sie Routineaufgaben übernimmt, Informationen strukturiert und Arbeitsabläufe effizienter macht. Sie ersetzt kein juristisches Urteil und keine menschliche Verantwortung. Gerade bei komplexen und sensiblen Entscheidungen bleibt der Mensch zentral und dauerhaft „in the loop“.
Die entscheidende Frage ist hier mittlerweile gar nicht mehr, ob KI eingesetzt werden sollte, sondern wie und welche Art an KI. Und da schließt sich der Kreis erneut: Wir haben auf der einen Seite (geo-)politischen, gesellschaftlichen, wirtschaftlichen und kapazitären Druck und auf der anderen Seite hohe Anforderungen an Sicherheit, Souveränität und Spezialisierung: Wir müssen es mit dem Potenzial, was wir in Deutschland und Europa haben, schaffen, hier die Brücke zu schlagen. Wenn Wirtschaft, Politik und Verwaltung zusammenarbeiten, können wir Technologie europäisch gestalten, souverän und rechtskonform.
Neben der Technologie, dem politischen Willen und dem wirtschaftlichen Ansporn, hier etwas zu verändern, brauchen wir vielleicht auch einfach noch Mut, tatkräftig positive Visionen von Deutschland und Europa zu entwerfen und handfest zu gestalten.
Dr. Leif-Nissen Lundbæk ist CEO & Co-Founder von Europas souveräner Rechts-KI Noxtua und spricht beim GovTech Gipfel auf dem Panel „Agentic AI – the Future of GovTech“.
Dr. Leif-Nissen Lundbæk ist FORBES 30u30-Visionär sowie CEO und Co-Founder von Noxtua, Europas souveränen Rechts-KI. Die rechtskonforme und juristisch kompetente Rechts-KI hilft Jurist*innen bei der juristischen Recherche, bei der Analyse und dem Verfassen juristischer Dokumente. Der überzeugte Europäer gründete 2017 das europäische KI-Unternehmen u.a. mit Prof. Dr. Michael Huth aus Forschung an der Oxford University und dem Imperial College London.
Zuvor arbeitete der KI-Experte u.a. für Daimler sowie IBM. Er erhielt einen B.Sc. in Wirtschaftswissenschaften von der Humboldt-Universität zu Berlin, einen M.Sc. mit Auszeichnung in Mathematik von der Ruprecht-Karls-Universität Heidelberg, einen M.Sc. in Software Engineering von der University of Oxford sowie seinen PhD in Computing vom Imperial College London. Der Unternehmer ist gefragter Speaker und Autor zu KI und Legal Tech.