1. „Die öffentliche Verwaltung braucht gar keine generative KI.“
Es ist unstrittig, dass die öffentliche Verwaltung viel nachzuholen hat beim Thema Digitalisierung. Die Herausforderungen sind dabei so groß und so grundlegend, dass die Frage, ob die öffentliche Verwaltung generative KI zum jetzigen Zeitpunkt überhaupt benötigt, durchaus gerechtfertigt scheint.
Allerdings: Der wachsende Fachkräftemangel, lange Planungs- und Genehmigungsverfahren sowie steigende regulatorische Komplexität belasten die Handlungs- und Leistungsfähigkeit der öffentlichen Verwaltung. Verschärft wird dieser Umstand durch die Tatsache, dass bis 2030 über ein Viertel der in der Verwaltung Beschäftigten in den Ruhestand gehen wird. Die Frage sollte daher nicht lauten, ob Verwaltung KI überhaupt braucht, sondern vielmehr: Kann die Verwaltung überhaupt ohne KI? Denn unlängst ist deutlich geworden, dass politische Ziele wie das Deutschland-Tempo nicht ohne die Nutzung von KI zur Entlastung der Verwaltungsmitarbeitende erreicht werden.
2. „Die öffentliche Hand darf generative KI gar nicht nutzen.“
Fraglos steht die öffentliche Verwaltung vor besonderen Herausforderungen bei der Entwicklung und Nutzung von KI-Lösungen. Ethische, technische und regulatorische Anforderungen müssen besonders betrachtet werden, wenn der Staat seiner Vorbildfunktion gerecht werden möchte. Dennoch: Die Nutzung von generativer KI durch Behörden und Einrichtungen der öffentlichen Hand ist nicht grundsätzlich ausgeschlossen oder gar verboten. Vielmehr regelt beispielsweise die kommende KI-Verordnung der EU explizit auch die Nutzung und Entwicklung von KI durch Behörden.
Behörden dürfen KI also grundsätzlich nutzen, auch der Datenschutz steht dem in der Regel nicht zwingend entgegen. Aber: Wenn sie generative KI implementieren und nutzen will, muss die öffentliche Verwaltung die rechtssichere Nutzbarmachung von Daten, die Frage nach der Verantwortung und Haftbarkeit bei von KI unterstützten (Fehl-)Entscheidungen sowie erhöhte Anforderungen an Transparenz und Nachvollziehbarkeit von KI-Systemen adressieren. Hier spielt auch Vertrauen eine große Rolle, das sich in den meisten Fällen erst erarbeitet werden muss.
3. „Es lässt sich nicht verhindern, dass generative KI sich Antworten ausdenkt, die gar nicht stimmen.“
Nicht nur im öffentlichen Sektor können irreführende oder falsche Aussagen von KI-Modellen schwerwiegende Folgen haben. Dennoch: die Verbreitung von Fehlinformationen, eine fehlerhafte Antragsbearbeitung oder diskriminierende Ergebnisse können zu einem enormen Vertrauensverlust gegenüber dem Staat führen. Tatsächlich lassen sich diese Risiken von generativer KI mittlerweile gut beherrschen: Unter dem Begriff Retrieval-Augmented Generation (RAG) findet sich eine Vielzahl an Tools wieder, mithilfe derer die Sprachmodelle auf aktuelles Wissen und interne Daten zugreifen können. So müssen sie sich bei ihrer Suche nach einer Antwort nicht auf ihr vortrainiertes Wissen verlassen, sondern können kontextspezifische Antworten generieren. Zusammen mit weiteren Maßnahmen kann darüberhinausgehend auch die Genauigkeit und Vertrauenswürdigkeit der generierten Antworten erhöht werden, was letztlich zur Verbesserung der Qualität und Zuverlässigkeit der Modelle beiträgt.
4. „Wenn ich generative KI im öffentlichen Sektor nutze, mache ich mich abhängig von einem einzelnen Anbieter oder Modell.“
Auch wenn alle derzeit verfügbaren großen Sprachmodelle auf derselben technologischen Grundlage beruhen, sind sowohl in der Handhabung als auch in der Qualität deutliche Unterschiede zu erkennen. Gleichzeitig schreitet die Weiterentwicklung der Basismodelle kontinuierlich voran, was auch für die entsprechende Kostenstruktur der kommerziellen Anbieter gilt. Einige Open Source Modelle sind mittlerweile zwar in der Lage, ähnlich performante Ergebnisse zu erzielen wie die kommerziellen Gegenstücke, allerdings unterliegen auch sie einem kontinuierlichen Wandel und zusätzlich einem erhöhten Risiko, ggf. nicht weiterentwickelt zu werden.
Um stets das beste Ergebnis zu erzielen, muss bei der Implementierung von generativer KI im öffentlichen Sektor der dynamischen Entwicklungslandschaft Rechnung getragen und die Abhängigkeit von einem einzigen Modell oder Anbieter vermieden werden. Dafür benötigt es sowohl ein kontinuierliches und anwendungsfallspezifisches Benchmarking der aktuellen Modellgeneration als auch eine fortlaufende Versionierung sowie ein Monitoring des Systems zur frühzeitigen Entdeckung eventueller Leistungseinbußen. Die Austauschbarkeit von Modellen auch unterschiedlicher Anbieter kann dabei tatsächlich gewährleistet werden – wenn diese frühzeitig bedacht und in der Architektur berücksichtigt wird. Einen Teil der Lösungen bringen die Sprachmodelle dann auch selbst mit: Sie sind nämlich in der Lage, Anweisungen für sich selbst zu optimieren.
5. „Bislang hat noch niemand generative KI im öffentlichen Sektor implementiert“
Die Anwendungsfälle, die generative KI unterstützen kann, sind vielfältig. Von der Extraktion spezifischer Datenpunkte aus unstrukturierten Daten über die Aufbereitung und Bereitstellung von behördeninternem Wissen bis hin zur teilautomatisierten Unterstützung ganzer Antragsprozesse. An Ideen mangelt es selten. Allerdings ist die Unsicherheit angesichts des innovativen Charakters der Technologie noch groß, da viele Behörden tatsächlich gerade erst anfangen, sich mit KI im allgemeinen und generativer KI im speziellen auseinanderzusetzen. Insbesondere die Entwicklung skalierter Systeme stellt viele vor eine neue Herausforderung.
Wir von Capgemini Invent beraten eine Vielzahl an Behörden und Einrichtungen der öffentlichen Hand bei der Entwicklung von anwendungsspezifischen KI-Lösungen. Dabei sind wir bestens vertraut mit den der öffentlichen Verwaltung inhärenten Herausforderungen, denen für so ein Unterfangen begegnet werden muss: Sei es die rechtssichere Nutzung von Daten, eine ethische und vertrauenswürdige KI-Governance oder ein notwendiger kultureller und organisatorischer Wandel: Gemeinsam mit unseren Kundinnen und Kunden entwickeln wir so bereits heute eine konkrete GenAI-Strategie mit belastbarer Roadmap und setzen Projekte bis zur Nutzungsreife um. Gemeinsam gestalten wir die Zukunft der Verwaltung – mit Generativer KI und darüber hinaus.