Das KI-Gesetz der EU hat in Europa ein neues Zeitalter für künstliche Intelligenz (KI) eingeläutet und dabei einen Rahmen geschaffen, den in Europa tätige Organisationen befolgen müssen.
Doch selbst mit der Einführung neuer KI-Leitplanken bleiben verschiedene Fragen und Bedenken bestehen – beispielsweise rund um KI-gestützte Cyberangriffe, Deepfakes, aber auch bezüglich potenziell ungenutzter Vorteile der Technologie.
KI hat das Potenzial, die Art und Weise, wie wir leben, arbeiten und interagieren, radikal zum Besseren zu verändern. Sie wird neue Wege zur Lösung geschäftlicher Herausforderungen und zur Schaffung von Mehrwerten für die Kundschaft von Unternehmen eröffnen. Damit KI jedoch ihr volles Potenzial entfalten kann, müssen Unternehmen nicht nur wissen, wie sie KI sicher implementieren, sondern auch, wie sie Vertrauen in jeden Aspekt einer KI-Strategie einbetten – und wie sie ihre Vertrauenswürdigkeit gegenüber Mitarbeitenden, Partnern, Kundschaft und Aufsichtsbehörden kommunizieren können.
Ein klarer Rahmen für vertrauenswürdige KI
Je stärker Unternehmen versuchen, KI in ihre Prozesse, Funktionen und Geschäftsmodelle einzubinden, desto wichtiger wird das Thema Vertrauen. Ein Thema, das einen ganzheitlichen Ansatz erfordert und ganz unterschiedliche Formen haben kann, z. B. als:
- Schutz von Verbraucherdaten
- Schaffung von Transparenz in Bezug auf KI- und Datennutzung
- Umsetzung robuster Cybersicherheitsmaßnahmen
- Bereitstellung verantwortungsvoller Produkte und Dienstleistungen
Wer Vertrauen schafft, fördert Kundentreue, stärkt die Zuversicht von Investoren in das Unternehmen und ist außerdem dazu in der Lage, schneller und nachhaltiger Innovationen voranzutreiben, zu expandieren und widerstandsfähiger zu werden.
Von KI profitieren und Vertrauen schaffen
Doch wie können Unternehmen von den KI-Vorteilen profitieren und gleichzeitig digitales Vertrauen schaffen?
Wichtig ist vor allem, dass die Unternehmen innerhalb eines klar definierten Rahmens agieren, der festlegt, wie ein vertrauenswürdiges KI-gestütztes System aussieht. Ein solcher Rahmen sollte beispielsweise folgende Punkte umfassen:
- Konzeption des KI-gestützten Systems
- Design des KI-gestützten Systems
- Implementierung des KI-gestützten Systems
- Laufende Nutzung des KI-gestützten Systems
- Überprüfung des KI-gestützten Systems
- Übereinstimmung mit dem aktuellen regulatorischen Umfeld für KI
5 Kriterien für vertrauenswürdige KI
Es gibt fünf wichtige Leitkriterien, an denen sich Unternehmen orientieren können, um zu verstehen, wie vertrauenswürdige KI aussehen sollte.
- Verantwortung
KI-Systeme sollten von Menschen gestaltet sein und eine Überwachung durch den Menschen sollte in jedem Schritt implementiert werden. Die Verantwortlichen für die verschiedenen Phasen im Lebenszyklus eines KI-Systems sollten klar und eindeutig identifizierbar sein und die Verantwortung für die jeweiligen Ergebnisse übernehmen. - Transparenz
KI-Systeme sollten „gläsern“ sein und die Verwendung von Daten sollte für die Kundschaft und die jeweiligen Interessengruppen erklärbar, transparent und verständlich sein. - Privatsphäre
Auch der Schutz der Privatsphäre ist wichtig: KI-Systeme sollten so konzipiert sein, dass sie die Privatsphäre des Einzelnen und die Vertraulichkeit von persönlichen und organisatorischen Daten respektieren und schützen. - Unvoreingenommenheit
KI-Systeme sollten fair und institutionell unvoreingenommen sein - Resilienz
KI-Systeme sollten so entwickelt und eingesetzt werden, dass sie auch bei unbeabsichtigten Fehlern und böswilligen Angriffen sicher und widerstandsfähig sind.
Kriterien sind branchenabhängig
Einige der Kriterien sind spezifischer für bestimmte Branchen. So gibt es beispielsweise im Bereich der digitalen Resilienz wichtige Grundprinzipien, die sich in der Regel als besonders sinnvoll anwendbar herauskristallisiert haben:
- Bereichsspezifisch
Der Einsatz von KI sollte stets mit Blick auf eine bestimmte Branche entwickelt und eben darauf zugeschnitten sein. - Human-in-the-Loop
KI wird den Menschen nicht vollständig ersetzen, sondern sollte mit ihm zusammenarbeiten und als „Kopilot“ fungieren, um schnell Fakten zu liefern, Ereignisse zusammenzufassen und die dringendsten Warnungen in den Vordergrund zu stellen. - Offen und erweiterbar
Kunden, Partner und weitere relevante Interessensgruppen sollten die Möglichkeit haben, KI-Modelle zu erweitern oder ihre eigenen Modelle in Übereinstimmung mit ihren Richtlinien und ihrer Risikotoleranz einzubringen.
Was insgesamt wichtig und erforderlich ist, ist vor allem ein hohes Maß an Transparenz und klare Bewertungsmöglichkeiten hinsichtlich des Einsatzes von KI im eigenen Unternehmen. Jeder interne Einsatz von KI – egal, ob bei der Entwicklung von Produkten oder nur der Protokollführung im Meeting – muss der Einhaltung strenger Nutzungsrichtlinien und der Kontrolle durch einen internen KI-Ausschuss unterliegen.
Fazit: Es ist ein Balanceakt
Der Einsatz von KI in Unternehmen ist ein Balanceakt. Aber es ist sinnvoll, sich die aktuelle Begeisterung zunutze zu machen, die der KI-Hype ausgelöst hat. Es ist nämlich immer einfacher, etwas zu verändern oder einzuführen, wenn die Mitarbeitenden davon begeistert und entsprechend engagiert sind. Gleichzeitig sollte der Prozess mit Bedacht, Maß und Kontinuierlichkeit angegangen werden – und natürlich mit Fokus auf die Grundprinzipien Ihres Unternehmens.
Die Grundprinzipien für den vertrauenswürdigen Einsatz von KI sind nicht neu und sollten im Grunde jedem Unternehmen sehr am Herzen liegen – denn Kundenvertrauen war schon immer das wertvollste Gut, das sich ein Unternehmen durch stetige, analytische Prozesse zunutze machen konnte. Und nur durch ein ausreichendes Maß an Transparenz und entsprechende rechtliche Rahmenbedingungen werden Unternehmen in der Lage sein, Bedenken und Ängste im Zusammenhang mit KI zu zerstreuen.
Vergessen Sie nicht: Nicht nur Ergebnisse sind wichtig und müssen erklärbar sein – auch der Prozess, mit dem Sie zu den Ergebnissen gelangt sind, verlangt Nachvollziehbarkeit.
Die Zukunft der KI ist vielversprechend. Aber es ist der sichere und verantwortungsvolle Einsatz, der die Zukunft des digitalen Vertrauens in und für Unternehmen auf der ganzen Welt bestimmen wird.
Hilfreiche weiterführende Informationen
- Studie: Lagebericht Security 2024: Der Wettlauf um KI-Vorteile
- Podcast: Digitaler Kompass: Unternehmen auf Kurs Richtung digitale Resilienz
- Studie: Prognosen für 2024: Strategien für das KI-Zeitalter
- Artikel: Drei KI-basierte Angriffsvarianten, die jeder kennen sollte
- E-Book: Die 50 größten Cybersecurity-Bedrohungen
- Artikel: KI-Gesetz der EU: DAS sind die wichtigsten Punkte
PS: Sollten Sie den Handelsblatt Summit Zukunft IT 2024 besuchen, hören Sie sich auf jeden Fall den Vortrag meines Kollegen und KI-Experten Philipp Drieger an, der am Mittwoch, den 12. Juni über den Zusammenhang von digitaler Resilienz und künstlicher Intelligenz spricht.