Was ist KI-Transparenz? Ein umfassender Leitfaden

Wir nutzen künstliche Intelligenz (KI) häufiger, als wir glauben – manche von uns sprechen täglich mit Siri oder Alexa. Da wir immer mehr über die Auswirkungen von KI erfahren, müssen Unternehmen die Transparenz von KI-Systemen im Blick behalten, vor allem beim Thema Customer Experience (CX).

Unser Leitfaden für Neulinge auf dem Gebiet der KI-Transparenz basiert auf Zahlen und Fakten aus unserem Zendesk Customer Experience Trends-Bericht und erläutert die Bedeutung von KI-Transparenz – die Anforderungen, Vorschriften, Vorteile, Herausforderungen, Best Practices und vieles mehr.

Weitere Infos in diesem Leitfaden:

• Warum ist KI-Transparenz wichtig?
• Anforderungen an KI-Transparenz
• Ebenen von KI-Transparenz
• Regelungen und Richtlinien für KI-Transparenz
• Die Vorteile von KI-Transparenz
• Herausforderungen bei der KI-Transparenz (und Möglichkeiten, sie zu bewältigen)
• Best Practices für KI-Transparenz
• Beispiele für Unternehmen, die KI-Transparenz umgesetzt haben
• Häufig gestellte Fragen
• Wie sieht die Zukunft von KI-Transparenz aus?

Warum ist KI-Transparenz wichtig?

Einfach ausgedrückt ist eine transparente KI wichtig, weil sie eine klare Erklärung dafür liefert, warum diese KI Aufgaben auf eine bestimmte Art handhabt. KI-Transparenz hilft uns, die Gründe für die Entscheidungen und Aktivitäten einer KI zu verstehen, damit wir sicherstellen können, dass diese Ergebnisse fair und zuverlässig sind. Laut unserem CX Trends-Bericht betrachten 65 Prozent der CX-Führungskräfte KI als eine strategische Notwendigkeit, was KI-Transparenz zu einem entscheidenden Element macht, das nicht vernachlässigt werden sollte.

Transparenz in Bezug auf die Daten, auf denen KI-Modelle und ihre Entscheidungen basieren, wird ein entscheidendes Element für den Aufbau und die Aufrechterhaltung des Vertrauens von Kund:innen sein. Zendesk CX Trends-Bericht

Zur KI-Transparenz gehören das Verständnis der ethischen, rechtlichen und gesellschaftlichen Auswirkungen von KI und die Frage, wie Transparenz das Vertrauen von Nutzer:innen und Stakeholder:innen stärkt. Laut unserem CX Trends-Bericht glauben 75 Prozent der Unternehmen, dass ein Mangel an Transparenz in Zukunft zu einer erhöhten Kundenabwanderung führen könnte. Da Anbieter von „AI as a Service (AIaaS)“ KI-Technologie für Unternehmen zugänglicher machen, ist die Gewährleistung von KI-Transparenz wichtiger denn je.

Die ethischen Implikationen von KI erfordern, dafür zu sorgen, dass sich eine KI fair und verantwortungsvoll verhält. Verzerrungen und Einseitigkeit in KI-Modellen können unbeabsichtigt bestimmte Bevölkerungsgruppen diskriminieren. Der Einsatz von KI am Arbeitsplatz kann beispielsweise bei der Einstellung von Mitarbeiter:innen helfen – er kann aber auch dazu führen, dass bestimmte Gruppen aufgrund von irrelevanten Faktoren wie Geschlecht oder Herkunft gegenüber anderen bevorzugt werden. Eine transparente KI trägt dazu bei, Vorurteile abzubauen, um faire Ergebnisse in geschäftlichen Anwendungsfällen zu erzielen.

Die rechtlichen Implikationen von KI erfordern, dass KI-Systeme die von Regierungen festgelegten Regelungen und Gesetze einhalten. Wenn zum Beispiel eine KI-gestützte Software persönliche Daten ohne die notwendige Zustimmung sammelt, verstößt sie möglicherweise gegen Datenschutzgesetze. Die Erarbeitung von Gesetzen, die KI-Transparenz betonen, kann die Einhaltung der rechtlichen Vorgaben sicherstellen.

Bei den gesellschaftlichen Auswirkungen von KI geht es darum zu verstehen, wie KI das tägliche Leben Einzelner und der Gesellschaft als Ganzes beeinflusst. Der Einsatz von KI im Gesundheitswesen kann Ärzt:innen beispielsweise helfen, schneller genaue Diagnosen zu stellen oder personalisierte Behandlungen vorzuschlagen. Dies kann jedoch Fragen nach einem gerechten Zugang aufwerfen, abhängig von der Erschwinglichkeit der Technologie.

Anforderungen an KI-Transparenz

Für eine transparente KI gibt es drei zentrale Anforderungen: Erklärbarkeit, Interpretierbarkeit und Verantwortlichkeit. Sehen wir uns diese Anforderungen genauer an und betrachten wir, wie sie sich auf Trainingsdaten, Algorithmen und die Entscheidungsfindung einer KI auswirken.

Erklärbarkeit

Erklärbare KI („Explainable AI (XAI)“) bezeichnet die Fähigkeit eines KI-Systems, leicht verständliche Erklärungen für seine Entscheidungen und Aktivitäten zu liefern. Wenn zum Beispiel Kund:innen einen Chatbot um Produktempfehlungen bitten, könnte ein KI-System, das Grundsätze der Erklärbarkeit befolgt, Informationen wie diese bereitstellen:

• „Wir glauben, dass Ihnen dieses Produkt aufgrund Ihrer Kaufhistorie und Ihrer Vorlieben gefallen würde.“

• „Wir empfehlen dieses Produkt aufgrund Ihrer positiven Bewertungen für ähnliche Artikel.“

Klare Erklärungen vermitteln Kund:innen ein Verständnis für den Entscheidungsprozess einer KI. Das schafft Kundenvertrauen, da Verbraucher:innen nachvollziehen können, was hinter den Antworten einer KI steckt. Dieses Konzept kann auch als verantwortungsvolle KI, vertrauenswürdige KI oder Glass-Box-System bezeichnet werden.

Das Gegenteil davon sind Black-Box-Systeme. Diese KI-Modelle sind komplex und liefern Ergebnisse, ohne klar zu erklären, wie sie diese erreicht haben. Dieser Mangel an Transparenz macht es Nutzer:innen schwer bis unmöglich, die Entscheidungsprozesse einer KI zu verstehen, was zu einem Mangel an Vertrauen in die bereitgestellten Informationen führt.

Interpretierbarkeit

Interpretierbarkeit in der KI konzentriert sich auf das menschliche Verständnis, wie ein KI-Modell funktioniert und sich verhält. Während sich eine erklärbare KI auf die Bereitstellung klarer Erläuterungen zu den von ihr generierten Ergebnissen konzentriert, geht es bei der Interpretierbarkeit um interne Prozesse (wie die Beziehungen zwischen Inputs und Outputs), um die Vorhersagen oder Entscheidungen des Systems zu verstehen.

Betrachten wir dasselbe Szenario wie oben: Kund:innen bitten einen Chatbot um Produktvorschläge. Ein interpretierbares KI-System könnte erklären, dass es das Modell eines Entscheidungsbaums verwendet, um eine Empfehlung zu generieren.

Verantwortlichkeit

Die Verantwortlichkeit einer KI bedeutet sicherzustellen, dass KI-Systeme für ihre Handlungen und Entscheidungen verantwortlich gemacht werden. Eine KI sollte durch maschinelles Lernen (ML) aus ihren Fehlern lernen und sich mit der Zeit verbessern, während Unternehmen geeignete Maßnahmen ergreifen sollten, um ähnliche Fehler in Zukunft zu vermeiden.

Angenommen, ein KI-Chatbot empfiehlt fälschlicherweise einen Artikel, der nicht lieferbar ist. Kund:innen versuchen, das Produkt zu kaufen, weil sie glauben, dass es verfügbar ist. Später werden sie dann darüber informiert, dass der Artikel vorübergehend nicht auf Lager ist, was zu Frustration führt. Das Unternehmen entschuldigt sich und sorgt für eine menschliche Supervision, um kritische produktbezogene Informationen zu überprüfen und zu validieren, bevor Bots sie an Kund:innen weitergeben können.

Dieses Beispiel für Verantwortlichkeit in Bezug auf eine KI für den Kundenservice zeigt einen Fall, in dem ein Unternehmen die Verantwortung für einen Fehler übernommen, Schritte zur Korrektur geplant und Präventivmaßnahmen eingeführt hat. Unternehmen sollten zudem regelmäßige Audits von KI-Systemen durchführen, um Vorurteile in den Systemen zu erkennen und zu beseitigen. Dadurch können sie faire und diskriminierungsfreie Ergebnisse gewährleisten und die Transparenz von KI fördern.

Ebenen von KI-Transparenz

Es gibt drei Ebenen von KI-Transparenz: das KI-System an sich, die Nutzer:innen des Systems sowie seine globalen Auswirkungen. Die Abstufungen lauten wie folgt:

• Algorithmische Transparenz

• Interaktionstransparenz

• Soziale Transparenz

Die algorithmische Transparenz konzentriert sich auf die Erklärung der Logik, Prozesse und Algorithmen, die von KI-Systemen verwendet werden. Sie bietet Einblicke in verschiedene Arten von KI-Algorithmen wie Modelle für maschinelles Lernen, Entscheidungsbäume (Modelle, die Flussdiagrammen ähnlich sind), neuronale Netze (Berechnungsmodelle) und mehr. Außerdem wird beschrieben, wie die Systeme Daten verarbeiten, wie sie Entscheidungen treffen und welche Faktoren diese Entscheidungen beeinflussen. Diese Transparenzstufe macht die interne Funktionsweise von KI-Modellen für Nutzer:innen und Stakeholder:innen verständlicher.

Die Interaktionstransparenz betrifft die Kommunikation und Interaktion zwischen Nutzer:innen und KI-Systemen. Es geht darum, Interaktionen transparenter und verständlicher zu machen. Unternehmen können dies erreichen, indem sie Bedienoberflächen schaffen, die vermitteln, wie ein KI-System funktioniert und was Nutzer:innen von ihren Interaktionen erwarten können.

Die soziale Transparenz geht über technische Aspekte hinaus und konzentriert sich auf die breiteren Auswirkungen von KI-Systemen auf die Gesellschaft als Ganzes. Diese Transparenzstufe betrifft die ethischen und gesellschaftlichen Auswirkungen des Einsatzes von KI, einschließlich potenzieller Vorurteile, Fairness und Bedenken hinsichtlich des Datenschutzes.

Regelungen und Richtlinien für KI-Transparenz

Da es sich bei künstlicher Intelligenz um eine relativ neue Technologie handelt, haben sich die Vorschriften und Transparenzstandards im Bereich der KI rasch weiterentwickelt, um ethischen, rechtlichen und gesellschaftlichen Bedenken Rechnung zu tragen. Im Folgenden werden einige wichtige Vorschriften und Richtlinien zur Regulierung von künstlicher Intelligenz genannt:

• Datenschutz-Grundverordnung (DSGVO): eingeführt von der Europäischen Union (EU), enthält Bestimmungen zu Datenschutz, Privatsphäre, Einwilligung und Transparenz
• KI-Prinzipien der Organisation für wirtschaftliche Zusammenarbeit und Entwicklung (OECD): eine Reihe von wertebasierten Prinzipien, die den vertrauenswürdigen, transparenten, erklärbaren, verantwortungsvollen und sicheren Einsatz von KI propagieren
• AI Accountability Framework des U.S. Government Accountability Office (GAO): ein Rahmenwerk, das Verantwortlichkeiten und Haftungen im Kontext von KI-Systemen umreißt und Verantwortlichkeiten sowie Transparenz für KI-generierte Ergebnisse gewährleistet
• EU-Gesetz zur künstlichen Intelligenz: ein von der Europäischen Kommission vorgeschlagenes Gesetz, das die Entwicklung von KI-Systemen in der EU regeln soll

Diese Vorschriften können die Nutzung und Entwicklung von KI auf lokaler und globaler Ebene standardisieren. KI-Systeme können durchgängig klarer und vertrauenswürdiger sein, indem sie Transparenz, ethische Erwägungen und Verantwortlichkeit priorisieren.

Die Vorteile von KI-Transparenz

Eine transparente KI bietet in ethischer, betrieblicher und gesellschaftlicher Hinsicht viele Vorteile für Unternehmen. Dies sind einige Vorteile von KI-Transparenz:

• Schaffung von Vertrauen bei Nutzer:innen, Kund:innen und Stakeholder:innen: Nutzer:innen, Kund:innen und Stakeholder:innen sind eher bereit, sich auf KI-Technologien oder Unternehmen einzulassen, die einen KI-Help-Desk einsetzen, wenn sie verstehen, wie diese Systeme funktionieren und darauf vertrauen können, dass sie fair und ethisch einwandfrei arbeiten.
• Förderung von Verantwortlichkeit und einem verantwortungsvollen Umgang mit KI: Eine klare Dokumentation und Erläuterung von KI-Prozessen erleichtert den verantwortungsvollen Einsatz von KI und macht Unternehmen im Falle von Fehlern oder Voreingenommenheit der KI verantwortlich.
• Erkennung von Datenverzerrung und Diskriminierung sowie Abschwächung dieser Effekte: Transparenz von Datenquellen und Algorithmen ermöglicht es Entwickler:innen und Datenwissenschaftler:innen, Verzerrungen und diskriminierende Muster zu erkennen. So können Unternehmen proaktiv Maßnahmen ergreifen, um Vorurteile zu beseitigen und faire, gerechte Ergebnisse zu erzielen.
• Verbesserung der KI-Leistung: Entwickler:innen, die die Funktionsweise der Modelle genau verstehen, können Algorithmen und Prozesse effektiver abstimmen. Das von Nutzer:innen gesammelte Feedback und die Erkenntnisse aus Leistungsdaten ermöglichen kontinuierliche Verbesserungen, um die Genauigkeit und Effizienz von KI-Systemen im Laufe der Zeit zu steigern, insbesondere bei KI für die Employee Experience.
• Berücksichtigung ethischer Fragen und Bedenken: Transparenz in der KI ermöglicht es Stakeholder:innen, die ethischen Auswirkungen von KI-gestützten Entscheidungen und Handlungen zu bewerten und sicherzustellen, dass KI-Systeme im Rahmen ethischer Richtlinien arbeiten.

KI-Transparenz steigert nicht nur die Zuverlässigkeit von KI-Systemen, sondern trägt auch zu einer verantwortungsvollen und ethischen Nutzung bei.

Herausforderungen bei der KI-Transparenz (und Möglichkeiten, sie zu bewältigen)

Neben den vielen Vorteilen von KI-Transparenz gibt es auch einige Herausforderungen. Diese Herausforderungen können jedoch effektiv im Griff behalten und minimiert werden.

Daten sicher aufbewahren

Die Gewährleistung des Schutzes der Kundendaten bei gleichzeitiger Wahrung der Transparenz kann ein Balanceakt sein. Es kann vorkommen, dass Bemühungen um Transparenz die Weitergabe von Detailinformationen über die in der KI-Software verwendeten Daten erfordern, was Bedenken hinsichtlich des Datenschutzes weckt. Laut unserem CX-Trends-Bericht geben 83 Prozent der CX-Führungskräfte an, dass Datenschutz und Cybersicherheit in ihren Kundenservice-Strategien höchste Priorität haben.

Komplexe KI-Modelle erklären

Einige KI-Modelle, vor allem solche, die Deep Learning oder neuronale Netze verwenden, lassen sich nur schwer mit einfachen Worten erklären. Das macht es Nutzer:innen wiederum schwer, die Entscheidungsfindung und die Prozesse hinter der intelligenten Automatisierung komplexer KI-Modelle zu verstehen.

Wahrung von Transparenz bei KI-Modellen, die sich ständig weiterentwickeln

Da sich KI-Modelle im Laufe der Zeit verändern und anpassen, wird es immer schwieriger, für Transparenz zu sorgen. Updates oder Änderungen an KI-Systemen oder die Nutzung neuer Trainingsdaten können Entscheidungsprozesse verändern, was die Aufrechterhaltung einer lückenlosen Transparenz erschwert.

Best Practices für KI-Transparenz

Die Einbeziehung von Best Practices zur KI-Transparenz trägt dazu bei, die Verantwortlichkeit und das Vertrauen zwischen KI-Entwickler:innen, Unternehmen und Nutzer:innen zu fördern. Eine klare und offene Kommunikation über Datenpraktiken, Maßnahmen zur Vermeidung von Verzerrungen und die in KI-Modellen verwendeten (und nicht verwendeten) Daten kann dazu beitragen, dass sich Nutzer:innen beim Einsatz von KI-Technologie sicherer fühlen. Im Folgenden finden Sie einige Best Practices zur Gewährleistung einer transparenten KI.

Klären Sie Ihre Kund:innen darüber auf, wie ihre Daten erfasst, gespeichert und verwendet werden

Stellen Sie Kund:innen transparente und verständliche Erklärungen über die Erfassung, Speicherung und Nutzung ihrer Daten durch KI-Systeme zur Verfügung. Definieren Sie klare Datenschutzrichtlinien, in denen die Art der erfassten Daten, der Zweck der Erfassung, die Speichermethoden und die Datennutzung in KI-Systemen genau beschrieben werden. Der Schutz der Privatsphäre von Kund:innen beginnt damit, dass die ausdrückliche Zustimmung der Nutzer:innen eingeholt wird, bevor ihre Daten für die Verarbeitung durch eine KI erfasst oder verwendet werden.

Legen Sie dar, wie Sie systemimmanenten Vorurteilen vorbeugen.

Führen Sie regelmäßige Bewertungen durch, um Verzerrungen und Vorurteile innerhalb Ihrer KI-Software zu erkennen und zu beseitigen. Informieren Sie über die Methoden, die zur Verhinderung und Beseitigung von Vorurteilen in KI-Modellen eingesetzt werden, damit Nutzer:innen die Maßnahmen nachvollziehen können, die zur Verbesserung der Fairness und zur Vermeidung von Diskriminierung unternommen werden. Führen Sie Aufzeichnungen über die Erkennung und Bewertung von Vorurteilen sowie die Prozesse, die Ihr Engagement für Kundentransparenz und für die Vermeidung von Vorurteilen untermauern.

Erläutern Sie, welche Daten in KI-Modellen enthalten sind und welche nicht.

Definieren und kommunizieren Sie klar die Arten von Daten, die in KI-Modelle einbezogen und die von ihnen ausgeschlossen werden. Begründen Sie die Auswahl der Daten, die für das Training einer KI verwendet werden, damit Nutzer:innen die Grenzen und Fähigkeiten des Modells besser verstehen können. Vermeiden Sie die Einbeziehung sensibler oder diskriminierender Daten, die zu Voreingenommenheit führen oder das Recht auf Privatsphäre verletzen könnten.

Beispiele für Unternehmen, die KI-Transparenz umgesetzt haben

Hier sind einige Beispiele für Unternehmen, die Initiativen für eine transparente KI in die Tat umsetzen. Ihre Bemühungen um KI-Transparenz und die Einführung verantwortungsvoller KI-Praktiken tragen dazu bei, das Vertrauen ihrer Kund:innen zu festigen.

Zendesk

Zendesk entwickelt Software für die Customer Experience, mit der Benutzer:innen den Kundensupport mithilfe von KI sowie mit Tools für maschinelles Lernen, wie generative KI und KI-Chatbots, verbessern können. Zendesk-KI legt Wert auf Erklärbarkeit, indem sie Einblicke in die Funktionsweise der KI-gestützten Tools gewährt und erklärt, wie KI-Entscheidungen zustande kommen.

Zendesk bietet auch Weiterbildungsressourcen und Dokumentationen an, die Benutzer:innen dabei helfen, die Integration von KI in Kundenservice-Software, die ethischen Implikationen von KI in der CX und ihre Auswirkungen auf Kundeninteraktionen zu verstehen.

Lush

Der Kosmetikeinzelhändler Lush setzt sich für den ethischen Einsatz von KI in seinen Geschäftsabläufen ein. Das Unternehmen verzichtet auf den Einsatz von Social-Scoring-Systemen oder Technologien, die die Privatsphäre oder Autonomie der Kund:innen verletzen könnten, und geht transparent damit um. Lush beteiligt sich an öffentlichen Diskussionen und vertritt seine Position zu ethischen KI-Praktiken über die Kommunikations- und Social-Media-Kanäle des Unternehmens.

OpenAI

Das Unternehmen OpenAI betreibt Forschung im Bereich KI und ist für seine Anwendungen ChatGPT und Dall-E bekannt, die auf generativer KI basieren. OpenAI veröffentlicht regelmäßig Forschungsarbeiten und Ergebnisse, die Insights über KI-Entwicklungen und Durchbrüche auf dem Gebiet geben.

OpenAI macht seine Ziele, seine ethischen Richtlinien und die möglichen gesellschaftlichen Auswirkungen von KI durch eine umfassende Dokumentation transparent. Das Unternehmen unterstützt Zusammenarbeit und Austausch in der gesamten KI-Community, außerdem fördert es die Transparenz und den Wissenstransfer zu KI-Entwicklung.

65 Prozent der CX-Führungskräfte sehen KI nicht als Modeerscheinung, sondern als strategische Notwendigkeit und reale Größe. Zendesk CX Trends-Bericht

Häufig gestellte Fragen

Wie sieht die Zukunft von KI-Transparenz aus?

Mit der Weiterentwicklung von künstlicher Intelligenz wird auch die KI-Transparenz zunehmen. Obwohl es schwierig ist, genau vorherzusagen, wie die Zukunft von KI-Transparenz aussehen wird, erwarten wir, dass mehrere Trends künftige Entwicklungen prägen.

Zu diesen Trends gehört die Entwicklung besserer Werkzeuge zur Erklärung komplexer KI-Modelle, damit Nutzer:innen die Entscheidungsprozesse von KI besser nachvollziehen können, was zu mehr Vertrauen und größerer Anwenderfreundlichkeit beitragen wird.

Auch gesetzliche Regelungen für KI und ethische Überlegungen werden stärker in den Vordergrund rücken. Dies wird es Unternehmen erleichtern, Standardpraktiken für die KI-Transparenz einzuführen, Bedenken hinsichtlich Voreingenommenheit, Fairness und Datenschutz auszuräumen und verantwortungsvollere KI-Systeme einzuführen.