Jahrelang folgten Software-Deals in Unternehmen einem vertrauten Drehbuch. Einkäufer:innen bewerteten Funktionen, Preise, Integrationen und Implementierungszeitpläne. Sicherheit und Recht wurden von einem separaten Beschaffungsteam geprüft, was der geschäftlichen Entscheidung oft untergeordnet war.
Diese Ära ist vorbei. Etwas Grundlegendes hat sich verschoben, da sich die KI von der Beantwortung von Fragen zu eigenständigen Handlungen weiterentwickelt – sie verarbeitet Rückerstattungen, aktualisiert Datensätze und steuert Lösungen ohne menschliche Überprüfung. Wenn KI auf dieser Ebene Fehler macht, sind die Folgen nicht einfach nur eine falsche Antwort in einem Chat. Es handelt sich um Datenvorfälle, Compliance-Verstöße, Markenschäden und den Verlust von Kund:innen. Und die Einkäufer:innen wissen das.
Unsere Untersuchung, die mit 300 in den USA ansässigen Fachleuten durchgeführt wurde, die Kundenservice-Plattformen empfehlen oder bewerten, zeigt, dass das Vertrauen in KI nicht mehr unabhängig von der Kaufentscheidung evaluiert wird. In vielen Unternehmen ist es die Kaufentscheidung selbst. Dieser Bericht zeigt auf, was das Zendesk-Forschungsteam herausgefunden hat – und was dies für jedes Unternehmen bedeutet, das KI im Kundenservice einsetzt.
Wichtige Erkenntnisse:
„Der größte Begrenzungsfaktor für die KI-Einführung ist derzeit nicht die Leistungsfähigkeit. Die Modelle sind außergewöhnlich. Der Begrenzungsfaktor ist das Vertrauen.“ Shana Simmons, Chief Legal Officer, Zendesk
Sicherheit und Governance sind nicht nur wichtig – sie dominieren
In unserer Untersuchung haben wir die Befragten gebeten, 21 Plattformfunktionen bei der Auswahl einer Kundenservice-Lösung zu bewerten. Sicherheits-, Compliance- und Governance-Kontrollen landeten auf Platz 1 – bewertet als wichtiger als bewährte KI-Funktionen, nachgewiesener ROI und die Gesamtkosten des Betriebs.
Wir haben sie auch gebeten, ihre kritischste betriebliche Herausforderung aus 25 Optionen zu identifizieren. Compliance und Sicherheit landeten auch dort auf Platz 1.
Dasselbe Anliegen führt beide Listen an. Das passiert nicht oft, und es ist ein Signal, dem man Aufmerksamkeit schenken sollte.
Top 5 der zu lösenden Herausforderungen (aus 25):
-
Compliance/Sicherheit
Inkonsistente Servicequalität
Verzögerungen bei der Erstantwortzeit
Lange Lösungszeiten
Steigende Servicekosten
Die größte Hürde für die KI-Einführung ist nicht das Budget oder die Kompetenz – es ist die Governance
Unternehmen debattieren nicht darüber, ob sie KI im Kundenservice einführen sollen. Diese Frage ist geklärt. Aber als wir fragten, was Unternehmen tatsächlich daran hindert, voranzukommen, hob sich eine Antwort deutlich vom Rest ab.
Nicht das Budget. Nicht die Fähigkeiten. Nicht die technische Bereitschaft. Governance (Datenschutz, Sicherheitsprüfungen und Risikobewertung) ist das größte Hindernis, das zwischen den Unternehmen und der KI-Bereitstellung steht, auf die sie zusteuern.
Was die KI-Einführung verhindert:
|
Bedenken bezüglich der KI-Governance: 32 %
Systeme/Daten nicht bereit: 27 %
Die menschliche Note soll nicht verloren gehen: 24 %
Es fällt schwer, der KI im Kundenkontakt zu vertrauen: 23 %
Unsicherheit beim Einstieg: 18 %
|
Die Barriere ist nicht die Fähigkeit. Die Modelle sind außergewöhnlich. Die Barriere ist das Vertrauen – und Vertrauen erfordert eine Governance-Infrastruktur, die die meisten Unternehmen erst noch aufbauen müssen.
Unternehmen warten nicht. Sie gehen sequenziell vor
Trotz der Bedenken hinsichtlich der Governance stehen die Unternehmen nicht still. Sie bewegen sich in einer bewussten, durch Vertrauen kalibrierten Reihenfolge durch die KI-Einführung.
Fast 2 von 3 Befragten haben bereits einen KI-Copiloten implementiert, um ihre Mitarbeiter:innen zu unterstützen. Die Daten zeigen ein klares Muster: Unternehmen beeilen sich, KI einzuführen, bei der der Mensch die Kontrolle behält, während sie weitaus vorsichtiger agieren, wenn es um KI geht, die autonom im Namen der Kund:innen handelt.
KI-Einführung: intern vs. kundenorientiert
|
KI-Copilot (Unterstützung für Mitarbeiter:innen): ~67 % – am weitesten verbreitet
KI-Analysen & Reporting: Moderate Akzeptanz
Hilfezentrum/Wissensdatenbank: Moderate Akzeptanz
Autonome KI-Agenten (kundenorientiert): Geringere Akzeptanz
|
Dies ist keine organisatorische Ängstlichkeit. Es ist eine rationale Abwägung. Und die Absichtsdaten machen deutlich, dass dies kein dauerhaftes Zögern ist – 4 von 10 Unternehmen geben an, dass sie autonome KI-Agenten einführen wollen, es aber noch nicht getan haben. Die Nachfrage ist da. Was sie zurückhält, ist nicht der Wille, sondern das Vertrauen, das aus einer ausgereiften Vertrauensinfrastruktur resultiert.
Die Unternehmen, die sich am umsichtigsten durch diese Sequenz bewegen, bauen das Fundament auf, das den nächsten großen Sprung ermöglicht.
Wenn das Vertrauen bricht, sind die Folgen real
Auf die Frage, was sie ihrer Geschäftsführung sagen würden, um die Priorisierung von Sicherheit und Compliance zu rechtfertigen, ließen sich die Antworten der Befragten in drei wiederkehrende Themen unterteilen.
Der Ruf der Marke
Die Befragten gaben an, dass ein Sicherheitsfehler nicht nur einen Kunden kostet, sondern ihn direkt an einen Mitbewerber übergibt, und positive Erfahrungen schnell von Zweifeln überschattet werden können, die sich selten zu Ihren Gunsten auflösen.
„Eine Datenpanne oder ein Sicherheitsvorfall kann dem Ruf unserer Marke irreparablen Schaden zufügen. Kund:innen müssen darauf vertrauen können, dass ihre sensiblen Daten bei uns sicher sind. Wenn wir dieses Vertrauen verlieren, kann das zu einer Massenabwanderung von Kund:innen führen.“ Kommerziell, IT
Finanzielle Strafen
Das finanzielle Risiko aus einem Compliance-Fehler endet selten mit formalen Bußgeldern – ein eingeschränkter Marktzugang, eine verstärkte Prüfungsaufsicht und eine Obergrenze für das Wachstum können ebenfalls die Folge sein.
„Jede Datenpanne oder jeder Compliance-Verstoß kann zu erheblichen finanziellen Strafen, rechtlichen Konsequenzen und langfristigen Schäden für unsere Marke führen.“ Digital, Operations
Betriebliche Störungen
Sicherheitsvorfälle stoppen nicht nur den Betrieb – sie blockieren ihn vollständig, verlagern die Aufmerksamkeit der Führungsebene vom Wachstum auf die Schadensbegrenzung und schwächen dabei das Vertrauen der Mitarbeiter:innen.
„Es führt zu Sicherheitsverletzungen, Produktivitätsverlusten und Reputationsschäden für das Unternehmen.“ Großunternehmen, Operations
Drei Dinge, die jeder vertrauenswürdige KI-Anbieter liefern muss
Basierend auf dem, was die Daten über die Anforderungen von Einkäufer:innen bei der Anbieterbewertung verraten, müssen vertrauenswürdige Anbieter Stärke in drei Kerndimensionen beweisen. Fragen Sie bei der Bewertung nach spezifischen Details und nicht nach Marketingversprechen.
1. Governance
Die Governance-Frage der Einkäufer:innen hat sich von „Haben Sie Richtlinien?“ zu „Können Sie mir die Beweise zeigen?“ verlagert.
Unternehmen müssen Compliance-Anforderungen bewältigen, die dokumentierte, überprüfbare Beweise erfordern – Kontrollen, die einer jährlichen Prüfung standhalten, und nicht nur Marketing-Zusicherungen. Ebenso dringlich: Das regulatorische Umfeld rund um die KI bewegt sich schnell, und Schritt zu halten ist eine echte betriebliche Herausforderung.
Die Anbieter, die hier Vertrauen gewinnen, sind nicht diejenigen mit einer Governance-Seite auf ihrer Website. Es sind diejenigen, deren Kontrollen standhalten, wenn die Prüfungsinstanz vor der Tür steht.
2. Kontrolle
Die Kontrollanforderungen der Einkäufer:innen drehen sich im Kern um Sicherheit – nicht nur um Leistungsfähigkeit.
Unternehmen müssen wissen, was ihre KI mit ihren Daten macht, wer darauf zugreifen kann und ob sie gestoppt werden kann. Sie fragen, ob ihre Daten von anderen Kund:innen isoliert sind. Sie fragen, ob die Offenlegung personenbezogener Daten (PII) abgefangen wird, bevor sie zu einem Prüfungsbefund führt.
Transparenz ist kein nettes Produkt-Feature. Sie ist die Art und Weise, wie Unternehmen für die in ihrem Namen agierende KI rechenschaftspflichtig bleiben.
3. Konsequenzen-Management
Kein Governance-Ansatz schließt die Möglichkeit eines Fehlers vollständig aus – und Einkäufer:innen wissen das.
Die Konsequenzen, die sie beschreiben, sind konkret: irreparabler Markenschaden, der loyale Kund:innen zu ehemaligen macht, finanzielle Strafen, die sich noch lange nach dem eigentlichen Vorfall summieren, und betriebliche Störungen, die den Fokus der Führung von Wachstum auf Schadensbegrenzung verlagern.
Diese Szenarien sind nicht hypothetisch – sie sind der Grund, warum die Reaktion auf Vorfälle zu einer Bedingung für die Anbieterauswahl geworden ist und nicht erst im Nachhinein bedacht wird. Einkäufer:innen wollen wissen, wer verantwortlich ist, wenn etwas schiefgeht. Diese Antwort ist ein zentrales Vertrauenssignal.
Anbieter, die Fragen zu diesen drei Säulen präzise beantworten – und ihre Antworten mit Dokumenten, unabhängigen Kontrollen und echten Beispielen untermauern –, bauen echte Vertrauensinfrastruktur auf. In die KI-Zeitalter ist das nicht nur gute Praxis. Es ist ein Wettbewerbsvorteil.
Leitfaden für Einkäufer:innen: Die Checkliste zur KI-Vertrauensbewertung
Wenn Sie KI im Kundenservice bewerten, sollte das Vertrauen ein Kriterium erster Ordnung sein, nach dem bereits während der Ausschreibung gefragt wird – nicht erst nach der Kaufentscheidung. Hier sind die Fragen, die man jedem Anbieter stellen sollte:
Zur Governance:
Können Sie dokumentierte Prozesse zur Vermeidung von KI-Schäden vorweisen, und wurden diese unabhängig überprüft oder zertifiziert?
Welche Zertifizierungen für das KI-Management besitzen Sie (z. B. ISO 42001, CSA STAR Level 1 & 2)?
Wie sind Ihre Rechts- und Sicherheitsteams an Produktentscheidungen zur KI beteiligt?
Wie bleiben Sie regulatorischen Änderungen im Bereich der KI in den verschiedenen Rechtsräumen einen Schritt voraus?
Können Sie Ihren Prozess zur Bewertung der KI-Auswirkungen offenlegen?
Zur Kontrolle:
Wie kann ich überwachen, was meine KI-Agenten in Echtzeit tun – und kann ich die Logik hinter bestimmten Interaktionen sehen, nicht nur die Ergebnisse?
Wie überwachen und blockieren Sie böswillige Bedrohungen wie Prompt-Injections?
Welche Transparenz und Kontrolle haben Sie über Datenströme zu Drittsystemen, die in Ihre Plattform integriert sind?
Wie viel Übersicht und Kontrolle habe ich über meine Workflows und den Weg meiner KI-Automatisierung?
Zum Konsequenzen-Management:
Wie sieht Ihr Prozess zur Reaktion auf Vorfälle aus, wenn etwas schiefgeht?
Wie schnell können Sie Schwachstellen patchen – und erfordert dies Maßnahmen von meinem Team?
Können Sie Beispiele dafür nennen, wie Sie auf vergangene Vorfälle reagiert haben?
Häufig gestellte Fragen
Der Unterschied zwischen generativer KI und agentenbasierter KI liegt in der Leistungsfähigkeit und Autonomie. Generative KI hilft Support-Teams beim Erstellen von Antworten, Zusammenfassungen und Empfehlungen, während agentenbasierte KI Entscheidungen treffen und Maßnahmen über Workflows und Systeme hinweg ergreifen kann. In der Praxis wird agentenbasierte KI im Service oft eingesetzt, um das Ticket-Routing, Genehmigungen, die Vorfallsbearbeitung und andere Serviceabläufe mit minimalem manuellem Aufwand zu automatisieren.
KI-Governance ist ein system aus Regeln und Prozessen, die eine sichere, ethische und rechtskonforme KI-Nutzung unterstützen. Sie ist für Serviceorganisationen von unschätzbarem Wert, da sie der Schlüssel zum Aufbau von Vertrauen, zur Begrenzung von Risiken und zur Gewährleistung konsistenter Kundenerlebnisse ist.
Vorschriften wie der EU AI Act haben die weltweite Anerkennung und Bedeutung der KI-Governance erheblich gesteigert. Solche Verordnungen verpflichten Unternehmen dazu, Transparenz, Rechenschaftspflicht und Datenschutzprotokolle in ihren KI-Systemen nachzuweisen. KI-Governance hat sich im Kundenservice von einer Empfehlung zu einer betrieblichen Notwendigkeit gewandelt.
KI-Governance funktioniert am besten als abteilungsübergreifende Verantwortung, die über das gesamte Unternehmen verteilt ist. IT-, Rechts-, Compliance-, Sicherheits- und Kundenserviceteams spielen eine wichtige Rolle bei der Ausrichtung. Die Aufsicht und Koordination werden oft von der Führungsebene oder speziellen KI-Governance-Gruppen geleitet. Da die KI immer autonomere Aktionen übernimmt, benötigen Unternehmen zunehmend transparente Kontrollen, Verantwortlichkeiten und eine kontinuierliche Überwachung, um Risiken zu managen und Vertrauen zu wahren.
Unternehmen können KI-Innovationen mit Compliance und Vertrauen in Einklang bringen, indem sie starke Governance-Praktiken mit transparenten, rechenschaftspflichtigen KI-Systemen kombinieren. Dazu gehören beispielsweise die Durchführung kontinuierlicher Risikobewertungen, die Anwendung klarer Richtlinien und Kontrollen, die Überwachung von KI-Entscheidungen und die Beibehaltung der menschlichen Aufsicht bei Aktivitäten mit höherem Risiko.
Zu den Best Practices zur Wahrung von Transparenz und Fairness bei KI gehören: Die Dokumentation, wie KI-Systeme Entscheidungen treffen; das regelmäßige Testen auf Voreingenommenheit und Genauigkeit; die Überwachung der Ergebnisse über alle Interaktionen hinweg sowie die klare Kommunikation, wenn Kund:innen mit KI interagieren. Unternehmen bauen Vertrauen auch auf, indem sie erklärbare KI-Kontrollen einsetzen, Audit-Trails pflegen und eine kontinuierliche Aufsicht anwenden, um sicherzustellen, dass das KI-Verhalten mit den Unternehmensrichtlinien und Kundenerwartungen übereinstimmt.
KI-Governance in die Praxis umsetzen
KI-Governance ist keine Nebensache mehr – sie ist das Fundament, um KI mit gutem Gefühl zu skalieren. Da Unternehmen immer autonomere, kundenorientierte KI einführen, hängt der Erfolg davon ab, Innovation mit Transparenz, Rechenschaftspflicht und Kontrolle zu verbinden.
Zendesk bietet einen praktischen Weg zur Operationalisierung von verantwortungsvoller KI in Serviceumgebungen durch auf Governance ausgerichtete Workflows, die eine klare Aufsicht, Überprüfbarkeit und kontinuierliche Verbesserung unterstützen. Mit transparenten KI-Kontrollen, integrierter Qualitätssicherung und sicherer, nachvollziehbarer Automatisierung können Unternehmen das Kundenerlebnis verbessern, den Aufwand für Mitarbeiter:innen verringern und KI ohne zusätzliche Risiken skalieren. Überzeugen Sie sich selbst und starten Sie einen kostenlosen Testzugang für Zendesk.
