KI im Kundenservice: Zwischen Hype und Realität – Was Unternehmen wirklich wissen müssen

Bevor ein Unternehmen KI in den Kundenservice einführt, sollte es den zugrunde liegenden Prozess verstehen: Welche Anliegen kommen an, wie werden sie bearbeitet, wo finden Übergaben statt und wann braucht es eine menschliche Entscheidung? Diese Fragen helfen, Assistenz, Automatisierung und menschliche Bearbeitung sinnvoll voneinander abzugrenzen.

Vom Anliegen zum nachvollziehbaren Ablauf

Beschreiben Sie den Weg eines Anliegens vom Eingang bis zum Abschluss. Berücksichtigen Sie Kanäle, Informationsquellen, Berechtigungen, Ausnahmen und Eskalationen. Prüfen Sie anschließend, an welchen Stellen Unterstützung tatsächlich gebraucht wird. Eine Zusammenfassung oder ein Antwortentwurf verändert den Ablauf anders als eine automatisierte Antwort an Kundinnen und Kunden.

Ordnen Sie jeden möglichen Einsatz nach Zweck und Folgen eines Fehlers ein. Eine falsche interne Zusammenfassung und eine irreführende Auskunft an eine betroffene Person haben unterschiedliche Auswirkungen. Legen Sie fest, welche Fälle das System nicht bearbeiten soll, wann eine Person übernimmt und wie Korrekturen dokumentiert werden. Qualität umfasst neben Bearbeitungszeit auch Richtigkeit, Verständlichkeit, Zugänglichkeit und die Möglichkeit, ein Anliegen weiterzuverfolgen.

Transparenz und Risikoprüfung einplanen

Für Systeme, die zur direkten Interaktion mit natürlichen Personen bestimmt sind, sieht Artikel 50 der EU-KI-Verordnung grundsätzlich eine Information darüber vor, dass die Interaktion mit einem KI-System erfolgt, sofern dies nicht aus den Umständen offensichtlich ist. Die Bestimmung enthält Ausnahmen und weitere Voraussetzungen; welche Pflichten für einen konkreten Service gelten, hängt von System, Rolle und Einsatz ab und sollte fachlich geprüft werden. (EU-KI-Verordnung, konsolidierter Text, Artikel 50)

Erfassen Sie auch Datenarten, Zugriffsrechte, Aufbewahrung, Anbieterabhängigkeiten und Verfahren bei Fehlern. Für Datenschutz, Informationssicherheit und weitere rechtliche Anforderungen ist eine gesonderte Einzelfallprüfung erforderlich. Der freiwillige NIST AI RMF bietet eine allgemeine Struktur für Governance, Kontextanalyse, Messung und Behandlung von KI-Risiken; er ersetzt weder gesetzliche Pflichten noch deren rechtliche Auslegung. NIST aktualisiert den Rahmen derzeit. (NIST AI RMF Core, NIST AI RMF – Status und Ressourcen)

Entscheiden, was als Nächstes geklärt werden muss

Vor einem Pilot sollten Verantwortliche, Testfälle, Qualitätskriterien und ein Verfahren für Eskalationen feststehen. Beobachten Sie sowohl erwartete Ergebnisse als auch unerwünschte Wirkungen und legen Sie fest, wann ein Einsatz angepasst oder pausiert wird. Der Beitrag zu KI-Assistenz im Kundenservice vertieft die praktische Prüfung von Assistenzfunktionen.

Dieser Beitrag dient der Prozess- und Einsatz-Einordnung. Der Workshop zu Kundenserviceprozessen schafft Grundlagen für diese Bewertung. Wenn daraus ein konkreter Umsetzungsbedarf entsteht, beschreibt die Leistung für KI im Kundenservice und Support mögliche nächste Arbeitsschritte.