Chatbots im Unternehmen: Was KI-Assistenten im Kundenservice leisten

Von Entscheidungsbäumen zu Sprachmodellen: Wo Chatbots Kundenanfragen entlasten und wo Menschen übernehmen sollten
Aktualisiert:
Abstract
- #Chatbots
- #Kundenkommunikation
- #Kundenservice
- #Künstliche Intelligenz
- #AI
- #ML
- #LLM
- #RAG
Ein guter Chatbot beantwortet Routinefragen zuverlässig, kennt seine Grenzen und übergibt rechtzeitig an einen Menschen
Dienstagabend, 21:40 Uhr: Eine Kundin will wissen, ob ihre Bestellung noch vor dem Wochenende ankommt. Die Hotline ist geschlossen, die E-Mail wird frühestens am nächsten Morgen gelesen. Ein Chatbot auf der Website könnte die Sendungsnummer abfragen, den Status nachsehen und in zehn Sekunden antworten. Genau für solche Momente setzen Unternehmen Chatbots ein.
Seit Sprachmodelle wie ChatGPT Ende 2022 bekannt wurden, hat sich allerdings verschoben, was ein Chatbot überhaupt ist. Früher waren es starre Klickstrecken mit vorformulierten Antworten. Heute formulieren KI-Assistenten frei, verstehen umständliche Fragen und greifen auf Wissensdatenbanken zu. Das macht sie nützlicher, aber auch riskanter: Ein Bot, der frei formuliert, kann auch frei erfinden.
Was ein Chatbot ist und was er nicht ist
Ein Chatbot ist eine Software, die über ein Chatfenster oder einen Messenger mit Menschen in natürlicher Sprache kommuniziert. Sprachassistenten wie Siri oder Alexa folgen demselben Prinzip, nur mit gesprochener statt geschriebener Sprache.
Im Kundenservice tauchen Chatbots meist an drei Stellen auf: im Chatfenster der Website, in Messengern wie WhatsApp und im internen Helpdesk, wo Mitarbeitende etwa Fragen zur Reisekostenabrechnung stellen. Die Aufgabe ist überall ähnlich: wiederkehrende Fragen beantworten, einfache Vorgänge anstoßen und alles andere sauber an Menschen weiterreichen.
Abzugrenzen sind Chatbots von sogenannten KI-Agenten. Ein Agent plant mehrere Schritte selbstständig und bedient dafür Werkzeuge, etwa Dateien, E-Mail-Postfächer oder ganze Betriebssysteme. Wie sich ein solcher Assistent im Alltag schlägt, zeigt unser Praxistest von OpenClaw. Im Kundenservice geht es dagegen meist um einen eng begrenzten Auftrag – und das ist auch gut so.
Von ELIZA bis ChatGPT: drei Generationen von Chatbots
Die Idee ist älter, als viele denken. 1950 beschrieb Alan Turing seinen Test, bei dem eine Maschine im schriftlichen Gespräch nicht von einem Menschen zu unterscheiden sein soll. 1966 entstand am MIT das Programm ELIZA, das mit einfachen Mustern eine Gesprächstherapie nachahmte. Später folgten Systeme wie A.L.I.C.E. (1995), Apples Siri (2011) und Amazons Alexa (2014).
Für Unternehmen lassen sich heute grob drei Generationen unterscheiden:
| Generation | Funktionsweise | Stärken | Schwächen |
|---|---|---|---|
| Regelbasiert | Entscheidungsbaum mit Buttons und festen Antworten | vorhersehbar, günstig, leicht zu prüfen | starr, scheitert an jeder Abweichung |
| Intent-basiert | Ein Sprachmodell ordnet die Frage einer Absicht („Intent“) zu, die Antwort ist vorformuliert | versteht Formulierungsvarianten | hoher Pflegeaufwand, jede neue Frage braucht Trainingsdaten |
| LLM-basiert mit RAG | Ein großes Sprachmodell formuliert die Antwort frei auf Basis eigener Dokumente | flexibel, natürliche Sprache | kann Fehler plausibel formulieren, schwerer zu testen |
Die zweite Generation prägte die Jahre um 2020, als der ursprüngliche Beitrag entstand. Plattformen wie Amazon Lex oder Dialogflow erkannten Absichten wie „Bestellstatus abfragen“ und lösten dann einen festgelegten Ablauf aus. Das funktionierte, solange Kundinnen und Kunden ungefähr so fragten, wie es im Training vorgesehen war.
Wie LLM-Assistenten mit RAG antworten
Ein großes Sprachmodell (Large Language Model, LLM) hat beim Training riesige Textmengen gesehen und kann daraus flüssige Antworten erzeugen. Ihre Rücknahmebedingungen, Ihre Preisliste oder die Wartungsanleitung Ihrer Maschine kennt es aber nicht. Deshalb arbeiten die meisten Kundenservice-Bots heute mit Retrieval-Augmented Generation, kurz RAG – also einer Antwortgenerierung, die vorher in eigenen Quellen nachschlägt.
Der Ablauf sieht vereinfacht so aus:
- Dokumente vorbereiten: FAQ, Handbücher, Produktdaten und Richtlinien werden in kurze Abschnitte zerlegt und durchsuchbar gemacht, häufig in einer Vektordatenbank, die Texte nach Bedeutung statt nach exakten Wörtern findet.
- Passende Stellen suchen: Stellt jemand eine Frage, sucht das System die relevantesten Abschnitte heraus.
- Antwort formulieren: Das Sprachmodell erhält die Frage zusammen mit diesen Abschnitten und der Anweisung, nur darauf gestützt zu antworten.
- Quelle zeigen: Gute Systeme verlinken die verwendeten Dokumente, damit Kundschaft und Support die Antwort nachprüfen können.
Angenommen, ein Fahrradhändler beantwortet täglich Dutzende Fragen zu Akkus, Garantie und Lieferzeiten. Mit RAG kann der Bot die Frage „Gilt die Garantie auch, wenn der Akku selbst getauscht wurde?“ mit dem passenden Absatz aus den Garantiebedingungen beantworten, ohne dass jemand diese Formulierung vorher als Intent angelegt hat.
Wie sich Wissensquellen noch stärker vernetzen lassen, beschreibt unser Beitrag zu GraphRAG und der Verknüpfung von Unternehmenswissen.
Halluzinationen: das zentrale Risiko
Sprachmodelle erzeugen wahrscheinliche Texte, keine geprüften Fakten. Findet die Suche nichts Passendes, formuliert das Modell unter Umständen trotzdem eine überzeugende Antwort, etwa eine Rückgabefrist, die es nicht gibt. Dieses Verhalten heißt Halluzination. RAG verringert das Problem, beseitigt es aber nicht.
Dass das nicht nur ein theoretisches Risiko ist, zeigte 2024 ein Fall aus Kanada: Das Civil Resolution Tribunal der Provinz British Columbia verpflichtete Air Canada zu Schadenersatz, weil der Website-Chatbot einem Kunden fälschlich zugesagt hatte, er könne einen Trauerfallrabatt nachträglich beantragen. Das Unternehmen haftete für die Aussage seines Bots. Für die Praxis heißt das: Was ein Chatbot verspricht, kann Ihrem Unternehmen zugerechnet werden.
Gegenmaßnahmen sind vor allem organisatorisch: den Bot auf klar umrissene Themen begrenzen, bei fehlenden Quellen offen sagen lassen, dass keine gesicherte Antwort vorliegt, verbindliche Zusagen wie Preise oder Kulanz ausschließen und regelmäßig echte Gesprächsverläufe stichprobenartig prüfen.
Wo sich Chatbots im Kundenservice lohnen
Der größte Nutzen entsteht dort, wo viele gleichartige Anfragen eingehen und die Antworten in Dokumenten oder Systemen bereits vorliegen. Typische Beispiele:
- Status- und Auskunftsfragen: Lieferstatus, Öffnungszeiten, Terminverfügbarkeit, Stand eines Antrags.
- Wissensfragen: Wie lässt sich das Passwort zurücksetzen? Welche Unterlagen werden gebraucht? Was gilt bei Rücksendungen?
- Vorqualifizierung: Der Bot fragt Kundennummer, Produkt und Problem ab, bevor ein Mensch übernimmt. Das spart im Gespräch die ersten Minuten.
- Interner Support: IT-Helpdesk, Personalfragen, Produktwissen für neue Mitarbeitende im Vertrieb.
Weniger geeignet sind Beschwerden mit emotionaler Vorgeschichte, rechtlich heikle Auskünfte, individuelle Vertragsverhandlungen und alles, was eine echte Ermessensentscheidung verlangt. Überschätzt wird oft die Einsparung: Ein Bot verlagert Arbeit eher, als dass er sie abschafft. Jemand muss Inhalte pflegen, Fehler auswerten und die Fälle bearbeiten, die der Bot weiterreicht.
Mensch und Maschine: die Übergabe entscheidet
Nichts verärgert Kundschaft so sehr wie ein Bot, der im Kreis fragt und keinen Ausweg bietet. Die Übergabe an einen Menschen ist deshalb kein Notbehelf, sondern ein Kernstück des Konzepts.
Eine gute Übergabe erfüllt drei Bedingungen. Erstens ist sie jederzeit erreichbar, etwa über die Eingabe „Mitarbeiter“ oder einen sichtbaren Button. Zweitens erkennt der Bot selbst, wann er abgeben sollte: bei wiederholtem Nichtverstehen, bei verärgertem Ton oder bei bestimmten Themen wie Kündigung oder Schadensfall. Drittens wird der bisherige Gesprächsverlauf mitgegeben, damit niemand alles noch einmal erzählen muss.
Angenommen, ein Stadtwerk setzt einen Bot für Fragen zu Abschlagszahlungen ein. Fragt ein Kunde nach einer Ratenzahlung wegen finanzieller Schwierigkeiten, sollte der Bot nicht selbst Lösungen vorschlagen, sondern das Anliegen mit Kundennummer und Zusammenfassung an das Forderungsmanagement übergeben. Außerhalb der Servicezeiten reicht eine klare Rückrufzusage.
Datenschutz, Transparenz und AI Act
Chatbots verarbeiten personenbezogene Daten, oft mehr, als geplant: Kundschaft tippt Adressen, Vertragsnummern oder Gesundheitsangaben ungefragt in das Chatfenster. Damit gilt die DSGVO mit ihren üblichen Anforderungen, etwa eine Rechtsgrundlage für die Verarbeitung, Informationen in der Datenschutzerklärung, Löschfristen für Gesprächsprotokolle und ein Vertrag zur Auftragsverarbeitung mit dem Anbieter. Werden Daten an einen KI-Dienst außerhalb der EU übermittelt, kommen die Regeln für Drittlandübermittlungen hinzu.
Hinzu kommt die europäische KI-Verordnung (AI Act). Sie verlangt für KI-Systeme, die direkt mit Menschen interagieren, dass diese erkennen können, dass sie mit einer KI sprechen, sofern das nicht ohnehin offensichtlich ist. Diese Transparenzpflichten gelten nach dem gestaffelten Zeitplan der Verordnung ab August 2026. Ein klarer Hinweis im Chatfenster („Sie schreiben mit einem KI-Assistenten“) ist ohnehin gute Praxis. Für die konkrete Bewertung Ihres Einsatzes sollten Sie Datenschutzbeauftragte oder Rechtsberatung hinzuziehen; dieser Abschnitt ersetzt keine rechtliche Prüfung.
Technisch stellt sich außerdem die Frage nach dem Betriebsort. Cloud-Dienste großer Anbieter sind schnell eingerichtet. Wer sensible Daten verarbeitet, kann Modelle auch in einer EU-Cloud oder auf eigener Hardware betreiben. Offene Modelle haben in den vergangenen Jahren deutlich aufgeholt, verlangen aber eigene Betriebskompetenz.
So führen Sie einen Chatbot ein
Ein pragmatischer Weg in fünf Schritten:
- Anfragen auswerten: Welche zehn bis zwanzig Fragen machen den größten Teil der Tickets aus? Diese Liste ist der Auftrag für den Bot.
- Wissensbasis aufräumen: Ein RAG-Bot ist nur so gut wie die Dokumente dahinter. Veraltete FAQ und widersprüchliche Richtlinien führen direkt zu falschen Antworten.
- Klein starten: Erst ein Thema, ein Kanal, eine begrenzte Zielgruppe, zum Beispiel zunächst nur interne Mitarbeitende.
- Testfälle festlegen: Eine Sammlung typischer und kniffliger Fragen mit erwarteten Antworten, die nach jeder Änderung erneut durchlaufen wird.
- Messen: Lösungsquote ohne Übergabe, Zufriedenheit nach dem Gespräch, Anteil der Fragen ohne gesicherte Antwort und die Rate falscher Antworten in Stichproben.
Wer Sprachmodelle direkt an eigene Systeme wie CRM oder Ticketsystem anbinden möchte, findet Hinweise auf unserer Seite zur Integration von ChatGPT in Unternehmensprozesse.
Was das für Ihr Unternehmen bedeutet
Chatbots sind 2026 keine Spielerei mehr, aber auch kein Selbstläufer. Mit Sprachmodellen und RAG lassen sich Assistenten bauen, die Routinefragen deutlich besser beantworten als die Klickstrecken von 2020. Der Aufwand hat sich dabei verschoben: weniger Intent-Training, dafür mehr Pflege der Wissensbasis, mehr Tests und mehr Aufmerksamkeit für Haftung und Datenschutz.
Unsere Einschätzung: Für Unternehmen mit vielen wiederkehrenden Anfragen lohnt sich ein eng begrenzter Pilot fast immer. Ein Bot, der alles beantworten soll, scheitert dagegen meist an der Qualität. Erfolgreich sind Projekte, die den Bot als ersten Ansprechpartner verstehen, nicht als letzten, und die Übergabe an Menschen von Anfang an mitdenken.
Wer Möglichkeiten und Grenzen von KI im eigenen Haus zunächst grundsätzlich einordnen möchte, kann das im Rahmen unserer Beratung zu Künstlicher Intelligenz und Automatisierung tun.
Häufige Fragen zu Chatbots im Unternehmen
Wie lange dauert die Einführung eines Chatbots?
Ein einfacher Bot auf Basis vorhandener FAQ ist mit fertigen Plattformen in wenigen Wochen einsatzbereit. Sobald Anbindungen an Bestell-, Ticket- oder Kundensysteme nötig sind, Testfälle aufgebaut und Datenschutzfragen geklärt werden müssen, sind mehrere Monate realistisch. Der größte Zeitfresser ist erfahrungsgemäß nicht die Technik, sondern das Aufräumen der Inhalte.
Können Chatbots Emotionen erkennen?
Sprachmodelle erkennen recht zuverlässig, ob eine Nachricht verärgert, besorgt oder freundlich klingt, und können ihren Ton anpassen. Ein Verständnis im menschlichen Sinn ist das nicht. Sinnvoll ist, erkannte Verärgerung als Signal für eine schnelle Übergabe an einen Menschen zu nutzen, statt den Bot beschwichtigen zu lassen.
Wie lässt sich verhindern, dass ein Chatbot vertrauliche Daten preisgibt?
Der Bot sollte nur auf die Daten zugreifen können, die für seinen Auftrag nötig sind, und Kundendaten erst nach einer Anmeldung oder Identitätsprüfung anzeigen. Interne Dokumente gehören nicht in dieselbe Wissensbasis wie öffentliche FAQ. Hinzu kommen Tests gegen sogenannte Prompt-Injection, also Versuche, den Bot mit geschickt formulierten Eingaben zum Regelbruch zu bewegen, sowie Protokollierung und regelmäßige Sicherheitsprüfungen.
Ersetzt ein Chatbot Mitarbeitende im Kundenservice?
In der Regel nicht. Er übernimmt Routinefragen und Vorarbeit, während die Anfragen, die bei Menschen ankommen, im Schnitt anspruchsvoller werden. Teams müssen sich darauf einstellen, Bot-Antworten zu prüfen, Inhalte zu pflegen und die übergebenen Fälle zu lösen.
Kategorien