Vier Dinge, die zu klären sind, bevor Sie einen KI-Agenten für Ihre Kunden öffnen
Was über die Qualität eines Agenten entscheidet: was er sagt, wenn er etwas nicht weiss, worauf er sich stützt, wann er übergibt und wohin die Fragen gehen, die man ihm stellt.
In diesem Artikel4 sections
Eine falsche Antwort mit Überzeugung kostet mehr als keine Antwort
Ein Sprachmodell unterscheidet nicht zwischen Wissen und Raten: Fehlt ihm eine Information, produziert es trotzdem etwas Plausibles, gut Geschriebenes und Falsches. Es tritt sogar umso bestimmter auf, wenn es sich irrt.
Der Kunde macht diesen Unterschied nicht: Er merkt sich, dass man ihm eine falsche Auskunft gegeben hat, und nimmt es dem Unternehmen übel, nicht der Maschine.
Die Absicherung ist keine Einstellung, sondern eine Bauregel: Der Agent antwortet auf Grundlage Ihrer Dokumente und nichts anderem, und jede Antwort kommt mit der Passage, aus der sie stammt. Was nicht in Ihren Texten steht, kommt ihm nicht über die Lippen.
Ein Agent ist nie besser als die Dokumente, die man ihm gibt
In den meisten Unternehmen existiert eine Information in drei Versionen: die in der geteilten Datei, die im alten Intranet und die im Kopf von jemandem.
Solange sich diese drei widersprechen, kann kein Agent richtig antworten: Er wird wählen, und niemand wird wissen, warum.
Die Aufräumarbeit, die alle vor sich herschieben, wird damit zur Voraussetzung des Projekts. Das ist die schlechte Nachricht. Die gute: Sie nützt nicht nur dem Agenten.
Der richtige Reflex ist nicht, alles zu wissen, sondern übergeben zu können
Man beurteilt einen Agenten oft danach, was er allein erledigt, als wäre jede an einen Menschen weitergegebene Frage ein Misserfolg. Es ist umgekehrt.
Nutzende können sehr gut damit leben, dass man ihnen sagt: «Das weiss ich nicht, ich verbinde Sie mit jemandem.» Was sie nicht ertragen, ist, zehn Minuten im Kreis zu drehen mit etwas, das nicht loslassen will.
Eine Folgerung für die Reihenfolge der Einführung: intern beginnen, mit den Fragen, die Ihre eigenen Teams zehnmal pro Woche stellen. Das bringt die Dokumente in Ordnung und zeigt, wie sich der Agent verhält, wenn er sich irrt, solange wenig auf dem Spiel steht.
Die Frage, die man in einen Agenten tippt, sind Daten, die irgendwohin gehen
Ihre Mitarbeitenden kopieren bereits Auszüge aus Dokumenten in Publikumstools, ohne böse Absicht und ohne dass es jemand beschlossen hätte.
In der Schweiz verlangt das Gesetz nicht, die Daten hier zu hosten: Es verlangt, zu wissen, was man wem anvertraut, und es belegen zu können. Viele Unternehmen entdecken die Frage an dem Tag, an dem ein Kunde sie schriftlich stellt.
Was man an diesem Tag vorlegen können muss, passt in vier Zeilen:
- Welches Modell, und wo gehostet
- Was ihm gesendet wird
- Was gespeichert wird, und wie lange
- Wer Zugriff darauf hat
Keiner dieser vier Punkte betrifft das gewählte Modell, und das überrascht am meisten. Einen guten Agenten machen aus, was man ihm gibt, was man ihm verbietet und wie er aufhört: drei Entscheide, die vor der ersten Codezeile fallen.
Ce sujet touche à notre expertise KI-Agent & -Chat.
Wir beginnen mit einem Gespräch, nicht mit einer Offerte.
Voir l'expertiseWeiterlesen
