Was man einem AI-Agenten nicht überlassen darf: Grenzen, die vor dem Start feststehen

Das Gespräch über Grenzen sieht meist aus wie eine Liste von Befürchtungen: „Was, wenn er Unsinn schreibt“, „was, wenn er den Kunden Blödsinn schickt“. Das ist ein schlechtes Gespräch — es endet entweder mit „dann lassen wir es lieber“ oder mit „wird schon, wir sehen dann weiter“.

Nützlicher ist es, die Grenze als Teil der Konstruktion zu begreifen. Nicht als Vorbehalt, sondern als Schritt, an dem die Arbeit anhält und auf einen Menschen wartet. Dann wird aus der Frage „beängstigend oder nicht“ die Frage „wo genau setzen wir diesen Schritt“.

Die Regel dafür ist eine einzige: Der Agent hält dort an, wo der Preis eines Fehlers höher ist als die gesparte Zeit. Es folgen fünf Stellen, an denen diese Bedingung fast immer erfüllt ist.

1. Fachliches Urteil

Alles, was in Ihrem Bereich als Beratung gilt: medizinisch, juristisch, finanziell, psychologisch.

Die Grenze verläuft nicht entlang des Themas, sondern entlang der Adressierung. Einen Beitrag darüber schreiben, wie Mundhygiene funktioniert — möglich. Im Kommentar jemandem antworten, dem nach einer Füllung der Zahn wehtut — nicht möglich, und zwar nicht, weil der Agent es schlechter formulieren würde als der Zahnarzt. Eine Empfehlung aus der Ferne ohne Untersuchung ist keine Fürsorge, sondern ein Risiko: in erster Linie für den Patienten.

Die praktische Formulierung: Der Agent antwortet inhaltlich nicht und gibt die Frage an einen Menschen weiter. Nicht „antwortet vorsichtig“, nicht „ergänzt einen Hinweis“ — antwortet nicht.

Ein eigener Fall ist regulierte Werbung. In der Medizin gibt es fast überall Vorgaben dazu, was versprochen werden darf; Vorher-Nachher-Vergleichsbilder etwa sind in einer Reihe von Ländern eingeschränkt. Der Agent markiert solche Stellen, die Entscheidung treffen aber Sie mit Ihrem Anwalt, denn sie hängt vom Land und von der konkreten Leistung ab.

2. Geld und Verpflichtungen

Erstattung, Rabatt, Entschädigung, Fristverschiebung, Abschreibung, Auszahlung. Alles, wonach sich bei jemandem ein Betrag oder eine Verpflichtung geändert hat.

Hier ist es wichtig, zwei verschiedene Verbote nicht zu verwechseln:

• Der Agent bewegt kein Geld. Er stößt keine Erstattung an, führt keine Zahlung aus, überweist nichts. Das ist eine technische Beschränkung und keine Vereinbarung über Höflichkeit.
• Der Agent entscheidet nicht, ob Geld bewegt werden soll. Er trägt die Fakten zusammen — was bezahlt wurde, wann, was zugesagt war, was Ihre eigene Regel sagt — und legt Ihnen etwas Entscheidungsreifes vor.

Der Unterschied zwischen „Erstattung vorbereitet und wartet auf den Knopf“ und „Erstattung ausgeführt und Bescheid gegeben“ ist der Unterschied zwischen einem Werkzeug und einem Problem.

Dazu gehören auch Preise und Rabatte im Katalog. Die Produktbeschreibung schreibt der Agent. Den Preis ändert er nicht.

3. Veröffentlichung in Ihrem Namen

Alles, was nach außen unter dem Namen einer Person oder eines Unternehmens erscheint: ein Beitrag, eine Antwort auf eine Bewertung, eine Mail an einen Kunden, ein Angebot.

Technisch sieht die Grenze so aus: Der Agent bereitet einen Entwurf vor und hält an. Veröffentlicht wird von dem Menschen, dessen Name unter dem Text steht.

Hier wird am häufigsten gespart, und das zu Unrecht. Die Versuchung ist nachvollziehbar: Wenn man jeden Beitrag ohnehin liest, wo liegt dann die Ersparnis? Sie liegt darin, dass Fertiges zu lesen schneller geht, als von Null zu schreiben — Minuten statt einer Stunde. Ungelesen zu versenden spart diese Minuten und kauft ein Risiko, das an einem schlechten Tag einen Kunden kostet.

Ein besonderer Fall sind Antworten auf Bewertungen. In einem regulierten Bereich darf die Antwort nicht bestätigen, dass die Person überhaupt Ihr Patient oder Kunde war, und schon gar nicht ihren Fall erörtern. Genau hier möchte der Inhaber einer Klinik „erklären, wie es wirklich war“ — und verletzt eben damit die Schweigepflicht. Eine solche Antwort veröffentlicht der Agent nie.

4. Personenbezogene Daten und Einwilligungen

Fotos, Dokumente, medizinische Angaben, alles, was eine Person identifiziert.

Die Grenze heißt hier nicht „sorgfältig damit umgehen“, sondern „keine Einwilligung, kein Material“. Fehlt eine unterschriebene Einwilligung, die die Veröffentlichung abdeckt, hält die Arbeit beim ersten Schritt an. Nicht „wir machen das Gesicht unkenntlich“, nicht „wir schneiden den Ausschnitt anders“ — das Material wird schlicht nicht vorbereitet.

Das ist die einzige der fünf Grenzen, bei der die Umgehung harmlos aussieht und die Folgen nicht Sie treffen, sondern den Menschen, der Ihnen vertraut hat.

5. Beziehungen

Die am meisten unterschätzte. Es gibt Entscheidungen, die nach Datenlage richtig und für die Beziehung zerstörerisch sind.

Wie man einem Kunden einen schwachen Monat vorlegt. Ob man heute sagt, dass sich ein Termin verschiebt, oder wartet, bis es sicher ist. Ob man einen Kunden ablehnt, zu dem die eigene Leistung nicht passt — auch wenn er zu zahlen bereit ist.

Ein Agent lehnt kein Geld ab. Das ist kein Mangel, sondern das Fehlen dessen, was für eine Ablehnung nötig wäre. Und er beschönigt einen Report nicht und bläst ihn nicht auf — aber er entscheidet auch nicht, in welchem Ton eine schlechte Nachricht überbracht wird, denn diese Entscheidung betrifft Menschen und keine Zahlen.

Der typische Konstruktionsfehler

Die Grenze wird in einen Hinweistext geschrieben, statt in den Ablauf gesetzt.

Das sieht so aus: In der Produktbeschreibung steht „Prüfung durch einen Menschen erforderlich“, technisch geschieht die Veröffentlichung von selbst. Solange die Aufmerksamkeit da ist, funktioniert das. Einen Monat später, an einem Freitagabend, klickt jemand auf OK, ohne zu lesen.

Eine überprüfbare Formulierung: Wenn der Ablauf ohne Ihr Zutun nicht weitergehen kann, gibt es eine Grenze. Wenn er es kann, aber nicht soll, gibt es keine Grenze, sondern einen Wunsch.

Was Sie sich vor dem Start fragen sollten

Gehen Sie die Liste durch und sagen Sie zu jedem Punkt, wo der Schritt „bei Ihnen“ steht:

• welche Fragen der Agent nicht beantwortet, gleich wie sie formuliert sind;
• welche Aktion jemandes Betrag oder Frist verändert;
• was nach außen unter jemandes Namen geht;
• wo eine Einwilligung nötig ist und was passiert, wenn sie fehlt;
• welche Entscheidung Sie einer neuen Kraft in der ersten Woche nicht überlassen würden.

Die letzte Frage ist die brauchbarste. Der Agent ist in diesem Sinn genau das: eine neue Kraft, schnell, ohne Widerrede, ohne den Kontext Ihrer Beziehungen zu den Kunden und ohne das Gefühl, dass etwas nicht stimmt.

Und die Kehrseite

Grenzen kosten Geld. Jeder Schritt „bei Ihnen“ ist Ihre Zeit, und wenn Sie zwanzig davon setzen, bekommen Sie keinen Assistenten, sondern eine Warteschlange von Freigaben.

Deshalb fünf und nicht zwanzig. Alles Übrige — den Posteingang sichten, Entwürfe, Abgleiche, Erinnerungen, Material zusammentragen, Aufbereitung — wird vollständig abgegeben, ohne Zwischenprüfungen. Der Sinn von Grenzen liegt darin, dass es wenige sind und dass sie an den richtigen Stellen stehen.