Ce qu'il ne faut pas confier à un agent IA : les limites à poser avant le lancement

La conversation sur les limites prend en général la forme d'une liste de peurs : « et s'il écrivait n'importe quoi », « et s'il envoyait des bêtises aux clients ». C'est une mauvaise conversation : elle finit soit par « alors on ne fait rien », soit par « allez, on verra bien ».

Il est plus utile de considérer la limite comme une pièce de la construction. Pas une réserve, mais une étape où le travail s'arrête et attend un humain. La question cesse alors d'être « est-ce que ça fait peur » pour devenir « où placer exactement cette étape ».

La règle qui sert à la placer tient en une phrase : l'agent s'arrête là où le coût d'une erreur dépasse le temps gagné. Voici les cinq endroits où cette condition est presque toujours remplie.

1. Le jugement professionnel

Tout ce qui, dans votre domaine, relève du conseil : médical, juridique, financier, psychologique.

La limite ne passe pas par le sujet, elle passe par le destinataire. Écrire un article sur l'hygiène bucco-dentaire, oui. Répondre en commentaire à une personne qui a mal à une dent depuis un soin, non — et pas parce que l'agent formulerait moins bien qu'un praticien. Une recommandation à distance, sans examen, ce n'est pas de l'attention : c'est un risque, d'abord pour le patient.

Formulation pratique : l'agent ne répond pas sur le fond et transmet la question à un humain. Pas « répond prudemment », pas « ajoute un avertissement » : ne répond pas.

Cas à part, la publicité réglementée. En santé, il existe presque partout des exigences sur ce que l'on a le droit de promettre, et la France compte parmi les marchés stricts : la communication médicale y encadre les photographies « avant / après » et les témoignages de patients. L'agent signale ces endroits, mais la décision vous revient, avec votre avocat, parce qu'elle dépend du pays et de la prestation concernée.

2. L'argent et les engagements

Remboursement, remise, geste commercial, report d'échéance, prélèvement, versement. Tout ce qui, une fois fait, change un montant ou un engagement pour quelqu'un.

Ici, il faut éviter de confondre deux interdictions distinctes :

• L'agent ne déplace pas d'argent. Il n'initie pas de remboursement, ne passe pas de paiement, ne sort pas de fonds. C'est une restriction technique, pas un accord de bonne conduite.
• L'agent ne décide pas s'il faut le déplacer. Il rassemble les faits — ce qui a été payé, quand, ce qui avait été promis, ce que dit votre règle — et vous apporte le dossier prêt à trancher.

L'écart entre « le remboursement est préparé et attend votre clic » et « le remboursement est fait, vous êtes prévenu » est l'écart entre un outil et un problème.

Même chose pour les prix et les remises au catalogue. L'agent rédigera la fiche produit. Il ne changera pas le prix.

3. La publication en votre nom

Tout ce qui sort à l'extérieur sous le nom d'une personne ou d'une entreprise : un post, une réponse à un avis, un e-mail client, une proposition commerciale.

Techniquement, la limite ressemble à ceci : l'agent prépare un brouillon et s'arrête. C'est la personne dont le nom figure sous le texte qui publie.

C'est là qu'on rogne le plus souvent, et à tort. La tentation se comprend : si chaque post doit être lu de toute façon, où est l'économie ? Elle est dans le fait que lire un texte prêt va plus vite que l'écrire depuis zéro — des minutes au lieu d'une heure. Envoyer sans lire économise ces minutes et achète un risque qui, un mauvais jour, coûte un client.

Cas particulier : les réponses aux avis. Dans un secteur réglementé, la réponse ne doit pas confirmer que la personne a été votre patient ou votre client, et encore moins discuter de son cas. C'est précisément là que le dirigeant d'une clinique veut « expliquer comment ça s'est vraiment passé » — et rompt ainsi le secret professionnel. Une réponse de ce type, l'agent ne la publie jamais.

4. Données personnelles et consentements

Photographies, documents, informations de santé, tout ce qui identifie une personne.

La limite n'est pas « manipuler avec soin », mais « pas de consentement, pas de matériel ». S'il n'existe pas de consentement signé couvrant la publication, le travail s'arrête à la première étape. Pas « on floutera le visage », pas « on recadrera » : le matériel n'est simplement pas préparé.

C'est la seule des cinq limites où le contournement paraît inoffensif, alors que les conséquences ne retombent pas sur vous mais sur la personne qui vous a fait confiance.

5. La relation

La plus sous-estimée. Certaines décisions sont justes du point de vue des données et destructrices du point de vue de la relation.

Comment présenter un mois faible à un client. Faut-il annoncer aujourd'hui qu'un délai va glisser, ou attendre d'en être sûr. Faut-il refuser un client à qui votre prestation ne convient pas — même s'il est prêt à payer.

Un agent ne refusera pas de l'argent. Ce n'est pas un défaut : il lui manque simplement ce qu'il faut pour refuser. Et il n'adoucira ni ne gonflera un rapport — mais il ne décidera pas non plus sur quel ton annoncer une mauvaise nouvelle, parce que cette décision porte sur des personnes et non sur des chiffres.

L'erreur de conception classique

On écrit la limite dans un avertissement au lieu de la poser dans le processus.

Cela donne ceci : la description du produit indique « une validation humaine est requise », alors que techniquement la publication part toute seule. Tant que l'attention est là, ça tient. Un mois plus tard, un vendredi soir, quelqu'un clique « ok » sans lire.

Formulation vérifiable : si le processus ne peut pas avancer sans une action de votre part, la limite existe. S'il le peut mais que ce n'est pas recommandé, il n'y a pas de limite, il y a un souhait.

Les questions à se poser avant le lancement

Parcourez la liste et, pour chaque point, dites où se place l'étape « chez vous » :

• quelles questions l'agent ne traite pas, quelle que soit la façon dont elles sont posées ;
• quelle action modifie le montant ou le délai de quelqu'un ;
• ce qui sort à l'extérieur sous le nom de quelqu'un ;
• où un consentement est nécessaire et ce qui se passe quand il manque ;
• quelle décision vous ne confieriez pas à un nouveau collaborateur pendant sa première semaine.

La dernière question est la plus opérante. Un agent est exactement cela : un nouveau collaborateur, rapide, jamais fatigué, sans le contexte de vos relations avec vos clients et sans l'intuition que quelque chose cloche.

Et le revers

Les limites coûtent de l'argent. Chaque étape « chez vous » prend de votre temps, et si vous en posez vingt, vous n'obtiendrez pas un assistant mais une file d'attente de validations.

D'où cinq, et non vingt. Tout le reste — le tri des entrants, les brouillons, les rapprochements, les relances, la collecte de matière, la mise en forme — se délègue entièrement, sans contrôle intermédiaire. Des limites n'ont de sens que si elles sont peu nombreuses et placées au bon endroit.