Qué no se le puede confiar a un agente de IA: los límites que se fijan antes de arrancar

La conversación sobre los límites suele acabar siendo una lista de miedos: «¿y si escribe una barbaridad?», «¿y si les manda cualquier cosa a los clientes?». Es una mala conversación, porque termina en «pues entonces mejor no» o en «venga, ya lo veremos».

Es más útil tratar el límite como parte del montaje. No como una salvedad, sino como un paso en el que el trabajo se detiene y espera a una persona. Así la pregunta deja de ser «¿da miedo o no?» y pasa a ser «¿dónde coloco exactamente ese paso?».

La regla para colocarlo es una sola: el agente se para donde el coste del error es mayor que el tiempo ahorrado. A continuación, los cinco sitios donde esa condición se cumple casi siempre.

1. El criterio profesional

Todo lo que en tu campo cuenta como asesoramiento: médico, jurídico, financiero, psicológico.

El límite no pasa por el tema, pasa por a quién va dirigido. Escribir un post sobre cómo funciona la higiene bucal, sí. Contestarle en comentarios a alguien a quien le duele una muela después de un empaste, no — y no porque el agente lo redacte peor que el dentista. Una recomendación a distancia y sin exploración no es cercanía: es un riesgo, y en primer lugar para el paciente.

Formulación práctica: el agente no responde al fondo y pasa la pregunta a una persona. Ni «responde con cautela» ni «añade un aviso»: no responde.

Caso aparte, la publicidad regulada. En sanidad casi en todas partes hay requisitos sobre lo que se puede prometer, y varían entre países más de lo que parece: en Francia están restringidas tanto las fotos de «antes y después» como los testimonios de pacientes, y en España la publicidad sanitaria va ligada al registro del centro. El agente marca esos puntos, pero la decisión la tomas tú con tu abogado, porque depende del país y del servicio.

2. Dinero y compromisos

Devolución, descuento, compensación, aplazamiento, cargo, pago. Todo aquello que, una vez hecho, le cambia a alguien un importe o un compromiso.

Aquí conviene no mezclar dos prohibiciones distintas:

• El agente no mueve dinero. No inicia devoluciones, no cobra, no saca fondos. Es una restricción técnica, no un acuerdo de buenas maneras.
• El agente no decide si conviene moverlo. Reúne los hechos — qué se pagó, cuándo, qué se prometió, qué dice tu norma — y te lo trae listo para decidir.

La diferencia entre «he preparado la devolución y espero tu botón» y «he hecho la devolución y te aviso» es la diferencia entre una herramienta y un problema.

Lo mismo vale para los precios y los descuentos del catálogo. La descripción del producto la escribe el agente. El precio no lo toca.

3. Publicar en tu nombre

Todo lo que sale al exterior con el nombre de una persona o de una empresa: un post, la respuesta a una reseña, un correo a un cliente, una propuesta comercial.

Técnicamente, el límite se ve así: el agente prepara el borrador y se detiene. Publica la persona cuyo nombre va debajo del texto.

Es donde más se recorta, y es un error. La tentación se entiende: si hay que leer cada post igualmente, ¿dónde está el ahorro? El ahorro está en que leer algo ya escrito es más rápido que escribirlo desde cero: minutos en lugar de una hora. Enviar sin leer se ahorra esos minutos y compra un riesgo que, en un mal día, cuesta un cliente.

Caso especial: las respuestas a reseñas. En un sector regulado, la respuesta no debe confirmar que esa persona haya sido paciente o cliente tuyo, y mucho menos entrar en su caso. Es justo ahí donde el dueño de la clínica quiere «explicar cómo fue todo en realidad» — y con eso rompe el secreto profesional. Una respuesta así el agente no la publica nunca.

4. Datos personales y consentimientos

Fotografías, documentos, información de salud, todo lo que identifica a una persona.

El límite aquí no es «tratarlo con cuidado», es «sin consentimiento no hay material». Si no existe un consentimiento firmado que cubra la publicación, el trabajo se detiene en el primer paso. Ni «le tapamos la cara» ni «recortamos el encuadre»: el material sencillamente no se prepara.

Es el único de los cinco límites donde saltárselo parece inofensivo, mientras que las consecuencias no las sufres tú, sino la persona que confió en ti.

5. La relación

El más infravalorado. Hay decisiones correctas según los datos y demoledoras según la relación.

Cómo contarle a un cliente un mes flojo. Si decirle hoy que la fecha se va a mover o esperar a tenerlo seguro. Si rechazar a un cliente al que tu servicio no le encaja, aunque esté dispuesto a pagar.

Un agente no va a rechazar dinero. No es un defecto: es que le falta lo que hace falta para rechazarlo. Y tampoco va a suavizar ni a inflar un informe — pero tampoco va a decidir con qué tono se da una mala noticia, porque esa decisión va de personas y no de cifras.

El error de diseño más común

El límite se escribe en el aviso legal en vez de colocarse en el proceso.

Se ve así: en la descripción del producto pone «requiere revisión humana», pero técnicamente la publicación sale sola. Mientras haya atención, funciona. Un mes después, un viernes por la tarde, alguien le da a «vale» sin leer.

Formulación comprobable: si el proceso no puede seguir sin una acción tuya, el límite existe. Si puede pero no se recomienda, no hay límite: hay un deseo.

Qué preguntarte antes de arrancar

Repasa la lista y responde, en cada punto, dónde va el paso «pasa por ti»:

• qué preguntas no responde el agente, se formulen como se formulen;
• qué acción cambia el importe o el plazo de alguien;
• qué sale al exterior con el nombre de alguien;
• dónde hace falta consentimiento y qué pasa cuando no lo hay;
• qué decisión no le darías a alguien recién incorporado en su primera semana.

La última pregunta es la más útil. Un agente es exactamente eso: alguien recién incorporado, rápido, incansable, sin el contexto de tu relación con los clientes y sin esa sensación de que algo no cuadra.

Y la otra cara

Los límites cuestan dinero. Cada paso «pasa por ti» es tiempo tuyo, y si pones veinte no tendrás un ayudante, tendrás una cola de aprobaciones.

Por eso son cinco y no veinte. Todo lo demás — clasificar lo que entra, los borradores, los cuadres, los recordatorios, reunir material, dar formato — se delega entero, sin revisiones intermedias. Los límites solo tienen sentido si son pocos y están en el sitio correcto.