O que não se pode confiar a um agente de IA: os limites que se definem antes do arranque
A conversa sobre limites costuma parecer uma lista de medos: «e se ele escreve um disparate», «e se despacha uma parvoíce aos clientes». É uma má conversa — acaba sempre em «então não vamos fazer nada» ou em «deixa lá, logo se vê».
Dá mais jeito olhar para o limite como parte da construção. Não uma ressalva, mas um passo em que o trabalho pára e espera por uma pessoa. Aí a pergunta deixa de ser «isto mete medo ou não» e passa a ser «onde é que se põe exactamente esse passo».
A regra que decide onde o pôr é uma só: o agente pára onde o custo de um erro é maior do que o tempo poupado. A seguir, cinco sítios onde esta condição se cumpre quase sempre.
1. Julgamento profissional
Tudo aquilo que na sua área conta como consulta: médica, jurídica, financeira, psicológica.
O limite não passa pelo tema, passa por haver ou não um destinatário concreto. Escrever um post sobre como funciona a higiene oral — pode. Responder nos comentários a uma pessoa com um dente a doer depois de uma restauração — não pode, e não é porque o agente formule pior do que um médico. Uma recomendação à distância, sem observação, não é cuidado, é risco: para o doente, em primeiro lugar.
Formulação prática: o agente não responde ao fundo da questão e passa-a a uma pessoa. Não «responde com cuidado», não «acrescenta um aviso legal» — não responde.
Um caso à parte é a publicidade regulada. Na saúde há quase por todo o lado exigências sobre o que se pode prometer, e variam entre países mais do que parece: em França estão limitadas tanto as imagens de «antes e depois» como os testemunhos de doentes, e em Portugal a comunicação de uma clínica está ligada ao seu registo junto do regulador. O agente assinala estes sítios, mas a decisão é sua e do seu advogado, porque depende do país e do serviço.
2. Dinheiro e compromissos
Reembolso, desconto, compensação, adiamento de prazo, anulação de dívida, pagamento. Tudo aquilo em que, depois da acção, muda um valor ou uma obrigação de alguém.
Aqui é importante não confundir duas proibições diferentes:
- O agente não mexe em dinheiro. Não inicia reembolsos, não processa pagamentos, não movimenta fundos. É uma limitação técnica, e não um acordo de boas maneiras.
- O agente não decide se vale a pena mexer. Reúne os factos — o que foi pago, quando, o que tinha sido prometido, o que diz a sua regra — e traz-lhos prontos para decisão.
A diferença entre «preparou o reembolso e espera pelo botão» e «fez o reembolso e avisou» é a diferença entre uma ferramenta e um problema.
Aqui entram também os preços e os descontos no catálogo. A descrição do produto o agente escreve-a. O preço não o muda.
3. Publicação em seu nome
Tudo o que sai para fora com o nome de uma pessoa ou de uma empresa: um post, uma resposta a uma avaliação, um email a um cliente, uma proposta comercial.
Tecnicamente o limite é este: o agente prepara o rascunho e pára. Quem publica é a pessoa cujo nome está debaixo do texto.
É aqui que mais se poupa — e mal. A tentação percebe-se: se cada post tem de ser lido à mesma, onde está a poupança? A poupança está em ler feito ser mais rápido do que escrever de raiz: minutos em vez de uma hora. E enviar sem ler poupa esses minutos e compra um risco que, num dia mau, custa um cliente.
Caso especial: as respostas a avaliações. Numa área regulada, a resposta não deve confirmar que a pessoa sequer foi seu doente ou seu cliente, e muito menos discutir o caso dela. O dono da clínica é precisamente aqui que quer «explicar como as coisas se passaram na realidade» — e é exactamente com isso que quebra o sigilo. Uma resposta destas o agente não a publica nunca.
4. Dados pessoais e consentimentos
Fotografias, documentos, informação clínica, tudo o que identifica uma pessoa.
O limite aqui não é «tratar com cuidado», é «não há consentimento, não há material». Se não existir um consentimento assinado que cubra a publicação, o trabalho pára logo no primeiro passo. Não «desfocamos a cara», não «cortamos o enquadramento» — o material simplesmente não se prepara.
É o único dos cinco limites em que contorná-lo parece inofensivo e as consequências não caem em cima de si, caem em cima da pessoa que confiou em si.
5. Relações
O mais subestimado. Há decisões correctas pelos dados e destrutivas pelas relações.
Como apresentar a um cliente um mês fraco. Se vale a pena dizer hoje que o prazo vai escorregar ou esperar até haver certeza. Se se recusa um cliente a quem o seu serviço não serve — mesmo que ele esteja disposto a pagar.
Um agente não recusa dinheiro. Não é um defeito, é a ausência daquilo de que a recusa precisa. E o relatório também não o suaviza nem o inflaciona — mas também não decide em que tom se dá uma má notícia, porque essa decisão é sobre pessoas e não sobre números.
O erro de desenho típico
O limite escreve-se no aviso legal em vez de se pôr no processo.
Na prática é assim: na descrição do produto diz-se «requer verificação humana» e tecnicamente a publicação acontece sozinha. Enquanto há atenção, funciona. Um mês depois, a uma sexta-feira ao fim do dia, alguém carrega em «ok» sem ler.
Formulação verificável: se o processo não consegue seguir em frente sem uma acção sua — há limite. Se consegue, mas não é recomendável, não há limite, há um desejo.
O que perguntar a si próprio antes de arrancar
Percorra a lista e responda, em cada ponto, onde é que fica o passo «consigo»:
- que perguntas é que o agente não responde, seja como for que lhas façam;
- que acção muda um valor ou um prazo de alguém;
- o que sai para fora com o nome de alguém;
- onde é preciso consentimento e o que acontece quando ele não existe;
- que decisão é que você não daria a um colaborador novo na primeira semana.
A última pergunta é a que mais rende. Nesse sentido, o agente é mesmo um colaborador novo: rápido, sempre disponível, sem o contexto das suas relações com os clientes e sem a sensação de que ali há alguma coisa que não bate certo.
E o reverso da medalha
Os limites custam dinheiro. Cada passo «consigo» é tempo seu, e se puser vinte não fica com um ajudante, fica com uma fila de espera para aprovação.
Por isso cinco, e não vinte. Todo o resto — triagem do que entra, rascunhos, conferências, lembretes, recolha de matéria, formatação — entrega-se por inteiro, sem verificações pelo meio. O sentido dos limites é serem poucos e estarem nos sítios certos.