Existem duas arquiteturas possíveis, e num esquema parecem se. A primeira: a IA analisa, decide, age. A segunda: a IA analisa, propõe, um humano valida, depois a ação sai. Num processo inócuo, a diferença é uma questão de conforto. Num processo sensível, é a diferença entre ganhar tempo e ter um incidente.

A regra: decide o custo de um erro

Não colocamos a validação humana por princípio, nem por desconfiança. Colocamo la onde um erro custaria mais do que o tempo que faz perder. Bastam quatro perguntas para decidir, etapa a etapa:

  • É reversível? Uma classificação corrige se. Um e-mail enviado a três mil clientes não se recupera.
  • É visível do exterior? Tudo o que sai da empresa compromete a sua imagem e a sua palavra.
  • Compromete juridicamente ou financeiramente? Um preço, um prazo, uma recusa, um reembolso.
  • A regra é estável? Uma regra que muda todos os meses precisa de olho humano durante mais tempo.

Uma etapa reversível, interna, sem compromisso e regida por uma regra estável pode correr sozinha. Assim que uma destas condições cai, aparece uma validação.

O que quer dizer validar

Uma validação só é útil se puder ser feita em segundos. Uma caixa para assinalar no meio de um muro de texto não é uma validação, é uma formalidade que se acaba por despachar sem ler. Concebemos por isso o ecrã de validação como um resultado por direito próprio: o que a máquina propõe, em que se baseou, o que vai acontecer se aceitar, e uma forma de recusar num clique.

Vamos mais longe nas ações com efeito externo: uma recusa não se limita a bloquear, desfaz o que pode ser desfeito e regista a proibição, para que a mesma proposta não volte na semana seguinte.

Uma validação que ninguém lê não é uma segurança. É uma assinatura em branco.

A armadilha da validação sistemática

Fazer validar tudo por um humano parece prudente. Na prática é a forma mais segura de matar o projeto: a fila alonga se, a pessoa que valida torna se o novo estrangulamento, e ao fim de três semanas valida tudo sem olhar. O ganho desaparece, o risco regressa.

Uma boa arquitetura reserva portanto a atenção humana para os casos que a merecem: os montantes elevados, os clientes sensíveis, as situações que o próprio modelo assinala como incertas, e uma amostra aleatória para verificar que o resto continua a aguentar.

Três regimes, não dois

  • Automático. A máquina age, o humano controla depois por amostragem. Reservado a etapas reversíveis e internas.
  • Sob validação. A máquina prepara, o humano valida antes de a ação sair. O regime por omissão em tudo o que sai da empresa.
  • Assistido. O humano faz o trabalho, a máquina fornece lhe a matéria, o contexto e um rascunho. O regime certo para situações raras, complexas ou relacionais.

Um processo completo mistura quase sempre os três. É aliás um bom teste: um prestador que aplica o mesmo regime a todas as etapas não fez a análise.

O regime evolui com a prova

Uma etapa não fica fixada no seu regime. Quando uma etapa sob validação apresenta várias centenas de propostas aceites sem correção, pode passar a automático com controlo por amostragem. Ao contrário, uma etapa automática que produz correções repetidas volta a validação no próprio dia. Esse deslocamento decide se com números, não com impressões, e é uma parte importante do trabalho de um orquestrador.