Existen dos arquitecturas posibles y se parecen en un esquema. La primera: la IA analiza, decide, actúa. La segunda: la IA analiza, propone, un humano valida y luego la acción sale. En un proceso anodino, la diferencia es cuestión de comodidad. En un proceso sensible, es la diferencia entre ganar tiempo y tener un incidente.

La regla: decide el coste de un error

No situamos la validación humana por principio ni por desconfianza. La situamos donde un error costaría más que el tiempo que hace perder. Cuatro preguntas bastan para decidirlo, etapa por etapa:

  • ¿Es reversible? Una clasificación se corrige. Un correo enviado a tres mil clientes no se recupera.
  • ¿Se ve desde fuera? Todo lo que sale de la empresa compromete su imagen y su palabra.
  • ¿Compromete jurídica o financieramente? Un precio, un plazo, una negativa, una devolución.
  • ¿Es estable la regla? Una regla que cambia cada mes necesita ojo humano durante más tiempo.

Una etapa reversible, interna, sin compromiso y regida por una regla estable puede funcionar sola. En cuanto falla una de esas condiciones, aparece una validación.

Qué significa validar

Una validación solo es útil si puede hacerse en unos segundos. Una casilla en medio de un muro de texto no es una validación, es un trámite que se acaba despachando sin leer. Por eso diseñamos la pantalla de validación como un entregable en sí mismo: lo que la máquina propone, en qué se ha basado, qué va a pasar si se acepta y una forma de rechazar en un clic.

Vamos más lejos en las acciones con efecto externo: un rechazo no se limita a bloquear, deshace lo que puede deshacerse y registra la prohibición, para que la misma propuesta no vuelva la semana siguiente.

Una validación que nadie lee no es una seguridad. Es una firma en blanco.

La trampa de validarlo todo

Hacer que un humano valide todo parece prudente. En la práctica es la forma más segura de matar el proyecto: la cola se alarga, la persona que valida se convierte en el nuevo cuello de botella y al cabo de tres semanas lo valida todo sin mirar. La ganancia desaparece, el riesgo vuelve.

Una buena arquitectura reserva por tanto la atención humana para los casos que la merecen: los importes elevados, los clientes sensibles, las situaciones que el propio modelo señala como inciertas y una muestra aleatoria para comprobar que el resto sigue en pie.

Tres regímenes, no dos

  • Automático. La máquina actúa, el humano controla después por muestreo. Reservado a etapas reversibles e internas.
  • Bajo validación. La máquina prepara, el humano valida antes de que salga la acción. El régimen por defecto en todo lo que sale de la empresa.
  • Asistido. El humano hace el trabajo, la máquina le aporta el material, el contexto y un borrador. El régimen adecuado para situaciones raras, complejas o relacionales.

Un proceso completo mezcla casi siempre los tres. Es además una buena prueba: un proveedor que aplica el mismo régimen a todas las etapas no ha hecho el análisis.

El régimen evoluciona con la prueba

Una etapa no queda fijada en su régimen. Cuando una etapa bajo validación acumula varios cientos de propuestas aceptadas sin corrección, puede pasar a automático con control por muestreo. A la inversa, una etapa automática que produce correcciones repetidas vuelve a validación el mismo día. Ese desplazamiento se decide con cifras, no con impresiones, y es una parte importante del trabajo de un orquestador.