Esistono due architetture possibili e su uno schema si assomigliano. La prima: l'IA analizza, decide, agisce. La seconda: l'IA analizza, propone, un umano convalida, poi l'azione parte. Su un processo innocuo lo scarto è una questione di comodità. Su un processo sensibile è la differenza fra un guadagno di tempo e un incidente.

La regola: decide il costo di un errore

Non collochiamo la convalida umana per principio né per diffidenza. La collochiamo dove un errore costerebbe più del tempo che fa perdere. Bastano quattro domande per deciderlo, fase per fase:

  • È reversibile? Una classificazione si corregge. Un'e-mail inviata a tremila clienti non si recupera.
  • È visibile dall'esterno? Tutto ciò che esce dall'azienda ne impegna l'immagine e la parola.
  • Impegna giuridicamente o finanziariamente? Un prezzo, un termine, un rifiuto, un rimborso.
  • La regola è stabile? Una regola che cambia ogni mese richiede un occhio umano più a lungo.

Una fase reversibile, interna, senza impegno e governata da una regola stabile può girare da sola. Appena una di queste condizioni salta, compare una convalida.

Che cosa vuol dire convalidare

Una convalida è utile solo se può essere fatta in pochi secondi. Una casella da spuntare in mezzo a un muro di testo non è una convalida, è una formalità che si finisce per sbrigare senza leggere. Progettiamo quindi la schermata di convalida come un risultato a sé stante: che cosa propone la macchina, su che cosa si è basata, che cosa succederà se si accetta e un modo per rifiutare con un clic.

Andiamo oltre sulle azioni con effetto esterno: un rifiuto non si limita a bloccare, disfa ciò che può essere disfatto e registra il divieto, perché la stessa proposta non torni la settimana dopo.

Una convalida che nessuno legge non è una sicurezza. È una firma in bianco.

La trappola della convalida sistematica

Far convalidare tutto da un umano sembra prudente. In pratica è il modo più sicuro di uccidere il progetto: la coda si allunga, la persona che convalida diventa il nuovo collo di bottiglia e dopo tre settimane convalida tutto senza guardare. Il guadagno sparisce, il rischio torna.

Una buona architettura riserva quindi l'attenzione umana ai casi che la meritano: gli importi elevati, i clienti sensibili, le situazioni che il modello stesso segnala come incerte e un campione casuale per verificare che il resto regga ancora.

Tre regimi, non due

  • Automatico. La macchina agisce, l'umano controlla a posteriori su un campione. Riservato alle fasi reversibili e interne.
  • Sotto convalida. La macchina prepara, l'umano convalida prima che l'azione parta. Il regime predefinito per tutto ciò che esce dall'azienda.
  • Assistito. L'umano fa il lavoro, la macchina gli fornisce materia, contesto e una bozza. Il regime giusto per le situazioni rare, complesse o relazionali.

Un processo completo mescola quasi sempre i tre. È del resto una buona prova: un fornitore che applica lo stesso regime a tutte le fasi non ha fatto l'analisi.

Il regime evolve con la prova

Una fase non resta bloccata nel suo regime. Quando una fase sotto convalida mostra diverse centinaia di proposte accettate senza correzione, può passare in automatico con controllo a campione. Al contrario, una fase automatica che produce correzioni ripetute torna sotto convalida lo stesso giorno. Quello spostamento si decide su numeri, non su impressioni, ed è una parte importante del lavoro di un orchestratore.