Un'automazione non è un mobile: è un organismo collegato a sistemi che si muovono senza avvisarvi. Un fornitore modifica il formato di una risposta. Un modello viene aggiornato e diventa più prudente, quindi meno netto. Un commerciale cambia una regola di sconto e nessuno pensa a dirlo. Tre mesi dopo il processo funziona ancora, ma peggio, e nessuno sa da quando.
Le cinque domande, una per una
- Chi interviene quando cambia un'interfaccia? Una persona con un nome, un tempo di intervento annunciato e un modo per raggiungerla.
- Chi sorveglia, e che cosa? Una supervisione utile non si limita a verificare che il servizio risponda: verifica che il risultato sia ancora buono.
- Chi corregge gli errori, ed entro quanto? Un incidente bloccante e una deriva lenta non hanno lo stesso trattamento.
- Che cosa succede se il modello cambia comportamento? Servono una versione fissata, un insieme di esempi di riferimento e un confronto prima del passaggio.
- Quanto costa tutto questo all'anno? Una cifra annunciata prima della firma, non un preventivo scoperto al primo incidente.
Sorvegliare il risultato, non solo il servizio
La supervisione classica risponde alla domanda «sta girando». Non basta: un'automazione può girare perfettamente e produrre risultati sempre peggiori. Sorvegliamo quindi anche la sostanza: la quota di proposte corrette da un umano, la parte di casi passati come incerti, il costo medio per esecuzione e i tempi complessivi.
Quando uno di questi indicatori devia, c'è un segnale prima dell'incidente. È tutta la differenza fra correggere un'automazione e scoprirla rotta da un cliente scontento.
Un'automazione quasi mai cade di colpo. Si degrada, e il silenzio passa per stabilità.
Il cambio di modello
È il rischio proprio dei progetti di IA, ed è poco conosciuto. Un modello aggiornato non è lo stesso prodotto: cambia lo stile, cambia la prudenza, può cambiare il formato di uscita. Bastano tre precauzioni: non lasciare mai che un processo punti a una versione fluttuante, conservare un insieme di esempi con le risposte attese e rigiocare quell'insieme prima di ogni passaggio. Se il fornitore non ha quegli esempi di riferimento, non può sapere che cosa un aggiornamento ha cambiato da voi.
Riprendere il controllo
È il punto che protegge l'azienda nel lungo periodo. Dipende da quattro condizioni: il codice e le istruzioni sono da voi, gli account dei servizi usati sono vostri, la documentazione esiste ed è leggibile da qualcun altro, e il contratto prevede un passaggio di consegne. Un fornitore che accetta queste quattro condizioni non teme di essere sostituito, il che in genere è un buon segno sul resto.
Lo approfondiamo in l'articolo sulla proprietà, e la nostra offerta di pilotaggio nella pagina Orchestratore IA descrive con precisione chi fa che cosa una volta consegnato il progetto.
La nostra posizione
Non vendiamo una consegna seguita dal silenzio. Supervisione, correzione e adattamento fanno parte del servizio, con un costo annunciato, perché è l'unico modo onesto di presentare un'automazione: non è un acquisto, è un esercizio continuo.
