Human-in-the-loop: perché l'AI deve preparare e le persone approvare

• In sintesi

  → L'AI prepara, le persone approvano: è una scelta di progetto, non un limite tecnico dei sistemi Sentira.

  → Non tutte le azioni richiedono revisione preventiva: quelle reversibili e a basso rischio restano automatiche, quelle con effetto verso l'esterno passano sempre da un'approvazione.

  → Per aziende strutturate ed enti pubblici, il controllo umano non rallenta l’AI, ma costruisce la fiducia necessaria per estenderla oltre il primo progetto.

Cos'è l'human-in-the-loop e perché conta

L’human-in-the-loop è un modello operativo in cui l’AI (Intelligenza Artificiale) prepara un’azione, come una bozza email, un promemoria o un dato arricchito, e una persona la rivede e la approva prima che diventi effettiva. Non è un limite tecnico dell’AI: è una scelta di progetto. È il principio su cui costruiamo ogni sistema Sentira, riassunto nei tre verbi che usiamo per descriverlo: percepisce, prepara, tu approvi.

Il sistema si occupa della parte che richiede tempo: raccogliere dati da fonti diverse, interpretarli, scrivere una prima versione del risultato. La responsabilità della decisione finale resta a una persona, che verifica, corregge se serve e approva. In pratica un'email non parte da sola e un preventivo non si conferma da solo: qualcuno controlla prima.

Per un responsabile IT o un dirigente che deve rispondere di ogni sistema introdotto in azienda, questa distinzione è ciò che separa l’adozione consapevole dell’AI dal subirla come una scatola nera. È anche il motivo per cui, nella sezione Trasparenza del nostro sito, indichiamo due impegni distinti: l’explainability (dire cosa fa il sistema, perché lo fa e su quali dati) e il controllo umano, ovvero il fatto che l’AI prepara mentre le persone approvano.

Perché non conviene lasciare l'AI completamente autonoma

Lasciare che un sistema AI agisca in piena autonomia espone un’azienda a un rischio evitabile: un errore che nessuno ha controllato prima che producesse un effetto reale su un cliente, un contratto o una scadenza. Il controllo umano non rallenta l’AI in modo significativo: sposta semplicemente la verifica prima del punto in cui l’errore diventa irreversibile.

Un esempio illustrativo, non un caso Sentira: immaginiamo un sistema che invia in autonomia solleciti di pagamento sulla base di dati aggiornati automaticamente. Se un pagamento viene registrato con un giorno di ritardo nel sistema di origine, il sollecito parte comunque, verso un cliente che ha già pagato. L'errore non è dell'AI in sé, ma dell'assenza di un controllo prima dell'invio. Con l'human-in-the-loop, lo stesso sollecito arriva come bozza in una dashboard: una persona verifica lo stato del pagamento e decide se inviarlo, rinviarlo o eliminarlo.

Per aziende pubbliche e private con obblighi di rendicontazione e responsabilità verso clienti o cittadini, questa differenza non è un dettaglio tecnico: è ciò che permette di rispondere con esattezza a chi chiede perché il sistema ha agito in un certo modo.

Come funziona in pratica: bozze, revisione, approvazione

In pratica, un sistema con human-in-the-loop consegna il risultato come bozza dentro una dashboard, non come azione già eseguita: una persona la apre, la legge e la approva, la corregge o la rifiuta. Nei progetti Sentira in produzione questo passaggio richiede minuti, non ore, perché il lavoro pesante (raccogliere i dati e scriverli in un formato leggibile) lo ha già svolto il sistema.

Per Executive Lease, broker di noleggio a lungo termine di Brugherio (MB) attivo dal 2011, l’agente AI realizzato dal nostro team prepara bozze email da revisionare prima dell’invio, oltre a ricordare in automatico i rinnovi (bollo, assicurazione, revisione) e a rispondere ai clienti in tempo reale anche fuori orario. Il Dropbox con file sparsi su clienti, veicoli e scadenze è diventato un CRM (Customer Relationship Management) strutturato, con una dashboard unica che riunisce statistiche, chat e automazioni.

Per Confindustria Varese, associazione di categoria di Gallarate (VA), il sistema si sveglia ogni mattina alle 06:00, scansiona 6 testate locali, rileva in media 23 banner pubblicitari per ciclo, arricchisce i dati aziendali con AI e ricerca sul web, e genera in media 6 bozze email personalizzate nello stile del commerciale. Nessuna parte da sola: il commerciale apre la dashboard e in circa 20 minuti approva, rifiuta o rinvia ogni bozza, contro le 3 ore al giorno di ricerca manuale di prima.

Quando l'AI può agire senza approvazione preventiva

Non ogni azione richiede un’approvazione preventiva: le azioni a basso rischio, reversibili o puramente informative possono restare automatiche, mentre le azioni che producono un effetto verso l’esterno (un’email a un cliente, un contratto, un pagamento) passano sempre da una revisione umana prima di diventare definitive.

È la stessa distinzione che si vede nel caso Executive Lease: il sistema ricorda i rinnovi e invia promemoria in automatico (un’azione a basso rischio, reversibile, che al massimo genera una notifica in più), ma prepara le bozze email da revisionare prima dell’invio, perché una comunicazione diretta al cliente ha un effetto che vale la pena controllare prima che parta. La regola pratica che usiamo è semplice: più un’azione è difficile da annullare, o più tocca una persona esterna all’azienda, più serve un’approvazione prima che accada.

Cosa significa per la fiducia di aziende e enti pubblici

Per aziende strutturate ed enti pubblici, l'human-in-the-loop è ciò che rende l'AI adottabile senza rinunciare alla responsabilità delle decisioni: ogni azione resta tracciabile a una persona che l'ha approvata, non a un sistema che ha agito da solo.

È anche una scelta che guarda avanti. Oggi lavoriamo con aziende pubbliche e private strutturate (PMI, grandi gruppi, enti con processi organizzati), mentre per la Pubblica Amministrazione stiamo costruendo le condizioni necessarie, a partire da trasparenza, explainability e conformità agli standard di accessibilità WCAG AA. Il controllo umano su ogni azione critica è già oggi lo stesso principio che rende un sistema adatto a un contesto con obblighi di rendicontazione più stringenti.

Non è un compromesso tra velocità e sicurezza: è la condizione che permette di estendere un sistema AI oltre il primo progetto pilota. Misuriamo i risultati (ore risparmiate, errori ridotti, ritorno dell’investimento) proprio perché ogni azione passata da un’approvazione umana lascia una traccia chiara di cosa ha funzionato e cosa no.