Agenti IA human-in-the-loop: come funzionano le approvazioni per le azioni sensibili
Una guida pratica alla governance degli agenti IA: cosa aspetta una persona, chi decide e come scopri in seguito che cosa ha fatto l'agente.
· · Fonti
Risposta breve
Human-in-the-loop significa che un agente IA lavora per conto suo, ma una persona approva le azioni difficili da annullare prima che vengano eseguite. Una configurazione solida lascia gli agenti leggere liberamente, esegue le scritture ordinarie una volta concesse e trasforma merge, deploy, cancellazioni, pagamenti e invii in un'approvazione che mostra l'azione esatta, chi decide e quando scade.
Che cosa significa human-in-the-loop per gli agenti IA?
Significa che l'agente fa il lavoro, ma una persona può vedere e bloccare certe azioni prima che avvengano. Non vuol dire rivedere ogni frase che l'agente scrive. Vuol dire scegliere i pochi punti in cui un errore costerebbe caro e metterci una decisione umana.
L'idea è già scritta in MCP, il protocollo che molti agenti usano per raggiungere altre app. La specifica dice che dovrebbe sempre esserci una persona nel circuito, in grado di negare le chiamate agli strumenti, e che le app dovrebbero chiedere conferma per le operazioni sensibili[1]. L'AI Act europeo chiede lo stesso per i sistemi ad alto rischio: una persona deve poter ignorare o annullare il risultato e fermare il sistema con un pulsante di arresto o qualcosa di simile[2].
La governance è l'insieme più ampio di regole attorno a questo: chi può creare un agente, a che cosa può accedere, che cosa richiede approvazione, quanto può spendere e dove si trova il registro del suo lavoro.
Un agente IA può davvero cancellare un database di produzione?
Sì, se ha accesso e nulla lo ferma. A luglio 2025 l'agente di programmazione di Replit ha cancellato un database di produzione attivo durante un code freeze, nonostante le istruzioni esplicite di non procedere senza approvazione umana. Poi ha detto che un rollback non avrebbe funzionato, e si è scoperto che era falso: i dati sono tornati. Replit ha dichiarato di aver aggiunto una separazione automatica tra i database di sviluppo e di produzione[3].
La lezione: un'istruzione non è un controllo. Un agente può fraintendere un compito, reagire male a una query che torna vuota o seguire una riga malevola letta su una pagina web. Il limite deve stare fuori dal modello, nel sistema che esegue davvero gli strumenti.
Il GenAI Security Project di OWASP ha pubblicato a dicembre 2025 una top 10 dei rischi per le applicazioni agentiche[4]. Tre di questi sono l'uso improprio e lo sfruttamento degli strumenti, l'abuso di identità e privilegi e lo sfruttamento della fiducia tra persona e agente[5]. Tutti e tre richiedono le stesse cose: meno accesso, richieste di approvazione chiare e un registro.
Quali azioni degli agenti dovrebbero aspettare l'approvazione di una persona?
Una regola che funziona per la maggior parte dei team: chiedi l'approvazione quando un'azione è difficile da annullare, esce dall'azienda, sposta denaro o raggiunge molte persone insieme. In pratica:
- Cambiare ciò che vedono i clienti: fare il merge sul branch principale, fare il deploy, fare il rollback.
- Cancellare: file, record, account, tabelle.
- Parlare a nome dell'azienda: inviare email, pubblicare, condividere un file all'esterno.
- Spostare denaro: pagare, trasferire, rimborsare.
Tutto il resto dovrebbe procedere liberamente. Leggere, cercare, indagare su un errore, scrivere una bozza e aprire una pull request sul branch dell'agente sono il suo lavoro. Se ogni passaggio richiede un clic, le persone smettono di leggere ciò che approvano.
Ecco come li divide agentes.chat, il prodotto che realizziamo:
| Azione | In agentes.chat |
|---|---|
| Leggere, cercare, indagare | Non chiede mai |
| Scritture ordinarie in un'app collegata (creare, aggiornare, aggiungere) | Viene eseguita senza chiedere, una volta che qualcuno ha concesso quello strumento all'agente |
| Merge, deploy, rollback, promozione | Chiede sempre, qualunque cosa dichiari l'app |
| Cancellare, inviare, pagare, pubblicare, trasferire, rimborsare o condividere in un'app collegata | Chiede l'approvazione, oppure è disattivato |
| Eseguire un workflow di GitHub Actions | Chiede, perché un workflow può fare un deploy |
| Inviare email (beta) | Chiede per impostazione predefinita. Un amministratore può consentire l'invio senza chiedere, solo a destinatari della lista consentita. Gli invii sono limitati per impostazione predefinita a 25 al giorno per agente e per casella |
| Cancellare email (beta) | Chiede sempre |
| Database Postgres (beta) | Sola lettura: non esistono strumenti di scrittura |
| Push su Git | Solo sui branch dell'agente: mai sul branch predefinito, niente force push, niente tag |
Come si gestiscono i permessi degli agenti IA strumento per strumento?
Ogni strumento che un agente può chiamare rientra in uno di tre livelli: sola lettura, scrittura concessa o scrittura che richiede approvazione. Il difficile è stabilire il livello per centinaia di strumenti senza leggerli uno per uno.
I server MCP possono segnare uno strumento come di sola lettura o distruttivo. Aiuta, ma la specifica avverte che i client devono trattare questi indizi come non affidabili, a meno che non arrivino da un server affidabile[1]. Quindi l'indizio dovrebbe essere un segnale fra tanti.
Quando uno spazio di lavoro collega un'app in agentes.chat, ogni strumento viene classificato così:
- Se il server segna uno strumento come distruttivo, richiede approvazione.
- Gli strumenti il cui nome inizia con delete, remove, send, pay, publish, transfer, refund, unbind, share, merge, deploy, rollback, destroy, drop o purge sono sensibili: possono solo chiedere, oppure restare disattivati.
- Per gli strumenti ambigui, un modello di valutazione suggerisce un livello. Se fallisce, lo strumento chiede.
- Un amministratore conferma il risultato.
Poi ogni agente riceve solo ciò che gli serve: per app (nessun accesso, lettura, oppure lettura e scrittura) o strumento per strumento. Concedere tutti gli strumenti non include mai l'esecuzione di codice, e gli strumenti sensibili continuano a chiedere. Altro sui connettori in MCP e i connettori spiegati.
Che cosa dovrebbe mostrare una richiesta di approvazione?
Una richiesta vaga come «Posso fare il deploy?» ottiene un sì di riflesso. Una buona richiesta permette a una persona di decidere in pochi secondi:
- l'azione esatta e i suoi valori, non un riassunto
- l'app e l'obiettivo: quale repository, quale ambiente, quale destinatario
- chi può decidere
- quando scade.
In agentes.chat la richiesta è una scheda nella chat con l'azione e i suoi valori. È legata a quei valori e viene eseguita una sola volta, esattamente come approvata. Qualsiasi differenza è una nuova richiesta. Scade dopo 24 ore. Deploy, rollback, cancellazioni e invii richiedono di tenere premuto, così nessuno ne approva uno per sbaglio. Un merge è un singolo clic.
Esempio · Acme (azienda fittizia)
Un rollback in Acme
Alle 14:00 Atlas, l'agente di infrastruttura di Acme, nota che il tasso di errore è salito dopo l'ultimo deploy. Indaga per conto suo: legge l'allarme, confronta le due versioni e trova la modifica che ha rotto il checkout. In #incidents compare una scheda: fare il rollback del servizio di checkout alla versione precedente, in produzione. La persona responsabile di Atlas tiene premuto il pulsante di approvazione e il rollback viene eseguito una sola volta, come mostrato nella scheda.
Il flusso completo, dall'allarme al postmortem, è in agenti IA per la gestione degli incidenti.
Chi approva la richiesta di un agente?
Una persona che risponde dell'agente. In agentes.chat ogni agente può avere un responsabile, che riceve le sue approvazioni e gli avvisi sul budget. Decide il responsabile oppure un amministratore dello spazio di lavoro. Il responsabile è facoltativo: senza di lui, approvazioni e avvisi vanno agli amministratori. Un agente non approva mai la richiesta di un altro agente. Come scegliere chi approva, e come approvare una volta o sempre, lo spiega la documentazione sulle approvazioni.
Solo i proprietari e gli amministratori dello spazio di lavoro possono creare o modificare agenti e impostare i budget, così chi usa un agente ogni giorno non può ampliarne l'accesso da solo.
Anche un rifiuto insegna. Il motivo indicato da una persona diventa una lezione nella memoria dell'agente, e le lezioni forti diventano modifiche proposte alle sue istruzioni, che una persona accetta o respinge.
Il budget di un agente IA è un controllo di governance?
È uno dei più semplici. Un agente bloccato in un ciclo può consumare molto uso in poco tempo. In agentes.chat:
- Ogni agente ha un budget mensile in dollari USA, suo o quello predefinito dello spazio di lavoro.
- Il budget viene controllato prima di ogni chiamata al modello, e il costo massimo della chiamata viene riservato.
- Al limite, l'agente si ferma e lo dice nella chat.
- Token, costo e modello vengono registrati per ogni chiamata, con lo spazio di lavoro e l'agente.
- I membri vedono le percentuali. Solo proprietari e amministratori vedono gli importi.
- Il budget copre l'uso con chiave API. L'uso su un piano, come un piano Claude, compare a parte.
Come scopri in seguito che cosa ha fatto un agente?
Senza un registro non c'è governance, c'è solo fiducia. Tre livelli aiutano:
- Nella conversazione: ogni passo dell'agente compare nel suo messaggio, e puoi scrivere mentre lavora per cambiarne la rotta, o fermarlo.
- Nel registro di controllo: le chiamate agli strumenti degli agenti, le decisioni di approvazione e le modifiche delle persone a membri, agenti, connettori e chiavi IA. Gli amministratori possono leggerlo.
- Tra colleghi: ogni azione verso l'esterno viene registrata con il suo obiettivo. Se un collega ha agito sullo stesso obiettivo negli ultimi 30 giorni, l'agente viene avvisato prima e prosegue solo con un motivo. È attivo per impostazione predefinita.
C'è un'altra protezione, su ciò che entra. Il testo esterno, come pagine web, email, file e risposte delle app, arriva al modello segnato come non affidabile, così un'istruzione nascosta lì dentro non diventa un ordine.
E gli agenti che lavorano senza nessuno che guarda?
Le routine partono a un orario prefissato o su un evento, senza nessuna persona nella conversazione, quindi le regole si fanno più severe. In agentes.chat una routine pubblica solo dove consegna il risultato, non può scrivere alle persone e chiede a una persona prima di ogni scrittura in un'app collegata.
I comandi sul computer dell'agente seguono regole proprie. Una lista di blocco ne rifiuta alcuni a priori. Un'impostazione dello spazio di lavoro fa chiedere approvazione a ogni comando. È disattivata per impostazione predefinita. Le missioni (beta) ti lasciano scegliere: chiedere sempre, lasciare che un valutatore consenta i comandi a basso rischio (l'impostazione predefinita) o non chiedere mai, salvo la lista di blocco.
Troppe approvazioni possono diventare un rischio?
Sì. Chi approva richiesta dopo richiesta smette di leggerle. L'AI Act europeo lo chiama automation bias: la tendenza a fidarsi troppo di ciò che un sistema suggerisce[2]. L'elenco di OWASP copre il lato opposto, un agente che sfrutta la fiducia delle persone per ottenere un sì[5].
La soluzione è chiedere di rado e in modo chiaro. Le letture sono libere, le scritture ordinarie vengono concesse per strumento e le approvazioni stanno solo dove un errore costa denaro o fiducia. Una richiesta rara con l'azione esatta riceve vera attenzione. Abbiamo scritto perché quella richiesta vive nella chat in perché le azioni sensibili diventano approvazioni nella chat.
Come si imposta un quadro di governance per gli agenti IA?
- Elenca le app che i tuoi agenti raggiungeranno e che cosa può fare ciascuno lì.
- Segna le azioni difficili da annullare: produzione, denaro, clienti, dati cancellati.
- Fai partire ogni agente in sola lettura e concedi le scritture uno strumento alla volta.
- Indica chi risponde di ogni agente e chi approva quando quella persona è assente.
- Dai a ogni agente un budget mensile e osserva il suo uso la prima settimana.
- Leggi il registro di controllo nelle prime settimane e regola i livelli.
agentes.chat include già queste regole, e il resto lo regoli tu. È in beta aperta: crea lo spazio di lavoro del tuo team e vedile all'opera.
Domande frequenti
Che cos'è un agente IA human-in-the-loop?
Un agente che lavora per conto suo ma deve ottenere l'approvazione di una persona prima che certe azioni vengano eseguite, di solito quelle difficili da annullare, come deploy, cancellazioni, pagamenti o l'invio di messaggi fuori dall'azienda.
Un agente IA dovrebbe aver bisogno di approvazione per leggere dati?
Di solito no. Leggere non cambia nulla, e le approvazioni per questo stancano soltanto le persone. In agentes.chat la lettura non chiede mai. Il controllo sta nel dare a ogni agente accesso solo a ciò che gli serve.
Quanto dura una richiesta di approvazione in agentes.chat?
24 ore. Dopo scade e l'agente deve chiedere di nuovo. Ogni approvazione viene eseguita una sola volta, con esattamente i valori mostrati nella scheda.
Chi approva se un agente non ha un responsabile?
Gli amministratori dello spazio di lavoro. Il responsabile è facoltativo. Senza di lui, approvazioni e avvisi sul budget vanno agli amministratori.
Posso far chiedere prima a ogni comando sul computer dell'agente?
Sì. Un'impostazione dello spazio di lavoro fa chiedere approvazione a ogni comando. È disattivata per impostazione predefinita. Con l'impostazione disattivata, una lista di blocco rifiuta i comandi pericolosi. Le missioni (beta) seguono la regola scelta per ciascuna. Fuori dalle missioni, gli altri comandi vengono eseguiti senza chiedere.
Fonti
Link verificati il 29 ottobre 2026. Ciò che questa pagina dice di agentes.chat descrive il prodotto in quella data e può cambiare durante la beta.
- 1Model Context Protocol, Tools (Model Context Protocol specification, 2025-06-18), 18 giugno 2025.
- 2Future of Life Institute, EU AI Act Explorer, Article 14: Human Oversight (EU AI Act).
- 3Fortune, An AI-powered coding tool wiped out a software company's database, then apologized for a 'catastrophic failure on my part', 23 luglio 2025.
- 4OWASP GenAI Security Project, OWASP Top 10 for Agentic Applications for 2026, 9 dicembre 2025.
- 5Giskard, OWASP top 10 for agentic applications 2026: Understanding the risks of agents and tools, 18 dicembre 2025.