Negli ultimi anni abbiamo imparato un’espressione nuova: Human-in-the-Loop (HITL).

L’idea è semplice: se un essere umano supervisiona un sistema di Intelligenza Artificiale, quel sistema è più sicuro.

Ieri, durante un interessante confronto con Angela Sebastianelli ed Emanuele Frontoni in occasione di un convegno sull’AI, è emersa una domanda che credo meriti una riflessione più ampia: la presenza di un Human-in-the-Loop è davvero una garanzia sufficiente, oppure dovremmo iniziare a parlare di un Competent Human-in-the-Loop?

Con l’Agentic AI, gli agenti non rispondono più a una domanda. Pianificano, decidono, usano strumenti, agiscono nel mondo con crescente autonomia.

Per questo la domanda deve cambiare.

Non più: c’è un essere umano nel loop?

Ma: quell’essere umano è competente?

Per spiegarlo, mi è tornata in mente una metafora da Le avventure di Pinocchio.

Pinocchio è l’agente autonomo: curioso, capace di imparare, facilmente influenzabile. Nel suo cammino incontra due figure opposte.

La Fata Turchina non decide al posto suo. Non lo controlla a ogni passo. Lo educa, lo richiama quando sbaglia, gli insegna a distinguere la realtà dall’illusione e interviene nei momenti che contano. È supervisione competente. È un Competent Human-in-the-Loop (CHITL).

Poi arriva Lucignolo.

Non è cattivo come il Gatto e la Volpe. È entusiasta, sicuro di sé, convincente. Invita Pinocchio verso il Paese dei Balocchi minimizzando ogni rischio; non per malizia, ma perché non ne comprende le conseguenze. Ed è proprio questo a renderlo pericoloso.

Nell’era dell’Agentic AI, il rischio maggiore potrebbe non essere l’assenza dell’essere umano. Potrebbe essere la sua presenza incompetente: un supervisore che si lascia convincere dalla fluidità di una risposta, che non distingue un’allucinazione da un’inferenza corretta, che approva senza capire davvero cosa sta approvando. Un Human-in-the-Loop più simile a Lucignolo che alla Fata Turchina.

Oggi investiamo moltissimo nel valutare i modelli. Li testiamo, li certifichiamo, li confrontiamo. Ma quasi nessuno si chiede come valutiamo la competenza di chi deve supervisionarli.

Forse il futuro della governance dell’Intelligenza Artificiale non dipenderà solo da modelli più intelligenti. Dipenderà da quante persone sapremo formare per comprenderli, governarli e, quando serve, fermarli.

È tempo di andare oltre l’Human-in-the-Loop. È tempo del Competent Human-in-the-Loop.

p.s. Per continuare il viaggio, vedi anche altri articoli correlati

1) 🔖Effetto Pinocchio: Perché l’AI mente senza saperlo

2) 🔖La Fata Turchina non è un algoritmo

3) 📖 Pinocchio Effect in AI Hallucinations – disponibile in versione cartacea e PDF.

#AgenticAI #HumanInTheLoop #CompetentHumanInTheLoop #AIGovernance #TrustworthyAI #ResponsibleAI #ArtificialIntelligence

Nota sull’uso di IA: l’autore ha utilizzato strumenti di IA generativa (ChatGPT, Claude, Perplexity) come supporto alla scrittura e ha interamente rivisto e approvato il testo finale.