L’intelligenza artificiale ha acquisito una propria mitologia. Salvatrice per alcuni. Assassina per altri. Nessuna delle due versioni regge a un esame attento, la realtà merita più pazienza a mio parere.
Quello che l’AI sa fare oggi e quello che non sa fare
L’International AI Safety Report 2026 offre un punto di riferimento utile, proprio perché evita sia il trionfalismo tecnologico sia la certezza catastrofica.
La sua valutazione è importante: i sistemi AI attuali mostrano capacità embrionali che potrebbero diventare rilevanti per scenari di “perdita di controllo”, ma non possiedono ancora la combinazione di autonomia, pianificazione strategica, persistenza e capacità di resistere alle contromisure che tali scenari richiederebbero.
I modelli più avanzati oggi disponibili rimangono sorprendentemente disomogenei. Risolvono problemi matematici complessi, generano software sofisticato, analizzano questioni scientifiche e usano strumenti digitali. Eppure gli stessi sistemi possono fallire per errori banali, perdere il filo in processi lunghi, allucinare informazioni o bloccarsi quando un compito apparentemente semplice sviluppa complicazioni inattese.
L’intelligenza, almeno nei sistemi artificiali, non è una scala su cui ogni capacità sale alla stessa velocità. È un paesaggio frastagliato che rende ogni previsioni eccezionalmente difficili.
Ma qualcosa di importante sta cambiando
Respingere le narrazioni apocalittiche esagerate non deve portarci a sottovalutare ciò che sta accadendo.
Le capacità avanzano con una velocità notevole. L’UK AI Security Institute ha documentato miglioramenti sostanziali nell’ingegneria del software autonoma e nei compiti di cybersecurity. Stanford HAI riporta guadagni rapidi su valutazioni difficili, inclusi benchmark creati specificamente per mettere alla prova i sistemi più avanzati.
Un sistema AI non ha bisogno di coscienza, emozioni o di una volontà di dominare il mondo per creare rischi significativi. Un sistema sufficientemente capace, connesso all’infrastruttura sbagliata, dotato di permessi eccessivi o orientato verso un obiettivo mal specificato può causare danni senza “voler” nulla.
Il rischio non è necessariamente una macchina malvagia, ma può essere semplicemente capacità moltiplicata per autonomia moltiplicata per accesso.
Il salto logico che spesso manca
C’è un ragionamento che ricorre spesso nelle discussioni sul rischio esistenziale dell’AI, e per un buon tratto è persino condivisibile: le capacità migliorano rapidamente, i sistemi diventano più autonomi, alcuni modelli si comportano in modo inatteso o provano ad aggirare i vincoli di valutazione. Fin qui, nessuna obiezione seria.
Il problema arriva subito dopo, quando da queste premesse si scivola alla conclusione che l’intelligenza artificiale porterà, quasi per traiettoria naturale, all’estinzione umana.
Tra agenti sempre più autonomi e una superintelligenza incontrollabile si apre un territorio enorme, fatto quasi interamente di incertezza. Servirebbe una combinazione di capacità che oggi nessun sistema dimostra insieme: pianificazione sostenuta nel tempo, accesso a risorse proprie, adattamento strategico, resistenza all’intervento umano, esecuzione affidabile in ambienti imprevedibili. Anche i ricercatori che scrivono l’International AI Safety Report ammettono di essere in disaccordo su quanto questi scenari diventeranno mai concreti.
L’incertezza va riconosciuta. Non va convertita in certezza, in nessuna delle due direzioni.
L’errore opposto è altrettanto pericoloso
C’è anche un argomento comodo, di segno contrario: l’AI commette ancora errori assurdi, quindi le preoccupazioni sono esagerate.
Una tecnologia non deve essere perfetta per diventare pericolosa. Gli aerei si guastano. Gli algoritmi finanziari falliscono. I sistemi di controllo industriale hanno malfunzionamenti. Non per questo abbandoniamo l’aviazione o la finanza o automazione industriale: costruiamo strati di controllo, perché i sistemi capaci che operano su scala li richiedono.
La domanda utile non è se un’AI dia occasionalmente una risposta ridicola. È cosa succede quando una versione molto più capace di quello stesso sistema ottiene il permesso di modificare software, avviare transazioni, muovere macchinari, accedere a dati sensibili o coordinare altri agenti autonomi.
Il passaggio dall’AI come consulente all’AI come attore cambia radicalmente il modello di rischio.
Il rischio che merita attenzione oggi è già abbastanza serio
Non servono scenari di estinzione per giustificare una governance più solida. Le questioni immediate bastano da sole: l’AI avanza rapidamente in cybersecurity, i modelli scientifici offrono assistenza sempre più sofisticata in chimica e biologia, gli agenti autonomi si connettono a strumenti esterni e sistemi organizzativi, la disinformazione generata artificialmente opera su scala enorme.
A livello organizzativo c’è però un rischio più silenzioso, e forse più importante: il bias da automazione. Man mano che i sistemi diventano più competenti, le persone diventano naturalmente più disposte a fidarsi. Il paradosso è che più l’AI diventa brava, più facile diventa smettere di interrogarla.
Un sistema che ha ragione 99 volte crea esattamente le condizioni psicologiche in cui il centesimo errore viene accettato senza esame critico.
La sfida della governance non è quindi solo controllare le macchine. È preservare il giudizio umano attorno a macchine sempre più capaci.
Tra il panico e la compiacenza
Ogni volta che appare una tecnologia trasformativa, esiste la tentazione di scegliere tra due posizioni emotive: la paura o l’entusiasmo. La storia suggerisce che nessuna delle due, da sola, è particolarmente utile.
La stampa sconvolse l’autorità costituita. L’elettricità trasformò l’industria e creò nuovi pericoli. La fisica nucleare produsse energia e armi dalla stessa conoscenza. Internet connesse l’umanità e generò, nello stesso movimento, nuove forme di crimine, sorveglianza e manipolazione.
Definire ogni capacità emergente come prova di un’apocalisse imminente indebolisce la discussione seria. Ma deridere ogni preoccupazione sulla sicurezza perché i modelli odierni sono imperfetti potrebbe rivelarsi altrettanto irresponsabile.
La posizione difendibile sta in un luogo più scomodo, nel mezzo. I sistemi attuali non dimostrano che l’estinzione sia vicina. Dimostrano che sistemi autonomi sempre più capaci stanno arrivando più in fretta di quanto molte istituzioni si aspettassero.
È già una ragione sufficiente per prepararsi con cura, non perché la catastrofe sia certa, ma perché l’incertezza combinata con capacità crescenti è, di per sé, qualcosa che un’ingegneria responsabile prende sul serio.
Forse la domanda giusta non è se sapremo controllare l’intelligenza artificiale: È se sapremo continuare a dubitare di noi stessi mentre la usiamo.
Fonti: International AI Safety Report 2026 · UK AI Security Institute · Stanford HAI 2026 AI Index
#IntelligenzaArtificiale #AIGovernance #EticaDellAI #Cybersecurity #Innovazione #FuturoDelLavoro #DecisionMaking #Leadership #TrasformazioneDigitale #AIRisk
Nota sull’uso di IA: l’autore ha utilizzato strumenti di IA generativa (ChatGPT, Claude, Perplexity) come supporto alla scrittura e ha interamente rivisto e approvato il testo finale.