Come ingegneri, abbiamo sempre lavorato su problemi concreti: ridurre i costi, migliorare la qualità, aumentare la sicurezza, rendere i processi più efficienti. Sappiamo misurarli, confrontarli, ottimizzarli. È quello che facciamo tutti i giorni.
Ma con l’intelligenza artificiale e i sistemi sempre più autonomi, una domanda diversa sta diventando difficile da ignorare: che tipo di ambiente umano stiamo costruendo?
Perché ogni sistema tecnico che progettiamo diventa, alla fine, un sistema umano. Un ERP cambia come le persone lavorano e come un’organizzazione percepisce se stessa. Un algoritmo ridistribuisce le priorità. Un assistente AI cambia chi produce conoscenza, chi la valida e chi se ne assume la responsabilità. Non stiamo semplicemente supportando l’attività umana: la stiamo ridisegnando.
Per anni abbiamo parlato di human-centred design, e è stato un passo avanti importante: progettare partendo dai bisogni reali delle persone invece che dalle possibilità tecniche. Ma oggi non basta più.
La domanda non è solo se il sistema che costruiamo è facile da usare. È anche cosa succede alle persone che lo usano nel tempo. Rafforza il loro giudizio o lo sostituisce progressivamente? Aumenta la loro autonomia o crea dipendenza? Rende la responsabilità più chiara o più facile da eludere?
L’ottimizzazione tecnica non risponde a queste domande, e non è una critica all’ottimizzazione; è semplicemente che misura altre cose.
Non esiste un KPI per la dignità, non c’è un dashboard per l’autonomia.
Eppure i sistemi che ignorano queste dimensioni possono essere tecnicamente eccellenti e umanamente impoverenti. Un processo molto automatizzato può erodere lentamente la conoscenza necessaria a comprenderlo. Un sistema intelligente può produrre raccomandazioni di alta qualità senza che nessuno sia davvero responsabile della decisione finale.
Credo che noi ingegneri abbiamo bisogno di un framework più ampio per pensare a queste conseguenze. Lo chiamo Engineering Humanism, non perché sia contrario alla tecnologia, ma perché la tecnologia è diventata abbastanza potente da plasmare comportamenti, organizzazioni e istituzioni in profondità, e quindi la nostra responsabilità non può più fermarsi alla performance tecnica.
Dignità, autonomia, giudizio, responsabilità sono dimensioni progettuali reali, non principi etici da aggiungere a margine quando l’architettura è già definita.
L’AI rende tutto questo urgente. Per decenni abbiamo automatizzato lavoro fisico o ripetitivo. Ora stiamo iniziando ad automatizzare parti della cognizione stessa: scrittura, analisi, classificazione, supporto alle decisioni, sviluppo software. La tentazione naturale è automatizzare tutto quello che tecnicamente si può automatizzare.
Ma “può essere automatizzato” e “dovrebbe essere automatizzato” non sono la stessa cosa, e questa distinzione è nostra, non dei regolatori, non degli ethicisti. A volte la parte più preziosa di un processo è esattamente lo sforzo umano che richiede. Un medico che ragiona in condizioni di incertezza. Un ingegnere che capisce perché un sistema si comporta in modo inatteso. Uno studente che fatica con un concetto difficile.
L’efficienza elimina l’attrito, ma alcune forme di attrito sono il modo in cui si costruisce competenza. Se le eliminiamo sistematicamente, rischiamo di costruire sistemi sempre più intelligenti mentre le persone che li usano diventano gradualmente meno capaci.
Prima di automatizzare un processo o introdurre un sistema intelligente, dovremmo porci almeno quattro domande:
- Capacità — Questo sistema rende le persone più capaci o, nel tempo, le rende meno capaci di agire senza di esso?
- Autonomia — Questo sistema amplia la capacità delle persone di decidere e agire oppure crea dipendenza dalla tecnologia?
- Giudizio — Questo sistema aiuta le persone a esercitare un giudizio migliore oppure tende progressivamente a sostituirlo?
- Responsabilità — Dopo l’introduzione del sistema, è ancora chiaro chi comprende, chi decide e chi risponde delle conseguenze?
Noi ingegneri non costruiamo solo strumenti: definiamo possibilità.
Ogni architettura rende certi comportamenti più probabili e altri meno. Ogni interfaccia distribuisce l’attenzione in un certo modo. Ogni automazione ridistribuisce la conoscenza. Ogni algoritmo incorpora assunzioni su ciò che conta. In questo senso abbiamo sempre contenuto, nel nostro lavoro, una filosofia implicita dell’essere umano anche quando non la riconoscevamo come tale.
Forse è il momento di riconoscerla. Perché la domanda centrale del nostro lavoro nei prossimi anni potrebbe non essere quanto intelligenti possono diventare i sistemi che costruiamo, ma
quanto consapevoli dobbiamo diventare noi nel costruirli.
#EngineeringHumanism #ArtificialIntelligence #Engineering #HumanCenteredDesign #ResponsibleAI #DigitalTransformation #FutureOfWork
Nota sull’uso di IA: l’autore ha utilizzato strumenti di IA generativa (ChatGPT, Claude, Perplexity) come supporto alla scrittura e ha interamente rivisto e approvato il testo finale.