L’intelligenza artificiale (IA) è parte integrante della nostra quotidianità: è presente quando una piattaforma di streaming ci suggerisce cosa guardare la sera, quando un assistente vocale imposta un timer per la cottura della pasta, quando un e-commerce anticipa i nostri bisogni, proponendoci prodotti di cui non possiamo assolutamente fare a meno. Siamo pronti a ragionare su cosa significa questa presenza per noi, per le nostre aziende, per il nostro futuro?
Un dibattito polarizzato?
Negli ultimi anni è capitato a tutti, almeno una volta, di assistere o partecipare ad una discussione sull’IA. Da un lato, c’è chi la racconta come la più grande opportunità della storia: uno strumento capace di migliorare produttività ed efficienza, supportare la ricerca scientifica, rafforzare la democrazia. Scenari plausibili, per certi versi già in corso.
Dall’altro lato, l’immaginario collettivo tende a soffermarsi soprattutto sulle zone d’ombra. Si possono individuare tre grandi filoni narrativi che riflettono sul rapporto tra umano e IA:
Apocalittica digitale: le macchine create dall’essere umano potrebbero ribellarsi ed entrare in contrasto con il loro creatore. Alla base di questa visione c’è una contrapposizione tra ciò che è naturale (vita biologica, natura) e gli aspetti artificiali (quanto prodotto dall’uomo);
Sostituibilità dell’uomo: l’IA renderà l’essere umano superfluo, non solo nei lavori manuali, ma anche in ambiti che tradizionalmente sono appannaggio esclusivo dell’intelligenza umana;
Singolarità tecnologica e Superintelligenza: in un ipotetico momento nel futuro il progresso tecnologico avanzerà a tal punto da risultare incomprensibile all’essere umano.
Al di là dei toni più catastrofisti, questi immaginari riflettono i sentimenti contrastanti che l’IA e il progresso tecnologico suscitano nell’opinione pubblica: meraviglia e timore, entusiasmo e diffidenza.
Un report del Pew Research Center (How People Around the World View AI, 2025) mostra come è percepito nel mondo il crescente uso dell’IA nella vita quotidiana: il 34% degli intervistati si dice più preoccupato che entusiasta, il 42% è tanto preoccupato quanto entusiasta, mentre solo il 16% afferma di essere più entusiasta che preoccupato.
Queste percentuali raccontano qualcosa: siamo di fronte a una tecnologia che genera sentimenti contraddittori e simultanei. Si può essere affascinati da uno strumento che in pochi secondi crea un report al posto nostro e chiedersi chi risponde di eventuali errori presenti in esso. Si può apprezzare un algoritmo che effettua uno screening di centinaia di curricula e chiedersi quali criteri siano stati alla base della scelta dei candidati e delle candidate migliori.
Questa ambivalenza non è un problema da risolvere. È il punto di partenza giusto.
Oltre la polarizzazione: entra in scena l’etica
L’etica (dal greco ἦθος, ethos) è una disciplina filosofica che riguarda la condotta umana e le modalità di interazione tra gli individui alla luce di nozioni come bene/male, giusto/sbagliato.
Ragionare sull’IA in termini etici non vuol dire stabilire se questa sia “buona” o “cattiva”, ma vuol dire riconoscere i valori di cui una tecnologia si fa portatrice. Nessuna tecnologia è neutrale: è il risultato di assunzioni, convinzioni, preferenze, contesti non solo di chi l’ha progettata, ma anche di chi ha cominciato ad usarla.
Un algoritmo di selezione del personale addestrato su dati storici riproduce i bias del passato; un sistema di riconoscimento facciale testato prevalentemente su volti maschili e caucasici può avere difficoltà a riconoscere volti femminili o di persone di colore. In entrambi i casi, far ricadere tutta la responsabilità sulla tecnologia sarebbe come lottare contro i mulini a vento: un’impresa vana, che non tiene conto del modo attraverso cui quella tecnologia è arrivata a quel determinato output.
Occorre agire a monte, sin dalla progettazione. Su questo principio si basa il Value Sensitive Design, un approccio che non riguarda solo chi progetta tecnologie, ma chiunque voglia capire come i valori prendono forma in ciò che utilizziamo.
Value Sensitive Design: attenzione all’etica sin dalla progettazione
Elaborato intorno agli anni ’90 del secolo scorso da Batya Friedman e colleghi dell’Università di Washington, il Value Sensitive Design (o progettazione sensibile ai valori) è un metodo di progettazione che integra i valori etici e sociali in tutto il processo di design tecnologico. Si regge su alcuni principi fondamentali:
- I valori etici entrano in gioco fin dall’inizio. I progettisti non si limitano a chiedersi “funziona?”, ma anche “che impatto avrà sulle persone?”. Il controllo etico non arriva alla fine, ma è un filo che attraversa tutto il processo;
- Tutti gli stakeholders sono importanti. Non contano solo gli utenti diretti – chi usa un’app, un sistema, un servizio – ma anche chi ne subirà gli effetti indirettamente: una categoria professionale, una comunità. I destinatari ultimi del progetto sono gli esseri umani con bisogni, diritti, valori.
- Non esistono valori universali: il contesto detta le condizioni. Non c’è un manuale valido per tutti i casi. Il progettista deve capire quali valori sono rilevanti in quello specifico scenario e trovare un equilibrio ragionato tra esigenze che spesso sono in tensione tra loro. È un processo di delicato compromesso, deliberato e ragionato.
- Il processo si aggiusta in corsa. Se in corso d’opera ci si accorge che i valori inizialmente individuati non vengono più rispettati, si torna indietro e si ricomincia da quel punto.
Ma, in concreto, come si applica questo metodo?
I tre tipi di indagine del Value Sensitive Design
Partiamo dalle domande. Chi coinvolgere? Quali valori rispettare? Come tradurli in scelte concrete di design?
Il VSD prevede tre tipi di indagine che non si susseguono rigidamente, ma si intrecciano di continuo.
- Indagine concettuale. Ci si pone domande teoriche, si definiscono i concetti chiave e i valori di riferimento nello specifico contesto. In questa indagine rientra anche l’analisi di possibili conflitti tra più valori (privacy vs sicurezza; trasparenza vs efficienza).
- Indagine empirica. Si entra nel mondo dei dati e dell’osservazione. Attraverso interviste, questionari, osservazioni sul campo si raccolgono le prospettive reali di chi userà la tecnologia e di chi ne sarà comunque toccato.
- Indagine tecnica. Riguarda la fattibilità e le soluzioni tecniche per incorporare i valori nella tecnologia. È anche il momento di soluzioni creative, nel caso in cui si riscontrino contrasti tra valori.
Il VSD è un insieme di attività concrete durante il design: si tratta di buona progettazione, che guarda oltre i costi e le funzionalità. Non è una bacchetta magica, in grado di garantire la purezza etica di un progetto, ma è un valido strumento che permette di creare una tecnologia fin dall’inizio allineata con ciò che riteniamo giusto.
Oltre i timori: da spettatori a interlocutori
Le narrazioni sull’IA (l’apocalittica digitale, la sostituibilità dell’uomo, la Superintelligenza) hanno il merito di sollevare domande serie. Il loro limite, tuttavia, è che spesso queste domande sono poste in una prospettiva sbagliata: in un futuro lontano, in mani altrui, fuori dalla nostra portata.
Il Value Sensitive Design sposta l’attenzione: non su ciò che l’IA potrebbe diventare, ma su ciò che è già adesso. Progettare in senso etico non è un compito riservato a ingegneri o filosofi: è una questione che riguarda quanti e quante entrano in contatto con quella tecnologia, dalla progettazione, al finanziamento, alla regolamentazione, all’utilizzo.
Da spettatori spaventati a interlocutori con voce in capitolo: è questo il cambio di prospettiva che strumenti come il Value Sensitive Design rendono possibile.
