"Il confine del futuro" (Feltrinelli, 2019) è il breve saggio di Francesca Rossi che ripercorre la storia dell’Intelligenza Artificiale, le sue potenzialità, i rischi, le speranze e le paure connesse a una sfida epocale.
Breve, agile, scorrevole. Il saggio di Francesca Rossi ripercorre la storia dell’Intelligenza Artificiale (IA), le sue potenzialità, i rischi, le speranze e le paure connesse a una sfida epocale. Il confine del futuro. Possiamo fidarci dell’intelligenza artificiale? (Feltrinelli, 2019) è un libro di poco più di cento pagine, accessibile ai non addetti ai lavori. Provoca e stimola il lettore, a volte lo scandalizza ma senz’altro lo affascina.
Francesca Rossi è stata docente di informatica all’Università di Pisa e Padova, e da quattro anni lavora in IBM, una delle maggiori aziende nel settore informatico. Per IBM si occupa di etica per l’intelligenza artificiale. Scrive lei stessa: «Mi occupo di come guidare lo sviluppo dell’IA verso direzioni che supportino un’innovazione etica».
E infatti non bisogna sottovalutare i rischi connessi alle eventuali scelte autonome prese dai sistemi artificiali (software e/o hardware): se il loro comportamento fosse dannoso per l’umanità, allora bisognerebbe intervenire. Si può parlare di comportamento, questo è chiaro, specialmente alla luce delle tecniche di machine learning, o apprendimento automatico, secondo le quali la macchina impara da alcuni esempi che le vengono sottoposti, improvvisando alla luce della generalizzazione che ne trae. In parole povere, la macchina può capire come comportarsi anche in situazioni in cui non si è mai trovata prima. Da qui nasce l’imprevedibilità della Intelligenza Artificiale, e quindi si avverte la necessità di un’etica applicata al suo campo.
Scrive Francesca Rossi: «Per poterci fidare dell’IA dobbiamo avere la certezza che segua i nostri stessi princìpi etici e valori morali. […] È necessario specificare vincoli di comportamento che pongano dei limiti alla creatività dell’IA, in modo da evitare azioni eticamente inaccettabili». Questa è la sfida del futuro. Non è più il tempo dello sviluppo lineare e solitario delle prestazioni dei computer; bisogna lavorare anche sul fronte del quadro valoriale ed etico entro cui queste prestazioni si danno.
È noto a tutti il concetto di singolarità proposto dallo scrittore di fantascienza Vernor Vinge: con singolarità si intende il momento in cui la potenza dell’Intelligenza Artificiale sarà tale da aumentare vertiginosamente e in assoluta autonomia, con la conseguente perdita di controllo da parte dell’uomo. Più che un obiettivo auspicabile, la singolarità è un momento da tenere sotto controllo e da scongiurare, o, se questo è impossibile a causa della forte spinta all’innovazione tecnologica, perlomeno da controllare preventivamente attraverso lo sviluppo di un’etica per l’IA.
Il confine del futuro di Francesca Rossi è un libro alla portata di tutti, un delizioso e agevole manuale per avere una panoramica sulle origini e sul futuro dell’Intelligenza Artificiale. Lo studio su un’etica per le macchine deve essere salutato come un importante passo, non solo verso una innovazione tecnologica più umana, ma anche per una maggiore consapevolezza della nostra umanità: «La speranza», scrive la Rossi, «è che mentre studiamo come migliorare questa tecnologia, riflettiamo anche su cosa ci rende umani e quali sono i nostri valori».
