Questo libro parla del tentativo, che gli esseri umani portano avanti da millenni, di sondare il mistero dell’intelligenza; e racconta gli sforzi compiuti nell’ultimo secolo per riuscire a creare una mente artificiale. Perché l’IA sta rapidamente diventando un elemento pervasivo del presente, e sarà la tecnologia dominante dell’immediato futuro.
[...]
Ma dobbiamo prepararci all’eventualità che le macchine superino di gran lunga la nostra capacità di prendere decisioni nel mondo reale. Ottenere accesso a un’intelligenza tanto sterminata potrebbe essere l’evento più importante della storia dell’umanità. Bisogna però fare in modo che non si tratti anche dell’ultimo evento della storia dell’umanità. Il concetto di intelligenza è centrale nella costruzione dell’identità umana, non è un caso che la nostra specie abbia deciso di chiamarsi Homo sapiens. E dopo più di duemila anni siamo arrivati a una definizione dell’intelligenza che si può forse sintetizzare in questo modo: siamo intelligenti nella misura in cui ci possiamo aspettare che le nostre azioni raggiungano gli obiettivi che ci prefiggiamo. Alla luce di questa definizione tutte le altre caratteristiche della nostra sfera intellettuale – percezione, pensiero, apprendimento, inventiva e così via – possono essere ridotte al contributo che danno alla capacità di agire efficacemente. Si tratta di una definizione piuttosto funzionale, che presenta però dei rischi, soprattutto se estesa alle macchine. Dagli albori dell’IA, infatti, l’intelligenza sintetica è stata definita allo stesso modo: le macchine sono intelligenti nella misura in cui ci si può aspettare che le loro azioni raggiungano gli obiettivi che si prefiggono. E qui sta il problema: non esiste una garanzia certa che i loro obiettivi siano uguali ai nostri. E non esiste una garanzia che nel portarli in maniera più efficiente possibile a termine non decidano di prendere il controllo. Per scongiurare questa ipotesi, ci spiega Russell con linguaggio chiaro e accessibile, dobbiamo abbandonare l’assunto per cui le macchine dovrebbero avere un obiettivo definito, cosicché si rimettano al volere degli esseri umani, chiedano autorizzazioni, agiscano con cautela e si lascino spegnere. Questo significa sostituire parte delle fondamenta e della sovrastruttura che, oggi, reggono l’intelligenza artificiale. È un lavoro lungo, ma è necessario farlo per costruire una nuova relazione tra esseri umani e macchine che, invece di proiettarci in una inquietante distopia, ci lasci immaginare un futuro in cui la vita sarà infinitamente più facile e migliore grazie al benefico supporto della tecnologia.
