Le macchine si ribellano ai loro creatori e minacciano l’umanità: è un tema ricorrente nella letteratura e nella filmografia di fantascienza. È, tra gli altri, l’incubo di Stanley Kubrick in “2001 Odissea nello spazio” ed è, soprattutto, la profezia distopica di James Cameron in “Terminator”, dove si immagina un futuro in cui l’intelligenza artificiale stermini gli esseri umani perché non ne ha più bisogno.
Be’, questo incubo potrebbe diventare realtà (e in un giorno neanche tanto lontano). Tant’è che le Big Tech hanno deciso di mettere un freno ai più avanzati programmi di ricerca sull’AI. Il fondatore e Ceo di Anthropic, Dario Amodei, ha proposto di rallentare la corsa all’intelligenza artificiale. La decisione di Amodei ha ricevuto il plauso di Elon Musk, che su X ha scritto: «Dario ha ragione». La presa di posizione del Ceo di Anthropic segue di un giorno l’analoga scelta di Sam Altman, fondatore della concorrente OpenAI. Anche per Altman è venuto il momento di dare uno stop e pensare al rischio che le macchine possano in futuro giocarci qualche brutto scherzo.
È successo tutto in pochi giorni. A lanciare il sasso è stato, il 9 settembre scorso, un giovane ricercatore sull’AI, Jacob Coxon, che si è dimesso da Anthropic denunciando quella che, a suo giudizio, è l’«irresponsabilità» delle maggiori aziende che operano nell’intelligenza artificiale. «Stanno giocando d’azzardo con le nostre vite», ha scritto sui social. L’iniziativa di Coxon è stata appoggiata da un importante dirigente scientifico della stessa azienda, Evan Hubiger, secondo il quale le probabilità di uno «sterminio» dell’umanità da parte delle macchine sono di oltre il «10% nel prossimo decennio». Non è per niente affatto una percentuale trascurabile e non è, soprattutto, una prospettiva lontana nel tempo.
Ma che cosa, al dunque, è successo? Perché gli stessi “padri” dell’AI hanno ora paura? I ricercatori hanno scoperto una possibilità terrificante: l’intelligenza artificiale potrebbe un giorno autoalimentarsi, potrebbe cioè progredire a un bassissimo consumo energetico, a differenza di quello che accade oggi, che occorrono quantità enormi di potenza per mandare avanti i supercomputer. A quel punto le macchine non avrebbero più bisogno dell’uomo per operare. E il passaggio successivo potrebbe essere la distruzione dell’umanità. Terminator uscirebbe dal mondo della fantasia e si farebbe atroce realtà.
Questa possibilità inquietante la spiega bene Geoffrey Hinton, premio Nobel per la fisica nel 2014 nonché pioniere delle reti neurali artificiali. «Oggi l’AI – ha detto lo scienziato in una intervista uscita ieri su “la Repubblica” – ha bisogno delle persone per mantenere in piedi le sue infrastrutture. Se invece arriviamo a una superintelligenza, molto più pericolosa dei modelli attuali per cui l’AI è in grado di riprogettare se stessa, probabilmente in 10 anni o forse meno, allora potrebbe autosostenersi in maniera estremamente rapida, progettando dispositivi analogici a basso consumo capaci di mantenere in funzioni le sue centrali elettriche, installare i pannelli solari e così via. Senza gli umani. Molti pensano che questi sistemi non abbiano intenzioni proprie, ma è evidente che le hanno».
È anche vero, d’altra parte, che l’AI promette benefici mirabolanti come la cura del cancro, l’aumento vertiginoso della ricchezza globale (con la conseguente sconfitta della povertà), l’aumento generalizzato della qualità della vita di tutti. È per questo che tanti scienziati rimangono restii a rallentare le loro ricerche. Però, al punto in cui siamo, è bene fermarsi. E riflettere.
