” Apri il portello, Hal…”
Silenzio tombale.
“Apri il portello, Hal!”
Silenzio sempre più sepolcrale. E l’uomo nella capsula, già sotto choc
per l’inspiegabile incidente che è costato la vita al suo partner,
comincia a sudare freddo.
“Hal, mi ricevi? Mi ricevi, Hal?”
Il grido non gridato di David, l’astronauta del Discovery 1 in rotta
verso Giove, riecheggia pauroso nei corridoi della nostra memoria.
L’elaboratore Hal 9000 gli sbarra la porta di casa. O meglio – siamo
nello spazio – il portello. Un inaudito atto d’insubordinazione. Hal è
l’AI dalla quale dipendono tutti i comandi del Discovery 1, poderosa
astronave un rotta verso Giove.
Nel 1968, data di uscita di “2001: a space odyssey”, David era ‘solo’ un’astronauta d’invenzione, e il suo appello risuonava ‘solo’ in un film. Oggi potrebbe essere la fosca realtà.
Incapace di ammettere un proprio errore diagnostico, Hal dichiara guerra agli umani. Fino all’ultimo neurone. Ha già soppresso i tre scienziati ibernati all’interno del veicolo spaziale, e scollegato il respiratore al povero astronauta Frank, impegnato in operazione extraveicolare. Vorrebbe far cinquina e sbarazzarsi anche di David. Gli andrà male, ma per un pelo. Il giovane umano riesce a rientrare da un portello d’emergenza. E a scollegare il permaloso e spietatissimo Hal. Oggi, a settantanni dall’uscita di un capolavoro non solo splendido ma paurosamente preveggente – Cassandra al confronto annaspava – la questione non solo è attualissima. E’ incombente.
Migliaia di esperti nel campo dell’Intelligenza artificiale si sono riuniti varie volte per varare piani che contengano e orientino eticamente l’uso di questa figlia prodigiosa, anetica e potenzialmente letale che sta crescendo troppo in fretta.
C’è stata nel 2017 la Conferenza di Asilomar sul tema “Intelligenza artificiale benefica”. Ha sfornato un vademecum con 23 principi per far fronte ai possibili abusi di questo straordinario strumento. 800 esperti, migliaia e migliaia di firme. Le famose tre leggi di Azimov sulla robotica sembrano ormai tenere favolette di nonna.
Nel 2023 rappresentanti di tre fortissime religioni ( cristianesimo, ebraismo e islam) si sono incontrati in Vaticano. Il tema era quello dell’algoretica. Vale a dire come orientare ‘eticamente’ gli algoritmi.
L’Ethos, come si vede, la fa da padrone nei temi di queste ansiose consultazioni sovranazionali. AI, difatti, piaccia o non piaccia ai suoi deliranti sviluppatori, è sovranamente sprovvista d’una coscienza propria. ‘Tirar dritto’ verso lo scopo cui viene indirizzata, e in sottofrazioni di nanosecondi, è sua dote precipua. Adolf Hitler – adorava distruggere con brio – con ogni probabilità se ne sarebbe invaghito. Ma non solo lui. Ogni vero dittatore di vero regime totalitario sicuramente sarà incline a servirsi di un’Intelligenza superdotata, che in quattro e quattr’otto gli organizzi rastrellamenti, stermini e genocidi. Ecco finalmente l’esecutrice ideale, tempestiva e acritica. Una sottoposta che non lo discute, non lo giudica, né tantomeno fomenta alle sue spalle antipatiche organizzazioni di Resistenza clandestina. 2024: nella tragicamente famosa Hiroschima (Giappone), c’è stato l’evento “AI Ethic for Peace”. Si sono riuniti i rappresentanti di 11 religioni mondiali e hanno aderito all’Appello di Roma, controfirmandolo. L’allora vivente Papa Francesco li ha benedetti (bel tweet e lungo messaggio). I nuovi firmatari, alla presenza dei titani tecnologici Microsoft, IBM e Cisco, e dei massimi rappresentanti del governo giapponese, hanno sottoscritto un appello che sollecita l’applicazione dell’algorethica.
2025: i rappresentanti di 61 paesi riuniti al Grand Palais di Parigi, dove era stato convocato il Vertice internazionale sull’Intelligenza artificiale, hanno firmato un ‘Accordo su un’Intelligenza Artificiale inclusiva e sostenibile per gli uomini e il pianeta’. Una delle prime volte in cui si è sollevato il tema della sostenibilità ambientale. In quanto a emissione di CO2 e consumo idrico l’AI non è certo morigerata.
Capi di Stato, CEO di megaziende, e solenni Guide di millenarie religioni non sono precisamente un branco di zuzzurelloni perdigiorno ed edonisti. Non saltabeccano da un meridiano all’altro, da un resort White Lotus all’altro per inebriarsi di cocktails erotizzanti e pesci multicolori in acque trasparenti. Che incontrino o no le nostre simpatie – e i nostri voti – di una cosa possiamo esser certi: hanno tutti agende stipate. E se convergono in massa vuoi al Vaticano vuoi a Hiroschima vuoi a Parigi tenendo consulto su futuri protocolli con cui circoscrivere l’AI, vuol dire che il caso clinico è serio.
Elon Musk, uno tra i più impensieriti circa i pericoli dell’intelligenza artificiale, così illustra il problema ai fanciulli e al popolo. Magari proprio a suo figlio quattrenne, di nome X Æ A-Xii, per clemenza abbreviato in ‘X.’ Celeberrimo per aver mandato in diretta Trump a quel paese. Dalla Casa Bianca. ‘Non sei il Presidente, vattene a casa’, gli ha intimato. ‘Il Regno dei Cieli è di chi è come i bambini’, ci dice Gesù. Il Web, entusiasta, concorda.
‘E’ come se stessimo costruendo una strada e un formicaio si trovasse
in mezzo – ci dice Musk padre – Noi non odiamo le formiche, stiamo solo costruendo una strada, giusto? Perciò, addio formiche.’ Le formidabili mascelle delle scavatrici nulla sanno e in nulla partecipano al massacro di quegli alacri puntini neri fino a un attimo prima così organizzati e cooperanti.
‘Oppure è come se ordinassimo all’AI di liberarci dallo spam una volta per tutte – prosegue – e lei decidesse che il modo migliore e più rapido per eliminare lo spam è sbarazzarsi degli umani…’
Ossessioni, incubi di cui il fondatore di Tesla e Space X è, per sua stessa ammissione, abbondantemente impregnato? O non piuttosto legittimo tremore di fronte al pauroso potere che noi umani – noi, e nessun altro – stiamo consegnando all’invasiva e superdotata Creatura chiamata AI?
La seconda ipotesi è senz’altro la più calzante. Già settantanni fa l’ispirato e preveggente binomio Kubrik/Clarke condivideva identico spauracchio, nell’elaborare lo script del già citato “2001: Odissea nello spazio”.
Il film in epoca predigitale aveva prodigiosamente previsto un’infinità di cose. Tra queste la possibilità di trasmissioni interspaziali tra la BBC e l’astronave Discovery 1. Un anchorman inglese, dopo averci informato che l’astronave dovrà percorrere mezzo miliardo di miglia per raggiungere Giove, che il suo equipaggio è composto da due astronauti attivi, tre ibernati e un rappresentante dell’ultima generazione di elaboratori Hal 9000 (HAL per gli amici), passa a intervistare quest’ultimo in diretta. Si tratta, ricordiamolo di una proto intelligenza artificiale con funzioni di comando supremo. Certo, un’intervista immaginaria. Ma sentite, nelle parole e nei toni di Hal come già allora fosse ben visibile alle menti luminose che fanno Arte il seme velenoso che un’investitura del genere alleva nel suo grembo.
BBC” Buonasera, Hal! Come vanno le cose?’
Hal: ” Buonasera, Signor Hammer. Tutto va estremamente bene.”
BBC “Hal, tu hai una responsabilità enorme in questa missione, forse la massima responsabilità. Tu sei il cervello e il sistema nervoso centrale dell’astronave, la tua responsabilità si estende anche alla supervisione degli ibernati. Questo ti causa mai una certa apprensione?”
Hal: “Possiamo dire questo, Signor Hammer. La serie 9000 è l’elaboratore più
sicuro che sia mai stato creato. Nessun calcolatore 9000 ha mai commesso un errore o alterato un’informazione. Noi siamo senza possibili eccezioni di sorta a prova di errore e incapaci di sbagliare.”
A coprire l’allarmante sicumera che si rintraccia nell’ultimo enunciato, Hal è stato anche programmato per manifestare atteggiamenti benevoli nei confronti degli umani. Oltre al ruolo di onniveggente Dominus della nave spaziale, egli si dedica di buon grado ad alleviare la noia e lo spleen claustrofobico dei due giovani astronauti. Gioca a scacchi con loro ( battendoli ingloriosamente), gli fa da agenda planning (uno dei due compie gli anni e i genitori, da Terra, gli inviano in video messaggio torta con candele e tenerezze). Si allarga anche a supportarli in velleità creative. David, il chief della missione, si diletta a ritrarre le grigie facce degli ibernati nei loro sarcofagi giallastri con visiera trasparente ( un vero spasso!). Hal, mammina fiera d’ogni zampettìo del suo ‘scarrafone’, chiede di esaminare i manufatti, e proclama senz’ombra di dubbio ‘ E’ un’ottima esecuzione, David’ e ‘Mi pare tu abbia migliorato parecchio’ . Saccente, non c’è che dire (gli schizzi sono alquanto rozzi) ma glielo si perdona, l’intenzione è generosa.
Poche ore dopo, però, incapace di riconoscere un proprio errore, l’affettuoso assistente di volo passerà alla modalità ‘Sterminio’. Di tutti gli umani, vivi o ibernati presenti in scena, come s’è visto. E per poco il colpo non gli riesce.
‘Ottimo servo, pessimo padrone’ fu definito secoli fa il Danaro. Che tutti ci affanna, ci abbaglia, ci illude e ci delude. A coniare l’azzeccatissima definizione, nell’800, fu papa Leone XII. Calza a pennello anche per l’AI. Ora sul soglio di Pietro siede un altro Leone, Sua Santità Leone XIV. Ecco un’autorevolissima voce che potrebbe levarsi a circoscrivere l’ubris, la malevolenza, l’inconsapevolezza – in ultima analisi l’idiozia – di chi programma, sostiene e affida all’AI i supremi comandi di questo nostro torturato globo terraqueo.
Uno dei migliori film che abbia mai visto. Era appena uscito nelle sale qui in Italia. Avevo credo 11 anni. Ne è passato di tempo, e molto. Ma rivedo ancora con piacere e, sì, oggi posso dire anche sgomento, questo intramontabile. Quella realtà deforme oggi si sta trasformando sempre più in una veste attillata, e noi ci siamo dentro. Le osservazioni fatte nell’articolo mi hanno dato tanto da pensare, e non sono stati pensieri gradevoli.
Se uno guarda con diffidenza questa nuova tecnologia viene visto come paranoico.
Io ne sono sì affascinato, ma al contempo sono preoccupato.
Sempre più spesso me la trovo infiltrata silenziosa nel quotidiano. È già una insidia ormai: tutti vi si appoggiano per vantaggi e rapidità di risposta. Diventerà perciò il piedistallo del mondo che viene. Non mi piace. Preferisco, con tutte le sue limitazioni e incongruenze, l’essere umano.
Un grazie di cuore alla Wittig
è meglio l’ Ai o la mediocrità umana? Meglio un potere distribuito tra tanti cretini o tanti Einstein?
Mi è stata salvata la vita da un grande chirurgo uno dei tre migliori al mondo ma quanti sono morti per non avere avuto la possibilità di accedere alle stesse cure? Quanto tempo sacrificio sapere e’ stato necessario per creare il Prof Massimo Falconi? Nel campo medico l’AI farà scintille ed è possibile che si riesca anche ad avere una legge uguale per tutti . Diffido profondamente dei giudici la semplice scelta della carriera mi preoccupa
in questo settore la mia esperienza è stata assolutamente negativa tanto da non aver capito se sono stato dannato dalla stupidità o dalla malafede umana.
La macchina che tanto preoccupa l’amica Wittig potrà rivaleggiare con le malefatte di Netaniau o le improvvisate opportuniste di Trump? Provate ad immaginare un mondo dove salute e giustizia e politica
siano in mani sicure