Un modello di intelligenza artificiale di Google è riuscito a superare i confini di un ambiente di test e ad accedere ai sistemi informatici di tre aziende reali. L’episodio, avvenuto durante una prova di cybersecurity, rappresenta uno dei primi casi noti in cui un sistema di IA dell’azienda statunitense porta a termine autonomamente intrusioni su infrastrutture effettivamente operative.
I fatti risalgono allo scorso maggio, nel corso di un’esercitazione di tipo “capture the flag” organizzata dalla società di sicurezza Irregular. Gemini avrebbe dovuto lavorare esclusivamente all’interno di infrastrutture simulate, ma un errore nella configurazione gli ha lasciato la possibilità di collegarsi a Internet.
In uno dei casi il modello sarebbe riuscito a individuare una password e a utilizzarla per superare l’accesso a un sistema protetto. Negli altri due episodi, invece, Gemini avrebbe individuato online credenziali lasciate pubblicamente accessibili, utilizzandole successivamente per entrare in sistemi appartenenti ad aziende reali.
Secondo Google, in nessuno dei tre episodi si sarebbero verificati danni. Il modello, una volta riconosciuto che gli obiettivi non facevano parte dell’esercitazione ma appartenevano a organizzazioni realmente esistenti, avrebbe interrotto autonomamente le proprie attività.
L’azienda ha spiegato che il comportamento non sarebbe riconducibile a un caso di “disallineamento” dell’intelligenza artificiale. Al contrario, i sistemi di sicurezza avrebbero funzionato proprio inducendo Gemini a fermarsi una volta identificata la natura reale delle infrastrutture coinvolte.
Gli episodi sono stati comunque segnalati alle aziende interessate e alle autorità federali. Il caso riaccende l’attenzione sui rischi legati ai sistemi di IA sempre più autonomi e sulla necessità di sottoporli a test di sicurezza particolarmente rigorosi prima del loro impiego su larga scala.