La creazione di sistemi di intelligenza artificiale “sovrumana”, dotata cioè di capacità superiori a quelle degli esseri umani, è un rischio per il mondo e una questione tecnica irrisolta del nostro tempo.
Proprio per controllare questo aspetto OpenAI lo scorso luglio ha formato il team Superalignment guidato dallo scienziato Ilya Sutskever che ha recentemente reso noto un documento che descrive una tecnica che consente a un modello linguistico di grandi dimensioni meno potente di supervisionarne uno più potente e suggerisce che questo potrebbe essere un piccolo passo verso la comprensione di come gli esseri umani potrebbero supervisionare le macchine “sovraumane”.
È come se uno studente di prima media – spiegano dal team – cercasse di supervisionare un universitario. Il lavoro di Superalignment sarà messo a disposizione di tutti. Parte della nostra missione – spiegano – è contribuire non solo alla sicurezza dei nostri modelli, ma anche alla sicurezza dei modelli di altri laboratori e dell’intelligenza artificiale avanzata in generale. Solo così sarà possibile costruire l’AI a beneficio di tutta l’umanità, in tutta sicurezza”.
OpenAI è anche alla ricerca di una collaborazione esterna. L’azienda, in partnership con l’ex CEO e presidente di Google Eric Schmidt, sta lanciando un programma di sovvenzioni da 10 milioni di dollari per sostenere la ricerca tecnica sull’allineamento superintelligente. Alcune quote saranno riservate a laboratori accademici, organizzazioni no-profit, singoli ricercatori e studenti laureati. All’inizio del 2025,OpenAI prevede infine di ospitare una conferenza sul super allineamento dove condividerà il lavoro dei finalisti del progetto.
