Chatbot e strumenti di AI usati dai dipendenti all’insaputa del reparto informatico: è la shadow AI. Fa risparmiare tempo, ma espone le aziende a fughe di dati, sanzioni e danni d’immagine.
Un dipendente ha un report da consegnare entro sera. Incolla i dati dell’azienda in un chatbot, chiede una sintesi e in pochi secondi il lavoro è fatto. Nessuno ha dato un permesso e il reparto informatico non ne sa nulla. È un caso tipico di shadow AI, un fenomeno sempre più diffuso nelle organizzazioni, e sempre più osservato da chi si occupa di sicurezza.
Che cos’è
Per shadow AI si intende l’uso di strumenti di intelligenza artificiale da parte di dipendenti e utenti senza l’approvazione o il controllo del dipartimento IT. L’esempio più comune sono le applicazioni di AI generativa come ChatGPT, impiegate per correggere testi, riassumere documenti o analizzare dati. Il problema nasce dal fatto che chi si occupa di sicurezza non sa che questi strumenti vengono usati, e quindi non può valutare i rischi.
Il concetto deriva dallo shadow IT, cioè l’uso in azienda di software, hardware o servizi non autorizzati, come il cloud storage personale o le app di gestione dei progetti non approvate. La differenza sta nell’oggetto: la shadow AI riguarda solo l’intelligenza artificiale e porta con sé questioni specifiche, che riguardano la gestione dei dati, i risultati prodotti dai modelli e il modo in cui si prendono le decisioni.
Perché si diffonde
Le ragioni sono soprattutto pratiche. Molte applicazioni di AI sono offerte come servizi online, quindi chiunque può iniziare a usarle in pochi minuti, senza coinvolgere i team informatici o di sicurezza. Chi lavora ci vede un modo per automatizzare i compiti ripetitivi, produrre contenuti più in fretta e aggirare processi ufficiali ritenuti troppo lenti o insufficienti. C’è anche un vantaggio per l’azienda: sperimentare senza attendere autorizzazioni può stimolare soluzioni creative e rendere più reattivi servizio clienti e operatività.
I numeri mostrano la portata del fenomeno. Secondo i dati riportati da IBM, tra il 2023 e il 2024 l’uso di applicazioni di AI generativa da parte dei dipendenti è passato dal 74% al 96%, e il 38% ammette di aver condiviso informazioni di lavoro sensibili con questi strumenti senza il permesso del datore di lavoro.
Dove si nasconde
La shadow AI può comparire in qualsiasi reparto:
- Servizio clienti: un operatore chiede a un chatbot non autorizzato come rispondere a un cliente, invece di usare i materiali ufficiali. Il rischio sono risposte incoerenti o false, oltre alla possibile diffusione di dati sensibili nella domanda.
- Analisi dei dati: un analista carica un set di dati proprietario su un modello di machine learning esterno per capire il comportamento dei clienti, esponendo senza accorgersene informazioni riservate.
- Marketing: strumenti che automatizzano le email o analizzano i social possono migliorare i risultati, ma senza controlli i dati dei clienti rischiano di essere gestiti male.
- Visualizzazione dei dati: strumenti che creano grafici e mappe di calore in pochi clic possono produrre errori nei report, oltre a problemi di sicurezza, se alimentati senza l’ok dell’IT.
I rischi
Fughe di dati. Quando nessuno controlla l’uso dell’AI, informazioni riservate possono finire all’esterno. In un sondaggio tra i responsabili della sicurezza informatica (CISO), un’azienda britannica su cinque ha dichiarato di aver subito una perdita di dati per l’uso di AI generativa da parte dei dipendenti. Tre quarti degli intervistati ritengono inoltre che chi lavora dentro l’organizzazione rappresenti un pericolo maggiore delle minacce esterne.
Sanzioni. In molti settori la conformità alle norme sulla protezione dei dati non è negoziabile. Con il Regolamento generale sulla protezione dei dati (GDPR), le violazioni più gravi, come il trattamento illecito dei dati, possono costare fino a 20 milioni di euro o al 4% del fatturato mondiale dell’anno precedente, a seconda di quale sia l’importo più alto.
Danni d’immagine e decisioni sbagliate. Modelli non governati possono produrre risultati lontani dagli obiettivi e dagli standard etici dell’azienda. Dati distorti, modelli che si adattano troppo ai dati di partenza (overfitting) e che perdono precisione col tempo (model drift) possono portare a scelte strategiche errate. Senza regole, inoltre, si rischia di minare la fiducia dei consumatori: ne sono esempi Sports Illustrated, finita al centro delle polemiche per articoli firmati da autori generati dall’AI, e Uber Eats, criticata per aver usato immagini di cibo create con l’intelligenza artificiale.
Come gestirla
Vietare tutto raramente funziona. Per questo gli esperti indicano alcune strade complementari:
- Dialogo: far collaborare IT, sicurezza e reparti operativi, per capire quali strumenti servono davvero e quali sono sicuri.
- Regole flessibili: un quadro di governance che dica quali sistemi si possono usare, come trattare le informazioni sensibili e quale formazione serve su etica e conformità, senza rallentare l’innovazione.
- Guardrail: politiche sull’uso esterno dell’AI, ambienti protetti (sandbox) per provare le applicazioni e firewall che bloccano le piattaforme non autorizzate.
- Monitoraggio: poiché eliminare ogni caso potrebbe non essere possibile, servono strumenti per tracciare l’uso delle applicazioni, controlli sugli accessi, audit periodici e verifiche sui canali di comunicazione.
- Comunicazione: newsletter e aggiornamenti regolari per ricordare ai dipendenti i rischi e invitarli a chiedere all’IT prima di adottare un nuovo strumento.
Per chi guida le aziende, la sfida è tenere insieme sicurezza e produttività: la shadow AI nasce spesso da un bisogno reale di lavorare meglio, e la risposta più efficace è offrire alternative approvate e regole chiare, più che puntare solo sul divieto.
Vittorio Zenardi
