Le aziende introducono agenti AI per rendere più semplice la ricerca delle informazioni e supportare le attività quotidiane. Un assistente che consulta la documentazione interna e gli ordini presenti nell’ERP può aiutare un commerciale a preparare un’offerta o un operatore a trovare una procedura, riducendo il tempo dedicato alla ricerca.
Per renderlo utile, occorre collegarlo ai dati aziendali. Ed è proprio qui che nasce una decisione di sicurezza: quali informazioni può consultare e a chi può restituirle?
Si immagini un agente disponibile a tutti i dipendenti, collegato all’intera documentazione e all’ERP attraverso un account tecnico dotato di ampi permessi di accesso. Se la soluzione non verificasse le autorizzazioni di chi pone la domanda, anche un utente con accessi limitati potrebbe ricevere informazioni riservate. Se quell’account utente venisse compromesso, l’agente potrebbe diventare un canale per raccogliere condizioni commerciali, dati sui dipendenti o documenti strategici. L’attaccante potrebbe cercare e riassumere queste informazioni attraverso semplici domande, senza dover ottenere ulteriori autorizzazioni, sfruttando direttamente quelle già assegnate all’agente.
La causa può essere una scelta progettuale: l’agente accede alle informazioni utilizzando i propri permessi, senza verificare prima se la persona che ha fatto la richiesta sia effettivamente autorizzata a visualizzarle. La piattaforma potrebbe applicare correttamente le autorizzazioni configurate, mentre la soluzione espone comunque informazioni a persone che non dovrebbero riceverle. OWASP descrive questo rischio nelle integrazioni che utilizzano account tecnici con autorizzazioni più ampie del necessario. OWASP – Excessive Agency
Disporre di funzionalità di sicurezza richiede quindi anche la capacità di configurarle e applicarle lungo tutto il percorso del dato.
La soluzione passa dall’adozione del modello Zero Trust, applicato fin dalla progettazione dell’agente. In altre parole, l’agente dovrebbe poter accedere solo alle informazioni realmente necessarie e non dovrebbe mai mostrare a un utente dati che quell’utente non è autorizzato a consultare. L’obiettivo è consentire a utenti e servizi di accedere soltanto alle informazioni e alle operazioni necessarie, verificando le autorizzazioni e limitando l’impatto di un’eventuale compromissione. Per ottenere questo risultato, le funzionalità della piattaforma devono essere configurate secondo regole esplicite e mantenute coerenti con l’evoluzione del servizio. NIST – Zero Trust Architecture
Per un agente AI, questo significa definire con precisione a quali fonti può accedere in base al compito che deve svolgere e verificare le autorizzazioni dell’utente prima di fornire i contenuti al modello. Se l’agente può eseguire operazioni, occorre delimitarle e prevedere approvazioni per quelle più rilevanti. Questi vincoli devono essere applicati dai sistemi coinvolti: una semplice istruzione nel prompt non sostituisce un controllo di accesso.
La governance mantiene efficaci queste scelte nel tempo. Ogni agente deve avere un responsabile, con regole per approvare nuove fonti e funzionalità. Il monitoraggio deve permettere di individuare anomalie e intervenire sugli accessi.
Con queste condizioni, l’AI può supportare più utenti mantenendo separate le informazioni riservate ai diversi ruoli. Le persone trovano più rapidamente ciò che serve al loro lavoro e l’azienda può ampliare i casi d’uso attraverso controlli verificabili. In caso di compromissione, limitare i permessi contribuisce a ridurre la quantità di dati e le operazioni potenzialmente esposti.
L’efficacia dei controlli deve essere verificata anche nell’utilizzo quotidiano. Due utenti possono rivolgere la stessa domanda all’agente: le informazioni che l’agente può consultare e quelle che può restituire devono rispettare le autorizzazioni di ciascun utente. Dimostrare questo comportamento, anche attraverso test con profili diversi, rende concreta l’applicazione di Zero Trust e permette di valutare come gli strumenti di sicurezza e governance proteggano effettivamente i dati aziendali.
Questi principi, minimo privilegio, verifica delle autorizzazioni, monitoraggio continuo sono il punto di partenza, non il punto di arrivo. Serve anche capire come tradurli in valore concreto per il business, e quali strumenti oggi permettono di applicarli senza rallentare l’innovazione. Ne parleremo presto dal vivo, in uno speech a tre voci: sicurezza e governance, adozione AI in azienda con casi reali, e gli strumenti Microsoft che rendono questi controlli applicabili su scala. Stay tuned.
Segui Paolo Antonaci su Linkedin
Segui Cristian Degrazi su Linkedin
