Rischi sicurezza agenti IA: dagli solo gli accessi che gli servono
Un agente IA con troppi permessi è una minaccia interna. Guida pratica al privilegio minimo: come dare a un agente solo gli accessi che gli servono.
Un agente IA non è un chatbot che risponde. È un processo che agisce sui tuoi sistemi: legge, scrive, cancella, notifica. E qui nasce il problema di sicurezza che la maggior parte delle aziende scopre troppo tardi.
Nel 2026 gli agenti IA sono la nuova minaccia interna. Non perché siano cattivi, ma perché spesso gli diamo le chiavi di tutta la casa quando gli serve una sola stanza.
In breve:
- Il rischio numero uno degli agenti IA non è il modello che allucina, sono i permessi eccessivi: più accessi ha l’agente, più grande è il danno se qualcosa va storto.
- Applica il privilegio minimo: sola lettura dove basta leggere, scrittura limitata alle sole risorse nel perimetro, credenziali dedicate all’agente e mai condivise con le persone.
- Ogni agente in produzione deve avere un registro immutabile di input, regole applicate, output ed eventi di avvio: senza, non puoi rispondere a un revisore.
- Le operazioni irreversibili (cancellazioni, movimenti economici, decisioni su persone) richiedono sempre una supervisione umana, non solo per GDPR e AI Act.
- Il caso Navily lo dimostra: un agente può fare -70% di tempo operativo restando confinato a moderazione e arricchimento dei dati, senza toccare nient’altro.
Perché un agente con troppi permessi è pericoloso
Un LLM che risponde a una persona è contenuto: sbaglia una risposta, la persona la corregge. Un agente in produzione no. Riceve un segnale di avvio, esegue, agisce nei tuoi sistemi. Se ha accesso a CRM, ERP, caselle di posta e file server “per comodità”, un solo problema (una prompt injection, cioè istruzioni malevole nascoste nel testo di una segnalazione; un bug nella logica; una credenziale esposta) si propaga a tutto ciò che l’agente può toccare. L’OWASP, la fondazione no profit che pubblica le liste dei rischi di sicurezza del software, lo chiama “Excessive Agency” e lo mette tra i dieci rischi principali delle applicazioni basate su LLM.
La domanda giusta non è “l’agente è sicuro?”. È “cosa può fare l’agente nel peggiore dei casi?”. E la risposta dipende da una cosa sola: quanti accessi gli hai dato.
Privilegio minimo in pratica, per un agente IA
Il principio è vecchio quanto la sicurezza informatica, ma va tradotto sugli agenti. Le contromisure indicate dall’OWASP sono le stesse: permessi ridotti al minimo necessario e approvazione umana per le azioni ad alto impatto. Ecco come lo applichiamo negli sprint Soraia.
1. Un’identità dedicata, non quella di una persona
L’agente non usa le credenziali di un dipendente. Ha un proprio account di servizio, con permessi propri e revocabili con un clic. Se domani vuoi spegnerlo, disattivi un account, non chiedi a qualcuno di cambiare la password.
2. Sola lettura come impostazione predefinita
La maggior parte dei compiti richiede leggere molto e scrivere poco. Prima selezione dei CV, moderazione, arricchimento dei dati: sono operazioni di lettura + scrittura mirata. Parti da sola lettura ovunque, e concedi scrittura solo dove il compito lo esige, sulle sole tabelle o cartelle nel perimetro.
3. Perimetro stretto, non elastico
Definisci esattamente su quali risorse l’agente opera. Un agente di assistenza clienti tocca la coda delle richieste e la base di conoscenza, non il gestionale paghe. Un perimetro chiaro non è solo sicurezza: è anche il motivo per cui l’agente funziona, perché non si perde in dati che non gli servono.
4. Confine umano sulle operazioni irreversibili
Cancellazioni definitive, movimenti economici, decisioni che impattano persone: qui l’agente propone, un umano conferma. Non è burocrazia, è il modo di tenere il raggio di un errore vicino a zero. È anche ciò che ti tiene allineato al GDPR, che chiede protezione dei dati fin dalla progettazione e sicurezza del trattamento (artt. 25 e 32), e all’AI Act, che per i sistemi ad alto rischio chiede una supervisione umana effettiva.
5. Registro immutabile di ogni decisione
Ogni azione dell’agente va tracciata: input ricevuto, regole applicate, output prodotto, chi/cosa ha avviato l’azione, se il caso è passato a una persona. Non serve solo in caso di incidente: serve ogni volta che qualcuno ti chiede “perché l’agente ha fatto X?”. In Soraia questo registro è incluso di serie, altrimenti non potremmo lavorare su settori regolamentati.
Il caso Navily: potente ma confinato
Navily, comunità per la nautica, aveva un carico enorme di moderazione dei contenuti degli utenti e arricchimento dei dati. L’agente che abbiamo costruito ha ridotto del 70% il tempo operativo su quei due processi.
La parte interessante per questo articolo: l’agente è potentissimo dentro il suo perimetro, e cieco fuori. Modera contenuti e arricchisce dati. Non ha accesso a pagamenti, non tocca dati che non gli servono, non può agire fuori dal suo perimetro. La potenza dell’agente non dipende da quanti accessi ha. Dipende da quanto è ben progettato il perimetro stretto in cui opera.
Quando NON serve un agente autonomo
Da CTO te lo dico chiaro:
- Compito raro e ad alto impatto (una decisione importante ogni tanto): non automatizzare, dai a una persona uno strumento LLM assistito. L’autonomia serve sul volume ripetitivo, non sull’eccezione critica.
- Sistemi datati senza controllo fine dei permessi: se il tuo gestionale dà accesso tutto-o-niente, prima risolvi quello. Costruire un agente sopra un sistema che non sa limitare gli accessi è costruire su sabbia. Qui a volte serve prima un intervento di software su misura.
- Nessuna regola interna sugli accessi: se nessuno sa chi ha accesso a cosa oggi, aggiungere un agente peggiora il problema, non lo risolve.
Come partiamo noi
Ogni sprint sugli agenti IA parte da una mappa degli accessi: cosa deve leggere l’agente, cosa deve scrivere, cosa non deve mai toccare. È il primo documento di sicurezza che consegniamo, prima ancora del primo agente in produzione (che arriva in 4 settimane). Il privilegio minimo non è un extra: è il modo in cui costruiamo, perché un agente che può fare solo il suo lavoro è anche l’agente di cui ti puoi fidare.
Vuoi capire quali accessi servono davvero ai tuoi agenti? Parliamone in 20 minuti, oppure fai il check-up in 3 minuti.
Domande frequenti
Quello che ci chiedono di solito.
Perché un agente IA con troppi permessi è un rischio?
Cosa significa privilegio minimo per un agente IA?
Come si verifica cosa ha fatto un agente in produzione?
Un agente può agire da solo su dati sensibili?
Continua a leggere
GDPR e agente IA sui dati aziendali: cosa fare prima
Un agente IA che legge dati di clienti o candidati tratta dati personali. Base giuridica, DPA art. 28 e DPIA: la checklist GDPR prima di accenderlo.
Model Context Protocol (MCP): agenti IA e dati aziendali
Cos'è il Model Context Protocol, perché conta per la tua azienda e come colleghi un agente IA ai tuoi dati senza aprire falle. Guida non tecnica.
Newsletter
La newsletter di Soraia
Ogni due giovedì Daniel racconta un lavoro d'ufficio ripetitivo e come lo fa un agente IA, con un caso vero dai progetti che seguiamo. Si legge in tre minuti.
Prossimo passo
Dove sei nel percorso verso l'IA?
Il check-up ti dà un punteggio di prontezza IA (0-100) + 3 prossimi passi concreti. 3 minuti, senza email.