AI e resilienza aziendale, tra controllo dei dati e autonomia degli agenti

L’articolo in breve

L’intelligenza artificiale è già presente negli strumenti di sviluppo, nelle applicazioni e negli assistenti utilizzati ogni giorno in azienda. Con gli agenti AI, il perimetro si amplia: questi sistemi possono accedere a informazioni, utilizzare strumenti ed eseguire attività. Per adottarli in modo sostenibile occorre sapere da quali servizi dipendono, quali dati possono trattare e fin dove possono agire.

Questi temi sono stati al centro della tavola rotonda ‘Data Sovereignty and Critical Infrastructure Data Management’ tenutasi il 22 settembre 2026 nell’ambito del cAIo (Chief Artificial Intelligence Officer), evento dedicato alla governance e all’adozione dell’AI all’interno delle organizzazioni. Federico Bonelli, CEO di RES IT, ha portato nel confronto una prospettiva legata alle scelte tecnologiche e alle loro conseguenze operative. La resilienza aziendale passa anche da qui: conoscere le dipendenze prima che mettano alla prova la continuità dei processi.

Fornitori AI e continuità operativa

Affidare un processo a una piattaforma esterna significa dipendere dalle condizioni con cui il servizio viene erogato. Un’interruzione, una modifica dell’offerta o un cambiamento nelle modalità di accesso possono avere effetti negativi rilevanti sulle attività aziendali. Valutare un fornitore richiede quindi capire quali processi utilizzano il suo servizio e quali alternative sarebbero praticabili.

L’evoluzione dei modelli open weight apre nuove possibilità di sperimentazione su infrastrutture proprie, anche per imprese di medie dimensioni. La fattibilità dipende però dal caso d’uso, dalle risorse necessarie e dalle competenze per gestire il modello nel tempo.

Un piano alternativo è credibile quando queste valutazioni vengono fatte prima che serva attivarlo. Conoscere le dipendenze consente all’azienda di scegliere con maggiore consapevolezza come distribuire i propri carichi di lavoro e come garantire continuità ai processi.

Skill, permessi e dati: cosa controllare negli agenti AI

La scelta del modello è solo una parte della valutazione. Un agente opera attraverso istruzioni, strumenti, integrazioni e permessi che determinano ciò che può fare. Tra questi elementi ci sono anche le skill: pacchetti di istruzioni, talvolta accompagnati da script e risorse, che aiutano l’agente a svolgere compiti specifici.

Istruzioni malevole possono indurre un agente a compiere operazioni indesiderate, fino a inviare informazioni riservate a servizi esterni. Il rischio può presentarsi anche quando il modello utilizzato è stato approvato dall’azienda. Occorre quindi verificare la provenienza delle skill, il comportamento degli strumenti collegati e l’ampiezza dei permessi concessi.

Eseguire un modello su infrastruttura propria non esaurisce questa verifica. Se l’agente può leggere documenti aziendali e comunicare con servizi esterni, le sue integrazioni possono diventare un percorso di uscita per i dati. Prima di affidargli un’attività, occorre stabilire a quali dati può accedere, verso quali servizi può trasmetterli e come ricostruire le operazioni che ha eseguito. Il controllo riguarda l’intero ambiente in cui l’agente lavora, comprese le skill disponibili nei marketplace.

Governare l’AI fin dai proof of concept

Molte iniziative AI nascono per rispondere a esigenze di una singola funzione aziendale. Un proof of concept consente di verificare rapidamente l’utilità di uno strumento, ma può già coinvolgere dati, fornitori e accessi reali. Se la prova dà buoni risultati, il suo utilizzo può estendersi ad altre persone o entrare stabilmente in un processo. Le condizioni per farlo vanno esaminate mentre le scelte sono ancora modificabili.

Tre attività aiutano a governare la sperimentazione fin dall’inizio:

• Mappare progetti, dati e accessi per sapere dove viene usata l’AI e con quali collegamenti ai sistemi aziendali.
• Definire regole legate al processo per stabilire quali attività affidare allo strumento e quali limiti applicare.
• Coordinare le funzioni coinvolte per valutare il progetto e assegnare le responsabilità prima di estenderne l’uso.

Mappare progetti, dati e accessi

Occorre sapere quali sperimentazioni sono in corso, chi le ha avviate e quali processi riguardano. La mappatura deve includere le informazioni utilizzate e i collegamenti con altri sistemi: un assistente che consulta documenti interni e un agente che può aggiornare un’applicazione aziendale hanno possibilità di azione diverse.

Questa visibilità permette anche di far emergere le prove avviate autonomamente dalle funzioni aziendali. Conoscere il progetto nelle prime fasi consente di valutare se i dati scelti sono adatti alla sperimentazione e se gli accessi concessi sono proporzionati al compito.

Definire regole legate al processo

Le policy aiutano a stabilire un quadro comune, ma chi usa lo strumento deve sapere come applicarle alla propria attività. Serve chiarire quali compiti possono essere affidati all’AI, quali risultati richiedono una verifica umana e quali azioni l’agente non è autorizzato a compiere.

I limiti dipendono dalle conseguenze delle operazioni. Cercare informazioni in un archivio, modificare un dato e inviare una comunicazione sono attività che richiedono controlli differenti. Regole costruite sul processo rendono più comprensibile il perimetro di autonomia dello strumento.

Coordinare le funzioni coinvolte

La funzione che propone la sperimentazione conosce il bisogno operativo e il valore atteso. IT, sicurezza e protezione dei dati contribuiscono a valutare le integrazioni, i permessi, il trattamento delle informazioni e il rapporto con il fornitore. Questo coordinamento richiede una conoscenza concreta del processo, oltre alla verifica delle caratteristiche tecniche dello strumento.

Va chiarito anche chi autorizza il passaggio dal proof of concept all’uso ordinario, chi segue il funzionamento del sistema e chi interviene in caso di comportamento inatteso. Definire queste responsabilità durante la sperimentazione evita che uno strumento assuma un ruolo stabile senza che siano stati valutati gli effetti sulle attività aziendali.

Conoscere le dipendenze per valutare gli incidenti

Durante la tavola rotonda, la gestione della cybersecurity alle Olimpiadi invernali di Milano Cortina 2026 è stata citata come esempio della complessità di proteggere servizi che coinvolgono numerosi fornitori e infrastrutture interconnesse. Un problema rilevato in un sistema può avere conseguenze su attività gestite da altri soggetti. Per valutarne l’impatto occorre sapere dove viene erogato ciascun servizio, chi lo gestisce e da quali altri sistemi dipende.

Anche un processo aziendale che utilizza l’AI può poggiare su più componenti: il servizio che eroga il modello, le fonti di dati consultate e gli strumenti attraverso cui un agente esegue le proprie azioni. Se una componente si interrompe o viene compromessa, l’effetto sul processo dipende dai collegamenti tra tutte le altre.

Mappare queste dipendenze permette di distinguere un problema circoscritto da uno che richiede di sospendere un’attività, coinvolgere altri fornitori o attivare una modalità operativa alternativa: la stessa conoscenza aiuta a interpretare le segnalazioni e a concentrare la risposta sui servizi da cui dipende la continuità del processo.

Formare le persone e imparare dagli errori

Le persone devono poter riconoscere i rischi nelle situazioni che incontrano durante il lavoro. I tentativi di impersonificazione tramite deepfake mostrano quanto possa essere difficile valutare l’autenticità di una comunicazione. Nell’uso degli agenti AI, una configurazione o un’autorizzazione concessa senza comprenderne gli effetti può ampliare l’accesso ai dati o la capacità del sistema di agire.

La formazione diventa più utile quando mostra esempi concreti: quali informazioni diventano accessibili dopo aver concesso un permesso, che cosa può fare una skill installata e quando un comportamento dell’agente richiede una segnalazione. Sapere a chi rivolgersi permette di intervenire anche quando non è ancora chiaro se si sia verificato un incidente.

Segnalazioni ed errori offrono poi l’occasione per verificare i controlli nel lavoro reale. Se una regola non viene compresa, un permesso risulta troppo ampio o una dipendenza non era stata individuata, l’organizzazione può correggere la configurazione e aggiornare le procedure. È in questo senso che l’esperienza contribuisce all’antifragilità: ogni problema analizzato può migliorare la preparazione al successivo.

Per il Gruppo RES, adottare l’AI in modo pragmatico significa valutare ogni nuova capacità nel processo in cui verrà utilizzata. La resilienza richiede alternative per i servizi da cui l’azienda dipende, visibilità sul percorso dei dati e limiti verificabili per le azioni degli agenti. Queste scelte iniziano nelle sperimentazioni e vanno riviste quando gli strumenti assumono un ruolo più ampio nelle attività aziendali.