In occasione dell’edizione 2026 di Forum Banca, l’appuntamento di riferimento per il settore bancario e finanziario italiano, abbiamo ospitato Simona Di Felice, Partner di Kirey. Il tema è di stretta attualità: le banche stanno iniziando a delegare agli agenti di Intelligenza Artificiale non solo attività, ma vere e proprie capacità di azione. Di Felice ha spiegato cosa cambia per l’Operational Resilience quando nei processi entra una componente autonoma e perché i modelli di test tradizionali non sono più sufficienti.
Dalla regola alla delega: una discontinuità rispetto al passato
L’introduzione dell’Intelligenza Artificiale nei processi e nei servizi bancari segna, secondo Di Felice, una forte discontinuità. Non si tratta solo di una nuova tecnologia, ma di una tecnologia dotata di discrezionalità.
“Parliamo della capacità di questa tecnologia di essere discrezionale, di prendere anche delle decisioni. Ci spostiamo dal paradigma che abbiamo conosciuto in passato, in cui avevamo di fronte una tecnologia capace di operare sulla base di regole definite ex ante. In questo caso abbiamo una tecnologia che può avere un’autonomia, naturalmente definita a priori da noi. Quello che si sposta è l’ampiezza della superficie di delega che concediamo a questa tecnologia”, ha spiegato Simona Di Felice.
Per le banche, la domanda non è più soltanto se un sistema funziona, ma quanto spazio decisionale gli è stato concesso e con quali conseguenze.
Le quattro dimensioni del nuovo paradigma di resilienza
Quando ci si interfaccia con una tecnologia più autonoma, la resilienza operativa va ripensata. Di Felice individua quattro dimensioni su cui le banche devono ragionare:
- Il perimetro della delega: l’ampiezza dell’autonomia concessa all’Intelligenza Artificiale.
- Il blast radius: l’ampiezza dell’effetto che può generare un’azione dell’AI.
- La persistenza dell’effetto: come e dove si propagano le azioni indotte dall’Intelligenza Artificiale.
- La restituzione del controllo: la capacità della tecnologia di riportare il governo del processo all’essere umano quando qualcosa non va per il verso giusto.
“Io direi che questo è il nuovo paradigma di resilienza che dobbiamo strutturare nelle aziende”, ha sottolineato Di Felice.
Come si testa un sistema che sceglie da solo il percorso
Le banche sanno testare la resilienza di applicazioni, infrastrutture e processi. Ma come si testa un sistema che può decidere autonomamente come raggiungere un obiettivo? Per Di Felice è questa la vera sfida.
“Non possiamo più definire un elenco di use case e di test case, perché a questa tecnologia viene affidato un obiettivo e il percorso, in funzione del livello di autonomia delegato, sarà deciso dall’Intelligenza Artificiale. Dovremo capire non tanto se a fronte di un certo input ottengo un certo output, ma valutare all’interno del test anche quelli che chiamiamo invarianti di controllo”, ha spiegato Di Felice.
Gli invarianti di controllo permettono di verificare se, lungo il percorso verso l’obiettivo, l’AI è rimasta entro le soglie configurate inizialmente, ha rispettato i limiti stabiliti e ha garantito il blast radius concordato. Ne deriva una progettazione dei test di resilienza molto diversa rispetto al passato, che impone alle banche di far evolvere i propri strumenti di governance.
Guarda l’intervista video integrale per scoprire la visione di Simone Di Felice su agenti AI, resilienza operativa e nuovi modelli di governance in banca.