Frodi finanziarie e intelligenza artificiale: un fenomeno in crescita che richiede nuove strategie di difesa

Le frodi finanziarie stanno crescendo a un ritmo allarmante, con perdite nel Regno Unito che hanno raggiunto 1,3 miliardi di sterline. Questo fenomeno è alimentato dall’adozione sempre più diffusa di tecnologie avanzate, in particolare l’intelligenza artificiale, che si sono rivelate strumenti efficaci nelle mani delle reti criminali.

I gruppi di frode stanno diventando sempre più sofisticati. Tecnologie come la generative AI permettono di industrializzare l’ingegneria sociale, creando identità sintetiche in grado di superare i controlli KYC (Know Your Customer) e costruendo storie creditizie credibili. Questi criminali possono rimanere operativi per mesi prima di eseguire la frode. Inoltre, l’uso di deepfake per le frodi di autorizzazione produce voci e video così plausibili da indurre le persone a autorizzare transazioni o a fornire credenziali sensibili.

Queste tattiche colpiscono direttamente il livello di fiducia, il punto in cui un sistema o un operatore umano decide che un’operazione è legittima. Le tecnologie attuali non vengono principalmente sconfitte dai sistemi delle banche, ma attaccano il cliente, manipolandolo attraverso chiamate convincenti e impersonificazioni realistiche. Questo erode lo scetticismo protettivo e rende più difficile la rilevazione delle frodi.

Parallelamente, l’uso dell’AI potrebbe evolvere verso attacchi diretti contro le infrastrutture istituzionali, con i criminali che mappano i controlli e cercano di mantenersi al di fuori dei confini di rilevamento. I team di prevenzione frodi nelle istituzioni finanziarie sono spesso organizzati attorno alla gestione degli incidenti: rilevare, rispondere e chiudere il caso. Tuttavia, approcci più efficaci considerano la rilevazione come una funzione di ricerca, cercando spostamenti comportamentali che possano indicare test o sondaggio degli asset.

È necessario personale in grado di ragionare sui sistemi, non solo di operarli. Ciò richiede competenze in ragionamento statistico, pensiero avversariale, progettazione dei sistemi e analisi dei feedback. Non tutte le organizzazioni dispongono di queste competenze e, sebbene l’assunzione possa sembrare una soluzione, l’avanzamento degli strumenti AI offre soluzioni avanzate facilmente integrabili nelle infrastrutture esistenti.

La strada suggerita è investire in fornitori esterni che rendano questi strumenti accessibili e spiegabili, combinando analisi statistica e capacità di reasoning. Tuttavia, l’implementazione di nuove tecnologie deve essere progettata per non alimentare ulteriori rischi. Ogni modello ha ipotesi incorporate che gli attori avversari proveranno a sondare sistematicamente. Pertanto, i sistemi devono essere trattati come superfici di attacco fin dalla progettazione e sottoposti a test interni prima della produzione.

Le difese basate su AI devono operare in millisecondi per individuare il rischio senza compromettere l’esperienza del cliente, valutando ogni transazione in tempo reale attraverso centinaia di segnali confrontati con pattern storici per identificare anomalie.