Strumenti basati sull’intelligenza artificiale trasparenti ed etici per dare un senso a enormi quantità di dati eterogenei
La criminalità di oggi è cambiata radicalmente: è digitale, non conosce confini e lascia dietro di sé enormi tracce di informazioni. Di conseguenza, le indagini moderne non si possono più affidare esclusivamente a prove materiali: la polizia si trova a dover setacciare sistematicamente montagne di dati eterogenei, tra cui contenuti del dark web, registri informatici, immagini delle telecamere a circuito chiuso e dati di localizzazione. Affinché sia possibile continuare a contrastare efficacemente queste minacce, le forze dell’ordine hanno sempre più bisogno di avvalersi dell’intelligenza artificiale (IA) per elaborare i dati su una scala e a velocità impossibili da gestire solamente da esseri umani. Il progetto STARLIGHT(si apre in una nuova finestra), finanziato dall’UE, è stato avviato al fine di rafforzare l’autonomia strategica europea nel campo dell’IA applicata alle attività di contrasto, migliorando le indagini penali e la sicurezza informatica in tutto il continente.
Le difficoltà associate all’analisi delle prove digitali
«Tuttavia, trasferire l’IA dalle condizioni di laboratorio alle operazioni quotidiane della polizia rappresenta una sfida», osserva Cédric Gouy-Pailler, membro del comitato tecnico di gestione. «Strumenti di IA che danno ottimi risultati in laboratorio spesso non riescono ad adattarsi ai flussi di lavoro investigativi reali e alle rigide norme che regolano le prove legali; inoltre, le forze dell’ordine devono districarsi in un intricato groviglio di norme giuridiche relative alla protezione dei dati personali, alla profilazione dei criminali e alla validità delle prove digitali in sede giudiziaria.» Esiste altresì il grave rischio di discriminazione algoritmica, poiché durante la raccolta dei dati, l’addestramento dei modelli o la progettazione del software i sistemi di IA possono facilmente essere distorti da pregiudizi. È fondamentale che tali sistemi, quando utilizzati per i dati relativi alle attività di contrasto, siano protetti dalla manipolazione da parte di hacker e dai ciberattacchi.
Aspetti etici nell’IA e gestione dei dati
Per superare questi ostacoli, STARLIGHT ha organizzato cicli iterativi di co-sviluppo, workshop e ToolFest tecnologici, iniziative che hanno riunito forze dell’ordine, ricercatori, partner del settore ed esperti in ambito giuridico ed etico allo scopo di sviluppare strumenti pratici. I team tecnici non sono stati lasciati a brancolare nel tentativo di comprendere da soli come rispettare la legge: per aiutarli, STARLIGHT ha semplificato il panorama normativo applicando il quadro di riferimento intitolato Principi di responsabilità per l’intelligenza artificiale(si apre in una nuova finestra) per tutti i progetti di sviluppo tecnologico. In tal modo è stata garantita la conformità degli strumenti al regolamento dell’UE sull’IA, dimostrandone l’affidabilità nei settori dell’ordine pubblico, della sicurezza e della giustizia. Attraverso l’adozione di un approccio basato «sull’etica sin dalla progettazione», il consorzio ha affrontato il problema dei pregiudizi ricorrendo a misure tecniche e controlli manuali, il che ha comportato l’utilizzo di set di dati rappresentativi, la revisione delle metriche del codice e la formazione del personale per comprendere i limiti dell’IA.
Strumenti di IA applicati alle indagini di polizia
STARLIGHT ha sviluppato e perfezionato oltre 70 strumenti di IA su misura per le esigenze delle forze dell’ordine. «Anziché sviluppare un unico sistema software, STARLIGHT ha realizzato un’ampia gamma di soluzioni che garantiscono la sicurezza delle prove digitali attraverso una catena di custodia verificabile», osserva Nizar Touleimat, il coordinatore del progetto STARLIGHT. «Questo ecosistema comprende strumenti che individuano fonti online, raccolgono informazioni sulle minacce e proteggono gli spazi pubblici, consentendo agli investigatori di mettere in connessione indizi nascosti nell’ambito di enormi quantità di flussi di testo, immagini e video.» Tra questi, Dark Web Monitor raccoglie e classifica automaticamente i contenuti illeciti, filtrando i dati in modo che gli analisti possano concentrarsi sulle minacce critiche e lasciando comunque agli esperti il controllo qualora l’IA non sia in grado di fornire una risposta certa. Per i team di informatica forense che si occupano di dischi rigidi contenenti tracce di attività digitali, Cyber Pattern Investigator analizza i registri avvalendosi del riconoscimento di modelli e dell’agglomerazione basata sull’IA al fine di individuare attività nascoste e generare report visivi chiari e comprensibili. Altre soluzioni tattiche intese a mappare e prevedere movimenti sospetti comprendono strumenti per la scansione di archivi visivi, la pulizia di registrazioni audio critiche e l’analisi di dati di geolocalizzazione complessi. «STARLIGHT ha rivoluzionato il modo in cui le forze di polizia europee progettano e utilizzano l’IA: anziché limitarsi a creare strumenti e set di dati, ha sviluppato un modello sicuro, legale e incentrato sull’essere umano per l’uso dell’IA nelle attività di contrasto. «La sua vera eredità sta nel mettere in contatto le forze di polizia con agenzie come Europol per assicurare che questi strumenti vengano utilizzati con successo in tutta Europa negli anni a venire», conclude Gouy-Pailler.
