Donner du sens à des masses de données hétérogènes grâce à une IA transparente et éthique
La criminalité a profondément évolué: elle est désormais numérique, transfrontalière et génère d’immenses volumes de données. Les enquêtes modernes ne se fondent plus uniquement sur des preuves matérielles. Les forces de l’ordre doivent désormais analyser d’immenses volumes de données hétérogènes, allant des contenus du dark web aux journaux d’activité informatique, en passant par les images de vidéosurveillance et les données de géolocalisation. Pour rester efficaces face à ces menaces, les services répressifs ont davantage recours à l’IA afin de traiter des volumes de données qu’aucun humain ne pourrait analyser seul à une telle échelle et à une telle vitesse. Le projet STARLIGHT(s’ouvre dans une nouvelle fenêtre), financé par l’UE, a été lancé pour renforcer l’autonomie stratégique de l’Europe en matière d’IA au service des forces de l’ordre, afin d’améliorer les enquêtes criminelles et la cybersécurité sur l’ensemble du continent.
Pourquoi l’analyse des preuves numériques est-elle complexe?
«Cependant, transposer l’IA du laboratoire au terrain reste un défi majeur», souligne Cédric Gouy-Pailler, membre du comité de gestion technique. «Les outils d’IA qui affichent d’excellentes performances en laboratoire s’intègrent souvent difficilement aux méthodes de travail des enquêteurs et aux exigences strictes qui encadrent les preuves recevables en justice.» «Les services répressifs doivent en outre composer avec un cadre réglementaire complexe couvrant la protection des données personnelles, le profilage criminel et la recevabilité des preuves numériques devant les tribunaux.» Le risque de discrimination algorithmique constitue également une préoccupation majeure, des biais pouvant être introduits dès la collecte des données, l’entraînement des modèles ou la conception des logiciels. Les systèmes d’IA traitant les données des forces de l’ordre doivent impérativement être protégés contre les manipulations de pirates informatiques et les cyberattaques.
Éthique de l’IA et gestion des données
Pour surmonter ces obstacles, STARLIGHT a organisé plusieurs cycles de co-développement, des ateliers et des «ToolFests» technologiques. Ces activités ont réuni services répressifs, chercheurs, partenaires industriels et experts juridiques et éthiques afin de concevoir des outils réellement adaptés aux besoins du terrain. Les équipes techniques n’ont pas eu à interpréter seules les exigences juridiques applicables. Dans cette optique, STARLIGHT a simplifié le cadre juridique en imposant le cadre des Principes de responsabilité en matière d’intelligence artificielle(s’ouvre dans une nouvelle fenêtre) à l’ensemble des développements technologiques. Cela a garanti la conformité des outils avec la loi européenne sur l’IA et démontré qu’ils étaient fiables dans les domaines du maintien de l’ordre, de la sécurité et de la justice. En adoptant une approche d’éthique dès la conception, le consortium a combattu les biais grâce à des mesures techniques et à une supervision humaine. Cela passait notamment par l’utilisation de jeux de données représentatifs, la refonte des indicateurs servant à évaluer les systèmes et la formation des agents aux limites de l’IA.
Des outils d’IA opérationnels pour les enquêtes policières
STARLIGHT a développé et perfectionné plus de 70 outils d’IA conçus pour répondre aux besoins des services répressifs. «Plutôt que de développer un seul système logiciel, STARLIGHT a développé une vaste gamme de solutions qui garantissent la sécurité des preuves numériques grâce à une chaîne de conservation vérifiable», explique Nizar Touleimat, coordinateur du projet STARLIGHT. «Cet écosystème comprend des outils capables d’identifier des sources en ligne, de collecter des renseignements sur les menaces et de protéger les espaces publics, permettant ainsi aux enquêteurs de mettre au jour des liens invisibles au sein d’immenses volumes de données textuelles, visuelles et vidéo.» Parmi ces outils, Dark Web Monitor collecte et classe automatiquement les contenus illicites. Il filtre les données afin que les analystes puissent se concentrer sur les menaces les plus critiques, tout en laissant la décision finale aux experts lorsque les résultats produits par l’IA sont incertains. Pour les équipes de criminalistique numérique chargées d’analyser des disques durs contenant des traces d’activité, Cyber Pattern Investigator examine les journaux grâce à la reconnaissance de formes et à des techniques de regroupement automatisé pilotées par l’IA afin de détecter des activités dissimulées et de produire des rapports visuels explicables. Parmi les autres solutions tactiques figurent des outils capables d’analyser des archives visuelles, d’améliorer la qualité d’enregistrements audio critiques et d’exploiter des données de géolocalisation complexes afin de cartographier et d’anticiper des déplacements suspects. «STARLIGHT a révolutionné la manière dont les forces de police européennes conçoivent et utilisent l’IA.» Au-delà du développement d’outils et de jeux de données, le projet a posé les bases d’un modèle d’utilisation de l’IA à la fois sûr, conforme au cadre juridique et placé sous supervision humaine. «Son principal héritage réside dans les liens durables qu’il a créés entre les services de police et des organismes tels qu’Europol afin de garantir le déploiement de ces outils à l’échelle européenne dans les années à venir», conclut Cédric Gouy-Pailler.
