Description du projet
Lutter contre les cyberattaques alimentées par l’IA grâce à de nouvelles technologies d’IA
L’intelligence artificielle (IA) a un rôle important, à la fois bon et mauvais, à jouer dans le domaine de la cybersécurité. D’une part, elle constitue un puissant mécanisme capable de détecter les menaces et de protéger des systèmes contre les attaques. D’autre part, elle peut être utilisée par les attaquants comme une arme. Dans ce contexte, le projet AI4CYBER, financé par l’UE, élaborera un cadre d’écosystème pour des services de cybersécurité dignes de confiance de prochaine génération qui exploitent les technologies de l’IA et des mégadonnées pour aider les développeurs et les opérateurs de systèmes à gérer efficacement les cyberattaques alimentées par l’IA. Plus particulièrement, il développera un nouveau type de services de test de la robustesse et de la sécurité des logiciels axés sur l’IA, caractérisés par une identification plus intelligente des failles et une automatisation de la correction du code. Le projet mettra l’accent sur les secteurs énergétique, bancaire et hospitalier.
Objectif
Artificial intelligence (AI) has lately proved to be a coin with two sides. On the one hand, it can be leveraged as a powerful defensive mechanism to improve system preparedness and response against cyber incidents and attacks, and on the other hand, it can be a formidable weapon attackers can use to damage, compromise or manipulate systems.
AI4CYBER ambitions to provide an Ecosystem Framework of next-generation trustworthy cybersecurity services that leverage AI and Big Data technologies to support system developers and operators in effectively managing robustness, resilience, and dynamic response against advanced and AI-powered cyberattacks. The project will deliver a new breed of AI-driven software robustness and security testing services that significantly facilitates the testing experts work, through smarter flaw identification and code fixing automation. Moreover, the project will provide cybersecurity services for comprehension, detection and analysis of AI-powered attacks to prepare the critical systems to be resilient against them. Incident response support by AI4CYBER will offload security operators from complex and tedious tasks offering them mechanisms to optimize the orchestration of the most appropriate combination of security protections, and continuously learn from system status and defences’ efficiency.
The AI4CYBER framework will ensure fundamental rights and values-based AI technology in its services, through the integration of demonstrable explainability, fairness and technology robustness (security) capabilities in the AI4CYBER components. The ecosystem will be validated in three scenarios: i) Detection and Mitigation of AI-powered Attacks against the Energy Sector, ii) Robustness and autonomous adaptation of Banking applications to face AI-powered attacks and iii) Resilient hospital services against advanced and AI-powered cyber-physical attacks.
Champ scientifique
Mots‑clés
Programme(s)
Régime de financement
HORIZON-RIA - HORIZON Research and Innovation ActionsCoordinateur
20009 DONOSTIA-SAN SEBASTIAN (GIPUZKOA)
Espagne