Skip to main content
Aller à la page d’accueil de la Commission européenne (s’ouvre dans une nouvelle fenêtre)
français fr
CORDIS - Résultats de la recherche de l’UE
CORDIS

Cloud-based Platform-agnostic Adversarial aI Defence framework– CPAID

Description du projet

Un cadre de défense basé sur le cloud et indépendant de la plateforme pour les applications d’IA

Les actions malveillantes et les attaques adverses constituent des menaces importantes pour les applications et les opérations d’IA, ce qui accroît la nécessité de mettre au point des solutions innovantes pour protéger l’IA. Le projet cPAID, financé par l’UE, vise à rechercher, concevoir et développer un cadre de défense basé sur le cloud et indépendant de la plateforme pour protéger les applications et les opérations d’IA contre ces attaques. Il s’intéressera aux attaques adverses, telles que l’empoisonnement et l’évasion, en utilisant des méthodes de défense basées sur l’IA et en garantissant le respect des principes de l’UE en matière d’éthique de l’IA. En outre, le projet validera les performances des systèmes d’IA dans des scénarios réels et encouragera la recherche visant à élaborer des systèmes de certification qui garantissent la robustesse, la sécurité, la confidentialité et l’excellence éthique des applications et des systèmes d’IA.

Objectif

cPAID envisions researching, designing, and developing a cloud-based platform-agnostic defense framework for the holistic protection of AI applications and the overall AI operations of organizations against malicious actions and adversarial attacks. cPAID aims at tackling both poisoning and evasion adversarial attacks by combining AI-based defense methods (e.g. life-long semi-supervised reinforcement learning, transfer learning, feature reduction, adversarial training), security- and privacy-by-design, privacy-preserving, explainable AI (XAI), Generative AI, context-awareness as well as risk and vulnerability assessment and threat intelligence of AI systems. cPAID will identify guidelines to a) guarantee security- and privacy-by-design in the design and development of AI applications, b) thoroughly assess the robustness and resiliency of ML and DL algorithms against adversarial attacks, c) ensure that EU principles for AI ethics have been considered, and d) validate the performance of AI systems in real-life use case scenarios. The identified guidelines aspire to promote research toward developing certification schemes that will certify the robustness, security, privacy, and ethical excellence of AI applications and systems.

Champ scientifique (EuroSciVoc)

Programme(s)

Thème(s)

Régime de financement

HORIZON-RIA - HORIZON Research and Innovation Actions

Voir tous les projets financés dans le cadre de ce programme de financement

Appel à propositions

(s’ouvre dans une nouvelle fenêtre) HORIZON-CL3-2023-CS-01

Voir tous les projets financés au titre de cet appel

Coordinateur

UNISYSTEMS LUXEMBOURG SARL
Contribution nette de l'UE
€ 282 875,00
Adresse
29, RUE DU PUITS ROMAIN
8070 Bertrange
Luxembourg
Région
Luxembourg Luxembourg Luxembourg
Type d’activité
Private for-profit entities (excluding Higher or Secondary Education Establishments)
Liens
Coût total
€ 438 875,00

Participants (17)