Descripción del proyecto
Un marco de defensa independiente de la plataforma y en la nube para las aplicaciones de inteligencia artificial
Las acciones malintencionadas y los ataques adversos plantean amenazas importantes para las aplicaciones y operaciones de inteligencia artificial (IA o AI, por sus siglas en inglés), lo que hace que sea sumamente necesaria la implementación de soluciones innovadoras para la protección de la IA. El objetivo del equipo del proyecto cPAID, financiado con fondos europeos, es investigar, diseñar y desarrollar un marco de defensa independiente de la plataforma y en la nube para proteger las aplicaciones y operaciones de IA de estos ataques. En el proyecto se abordarán los ataques adversos como el envenenamiento y la evasión mediante el uso de métodos de defensa basados en IA y garantizando el cumplimiento de los principios de la Unión Europea sobre la ética de la IA. Además, el equipo del proyecto validará el desempeño del sistema de IA en supuestos de la vida real y promoverá la investigación para desarrollar esquemas de certificación que certifiquen la solidez, seguridad, privacidad y excelencia ética de las aplicaciones y los sistemas de IA.
Objetivo
cPAID envisions researching, designing, and developing a cloud-based platform-agnostic defense framework for the holistic protection of AI applications and the overall AI operations of organizations against malicious actions and adversarial attacks. cPAID aims at tackling both poisoning and evasion adversarial attacks by combining AI-based defense methods (e.g. life-long semi-supervised reinforcement learning, transfer learning, feature reduction, adversarial training), security- and privacy-by-design, privacy-preserving, explainable AI (XAI), Generative AI, context-awareness as well as risk and vulnerability assessment and threat intelligence of AI systems. cPAID will identify guidelines to a) guarantee security- and privacy-by-design in the design and development of AI applications, b) thoroughly assess the robustness and resiliency of ML and DL algorithms against adversarial attacks, c) ensure that EU principles for AI ethics have been considered, and d) validate the performance of AI systems in real-life use case scenarios. The identified guidelines aspire to promote research toward developing certification schemes that will certify the robustness, security, privacy, and ethical excellence of AI applications and systems.
Ámbito científico (EuroSciVoc)
CORDIS clasifica los proyectos con EuroSciVoc, una taxonomía plurilingüe de ámbitos científicos, mediante un proceso semiautomático basado en técnicas de procesamiento del lenguaje natural.
CORDIS clasifica los proyectos con EuroSciVoc, una taxonomía plurilingüe de ámbitos científicos, mediante un proceso semiautomático basado en técnicas de procesamiento del lenguaje natural.
- ciencias naturalesinformática y ciencias de la informacióninteligencia artificialaprendizaje automáticoaprendizaje por transferencia
- ciencias naturalesinformática y ciencias de la informacióninteligencia artificialaprendizaje automáticoaprendizaje por refuerzo
Para utilizar esta función, debe iniciar sesión o registrarse
Le pedimos disculpas, pero se ha producido un error inesperado durante la ejecución.
Necesita estar autentificado. Puede que su sesión haya finalizado.
Gracias por su comentario. En breve recibirá un correo electrónico para confirmar el envío. Si ha seleccionado que se le notifique sobre el estado del informe, también se le contactará cuando el estado del informe cambie.
Programa(s)
Régimen de financiación
HORIZON-RIA - HORIZON Research and Innovation ActionsCoordinador
8070 Bertrange
Luxemburgo
Ver en el mapa
Participantes (17)
Entidad jurídica distinta de un subcontratista que está afiliada o vinculada jurídicamente con un participante. Dicha entidad lleva a cabo su trabajo en las condiciones establecidas en el acuerdo de subvención, proporciona bienes o presta servicios para la acción, pero no firma dicho acuerdo. El tercero acata las normas aplicables a su participante en virtud del acuerdo de subvención en lo que respecta a la subvencionalidad de los costes y el control de los gastos.
176 71 Athina
Ver en el mapa
041386 BUCURESTI
Ver en el mapa
Organización definida por ella misma como pequeña y mediana empresa (pyme) en el momento de la firma del acuerdo de subvención.
02-326 WARSZAWA
Ver en el mapa
3013 Limassol
Ver en el mapa
Organización definida por ella misma como pequeña y mediana empresa (pyme) en el momento de la firma del acuerdo de subvención.
46022 Valencia
Ver en el mapa
10612 Tallinn
Ver en el mapa
Organización definida por ella misma como pequeña y mediana empresa (pyme) en el momento de la firma del acuerdo de subvención.
28050 MADRID
Ver en el mapa
71004 Heraklion
Ver en el mapa
71110 Irakleio
Ver en el mapa
38106 Braunschweig
Ver en el mapa
Organización definida por ella misma como pequeña y mediana empresa (pyme) en el momento de la firma del acuerdo de subvención.
1050 Bruxelles / Brussel
Ver en el mapa
3071 Limassol
Ver en el mapa
Organización definida por ella misma como pequeña y mediana empresa (pyme) en el momento de la firma del acuerdo de subvención.
714 14 GAZI
Ver en el mapa
Organización definida por ella misma como pequeña y mediana empresa (pyme) en el momento de la firma del acuerdo de subvención.
A91 RW26 DUNDALK CO LOUTH
Ver en el mapa
Organización definida por ella misma como pequeña y mediana empresa (pyme) en el momento de la firma del acuerdo de subvención.
7491 Trondheim
Ver en el mapa
43124 Parma
Ver en el mapa
1700 SOFIA
Ver en el mapa
Organización definida por ella misma como pequeña y mediana empresa (pyme) en el momento de la firma del acuerdo de subvención.