Descripción del proyecto
La inteligencia artificial se une a la ciberseguridad
A medida que la inteligencia artificial (IA o AI, por sus siglas en inglés) se hace omnipresente, incluso integrada en el desarrollo de «software» seguro, la seguridad de las infraestructuras digitales requiere nuevas tecnologías y metodologías, como se destaca en el Plan Estratégico 2021-2024 de la Unión Europea. Para alcanzar este objetivo, el equipo del proyecto Sec4AI4Sec, financiado con fondos europeos, creará técnicas avanzadas de comprobación y garantía de la seguridad desde el diseño adaptadas a los sistemas aumentados por IA. Estos sistemas pueden democratizar la experiencia en seguridad, lo que permite una codificación y unas pruebas seguras, inteligentes y automatizadas, al tiempo que se reducen los costes de desarrollo y se mejora la calidad del «software». Sin embargo, también plantean retos de seguridad particulares, especialmente en lo que respecta a la equidad y la explicabilidad. Sec4AI4Sec está a la vanguardia del movimiento para abordar estos retos con un enfoque integral, que encarna la visión de una mejor seguridad para la IA y una mejor IA para la seguridad.
Objetivo
With AI-enhanced components being deployed everywhere, including the very toolchains used for secure software development, the traditional security focus on software and hardware assets can no longer guarantee secure services, processes and products, [and] digital infrastructures in the EU Strategic Plan 2021-2024.
Sec4AI4Sec wants to develop security-by-design testing and assurance techniques for AI-augmented systems, their software and AI assets. AI-augment systems provide an opportunity to democratize security expertise and give access to intelligent, automated secure coding and testing, by enabling novel capabilities, lowering development costs and increasing software quality (AI4Sec). They are also a risk: AI-augmented systems are vulnerable to new security technical threats specific to AI-based software, in particular where matters of fairness or explainability are important (Sec4AI). Sec4AI4Sec addresses these challenges to the fullest extent: AI for better security, security for better AI.
The Sec4AI4Sec project will address these two facets of AI to achieve a deep scientific, economic and technological impact, while contributing to addressing key societal issues. It will validate its approach on three key scenarios of the EU Digital Compass towards Digital Sovereignty: 5G core virtualization, Autonomy for safety systems in aviation and security and Quality for 3rd party software assessment and certification.
Sec4AI4Sec assembled a team with 5 leading Universities (Amsterdam, Cagliari, Hamburg, Lugano, Trento), 2 innovative SMEs (FrontEndART, Pluribus One), 3 Large Enterprises (Airbus, SAP, Thales) and 1 Center for digital innovation (Cefriel). The project will generate a set of innovative techniques and open-source tools, new methodologies for secure design and certification of AI-augmented systems, as well as reference benchmarks that can be used to standardize the assessment of research results in the secure software research community.
Ámbito científico (EuroSciVoc)
CORDIS clasifica los proyectos con EuroSciVoc, una taxonomía plurilingüe de ámbitos científicos, mediante un proceso semiautomático basado en técnicas de procesamiento del lenguaje natural. La clasificación de este proyecto ha sido validada por su equipo.
CORDIS clasifica los proyectos con EuroSciVoc, una taxonomía plurilingüe de ámbitos científicos, mediante un proceso semiautomático basado en técnicas de procesamiento del lenguaje natural. La clasificación de este proyecto ha sido validada por su equipo.
- ingeniería y tecnologíaingeniería eléctrica, ingeniería electrónica, ingeniería de la informacióningeniería de la informacióntelecomunicaciónred de telecomunicacionesred móvil5G
- ciencias naturalesinformática y ciencias de la informaciónsoftwaredesarrollo de software
- ingeniería y tecnologíaingeniería mecánicaingeniería de vehículosingeniería aeroespacialingeniería aeronáutica
- ciencias naturalesinformática y ciencias de la informacióninteligencia artificialaprendizaje automático
- ciencias naturalesinformática y ciencias de la informaciónseguridad informática
Palabras clave
Programa(s)
Convocatoria de propuestas
(se abrirá en una nueva ventana) HORIZON-CL3-2022-CS-01
Consulte otros proyectos de esta convocatoriaRégimen de financiación
HORIZON-RIA -Coordinador
38122 Trento
Italia