Projektbeschreibung
Künstliche Intelligenz trifft auf Cybersicherheit
Da künstliche Intelligenz (KI) allgegenwärtig wird und sogar in die Entwicklung sicherer Software integriert wird, sind für die Sicherheit digitaler Infrastrukturen neue Technologien und neue Methoden erforderlich, wie im EU-Strategieplan 2021-2024 hervorgehoben wird. Um dieses Ziel zu erreichen, werden im Rahmen des EU-finanzierten Projekts Sec4AI4Sec fortschrittliche, auf KI-gestützte Systeme zugeschnittene Test- und Sicherheitstechniken für konzeptionsintegrierte Sicherheit entwickelt. Diese Systeme können die Sicherheitsexpertise demokratisieren, indem sie intelligente, automatisierte sichere Codierung und Tests ermöglichen und gleichzeitig die Entwicklungskosten senken sowie die Softwarequalität verbessern. Sie bringen jedoch auch einzigartige Sicherheitsherausforderungen mit sich, insbesondere in Bezug auf Fairness und Erklärbarkeit. Das Team von Sec4AI4Sec steht an vorderster Front und wird diesen Herausforderungen mit einem umfassenden Ansatz begegnen, der die Vision von besserer Sicherheit für KI und besserer KI für Sicherheit verkörpert.
Ziel
With AI-enhanced components being deployed everywhere, including the very toolchains used for secure software development, the traditional security focus on software and hardware assets can no longer guarantee “secure services, processes and products, [and] digital infrastructures” in the EU Strategic Plan 2021-2024.
Sec4AI4Sec wants to develop security-by-design testing and assurance techniques for AI-augmented systems, their software and AI assets. AI-augment systems provide an opportunity to democratize security expertise and give access to intelligent, automated secure coding and testing, by enabling novel capabilities, lowering development costs and increasing software quality (AI4Sec). They are also a risk: AI-augmented systems are vulnerable to new security technical threats specific to AI-based software, in particular where matters of fairness or explainability are important (Sec4AI). Sec4AI4Sec addresses these challenges to the fullest extent: “AI for better security, security for better AI.”
The Sec4AI4Sec project will address these two facets of AI to achieve a deep scientific, economic and technological impact, while contributing to addressing key societal issues. It will validate its approach on three key scenarios of the EU Digital Compass towards Digital Sovereignty: 5G core virtualization, Autonomy for safety systems in aviation and security and Quality for 3rd party software assessment and certification.
Sec4AI4Sec assembled a team with 5 leading Universities (Amsterdam, Cagliari, Hamburg, Lugano, Trento), 2 innovative SMEs (FrontEndART, Pluribus One), 3 Large Enterprises (Airbus, SAP, Thales) and 1 Center for digital innovation (Cefriel). The project will generate a set of innovative techniques and open-source tools, new methodologies for secure design and certification of AI-augmented systems, as well as reference benchmarks that can be used to standardize the assessment of research results in the secure software research community.
Wissenschaftliches Gebiet
- engineering and technologyelectrical engineering, electronic engineering, information engineeringinformation engineeringtelecommunicationstelecommunications networksmobile network5G
- natural sciencescomputer and information sciencessoftwaresoftware development
- engineering and technologymechanical engineeringvehicle engineeringaerospace engineeringaeronautical engineering
- natural sciencescomputer and information sciencesartificial intelligencemachine learning
- natural sciencescomputer and information sciencescomputer security
Schlüsselbegriffe
Programm/Programme
Aufforderung zur Vorschlagseinreichung
Andere Projekte für diesen Aufruf anzeigenFinanzierungsplan
HORIZON-RIA - HORIZON Research and Innovation ActionsKoordinator
38122 Trento
Italien