Descripción del proyecto
Inteligencia artificial de confianza: seguridad de «hardware» y «software»
SHASAI es un proyecto de investigación e innovación financiado con fondos europeos centrado en asegurar los sistemas de inteligencia artificial a lo largo de todo su ciclo de vida, abordando las vulnerabilidades tanto en «hardware» como en «software». Desarrolla un marco de seguridad multicapa que abarca el diseño, el desarrollo, el despliegue y la operación. El proyecto integra metodologías de seguridad desde el diseño, protección de la cadena de suministro mediante inteligencia artificial, equipos rojos y azules para pruebas adversarias, cortafuegos inteligentes y evaluación continua de la seguridad. También aborda las amenazas a nivel de «hardware», como los ataques de canal lateral y de inyección de fallos. El proyecto SHASAI integra comprobaciones de seguridad automatizadas en los procesos de integración continua y desarrollo continuo, además de aprovechar las plataformas de virtualización para la simulación de amenazas. El resultado esperado es una arquitectura de seguridad robusta, adaptable y confiable que garantice que los sistemas de inteligencia artificial sigan siendo resilientes, rastreables y conformes con los estándares de ciberseguridad en constante evolución en entornos de alto riesgo.
Objetivo
SHASAI targets the HW/SW security and AI-based high risk systems intersection, aiming to enhance the security, resilience, automated testing, and continuous assessment of AI systems. The rising interest in these systems makes them attractive targets for threat actors due to their complexity and valuable data. Ensuring the security of AI systems involves safeguarding AI models, datasets, dependencies, and securing the underlying HW/SW infrastructure.
SHASAI takes a holistic approach of AI system security throughout their lifecycle stages. At requirement definition, SHASAI provides an enhanced risk assessment methodology for secure and safe AI. At design, SHASAI will propose secure and safe design patterns at SW and HW level to achieve trustworthy AI systems. During implementation, SHASAI provides tooling for a secure supply chain of the system by analyzing vulnerabilities in SW / HW dependencies, detecting poisoned data and backdoors in pretrained models, scanning for software vulnerabilities, hardening hardware platforms, and safeguarding intellectual property. At evaluation, SHASAI offers a virtual testing platform with automated attack and defense test suites to assess security against AI and infrastructure-specific threats. In operation, AI-enhanced security services continuously monitor the system, detect anomalies, and mitigate attacks using AI firewalls and attestation methods, ensuring availability and integrity.
The feasibility of SHASAI methods and tools will be demonstrated in 3 real scenarios: 1. Agrifood industry: Cutting machines. 2. Health: Eye-tracking systems in augmentative and alternative communication. 3. Automotive: Tele-operated last mile delivery vehicle. Their heterogeneity and complementarity maximize the transferability of solutions.
SHASAI will contribute to scientific, techno-economic, and societal impacts as it aligns with the CRA, EU AI Act, NIS2 and CSA, sharing and commercializing methods and tools to ensure trustworthy AI components.
Ámbito científico (EuroSciVoc)
CORDIS clasifica los proyectos con EuroSciVoc, una taxonomía plurilingüe de ámbitos científicos, mediante un proceso semiautomático basado en técnicas de procesamiento del lenguaje natural. Véas: El vocabulario científico europeo.
La clasificación de este proyecto ha sido validada por personas.
CORDIS clasifica los proyectos con EuroSciVoc, una taxonomía plurilingüe de ámbitos científicos, mediante un proceso semiautomático basado en técnicas de procesamiento del lenguaje natural. Véas: El vocabulario científico europeo.
La clasificación de este proyecto ha sido validada por personas.
- ciencias naturales informática y ciencias de la información software
- ingeniería y tecnología ingeniería eléctrica, ingeniería electrónica, ingeniería de la información ingeniería electrónica hardware informático
- ciencias naturales informática y ciencias de la información seguridad informática seguridad de redes
Programa(s)
Programas de financiación plurianuales que definen las prioridades de la UE en materia de investigación e innovación.
Programas de financiación plurianuales que definen las prioridades de la UE en materia de investigación e innovación.
-
HORIZON.2.3 - Civil Security for Society
PROGRAMA PRINCIPAL
Ver todos los proyectos financiados en el marco de este programa -
HORIZON.2.3.3 - Cybersecurity
Ver todos los proyectos financiados en el marco de este programa
Tema(s)
Las convocatorias de propuestas se dividen en temas. Un tema define una materia o área específica para la que los solicitantes pueden presentar propuestas. La descripción de un tema comprende su alcance específico y la repercusión prevista del proyecto financiado.
Las convocatorias de propuestas se dividen en temas. Un tema define una materia o área específica para la que los solicitantes pueden presentar propuestas. La descripción de un tema comprende su alcance específico y la repercusión prevista del proyecto financiado.
Régimen de financiación
Régimen de financiación (o «Tipo de acción») dentro de un programa con características comunes. Especifica: el alcance de lo que se financia; el porcentaje de reembolso; los criterios específicos de evaluación para optar a la financiación; y el uso de formas simplificadas de costes como los importes a tanto alzado.
Régimen de financiación (o «Tipo de acción») dentro de un programa con características comunes. Especifica: el alcance de lo que se financia; el porcentaje de reembolso; los criterios específicos de evaluación para optar a la financiación; y el uso de formas simplificadas de costes como los importes a tanto alzado.
HORIZON-IA - HORIZON Innovation Actions
Ver todos los proyectos financiados en el marco de este régimen de financiación
Convocatoria de propuestas
Procedimiento para invitar a los solicitantes a presentar propuestas de proyectos con el objetivo de obtener financiación de la UE.
Procedimiento para invitar a los solicitantes a presentar propuestas de proyectos con el objetivo de obtener financiación de la UE.
(se abrirá en una nueva ventana) HORIZON-CL3-2024-CS-01
Ver todos los proyectos financiados en el marco de esta convocatoriaCoordinador
Aportación financiera neta de la UE. Es la suma de dinero que recibe el participante, deducida la aportación de la UE a su tercero vinculado. Considera la distribución de la aportación financiera de la UE entre los beneficiarios directos del proyecto y otros tipos de participantes, como los terceros participantes.
20500 MONDRAGON
España
Los costes totales en que ha incurrido esta organización para participar en el proyecto, incluidos los costes directos e indirectos. Este importe es un subconjunto del presupuesto total del proyecto.