Skip to main content
Vai all'homepage della Commissione europea (si apre in una nuova finestra)
italiano it
CORDIS - Risultati della ricerca dell’UE
CORDIS

Secure Hardware and Software for AI systems

Descrizione del progetto

Sicurezza hardware e software per garantire l’affidabilità dell’intelligenza artificiale

Il progetto di ricerca e innovazione SHASAI, finanziato dall’UE, si incentra sulla protezione dei sistemi di intelligenza artificiale (IA) durante tutto il loro ciclo di vita, affrontando le vulnerabilità sia a livello di hardware che di software. L’iniziativa sviluppa un framework di sicurezza multistrato che abbraccia progettazione, sviluppo, distribuzione e funzionamento integrando metodologie basate sull’approccio di sicurezza sin dalla progettazione, protezione della supply chain tramite IA, squadre rosse e blu per test avversariali, firewall intelligenti e valutazione continua della sicurezza. Il progetto, che affronta inoltre minacce a livello hardware, come attacchi side-channel e fault injection, integra controlli di sicurezza automatizzati nelle pipeline CI/CD e sfrutta piattaforme di virtualizzazione per la simulazione delle minacce. Secondo le previsioni, il progetto fornirà un’architettura di sicurezza solida, adattabile e affidabile in grado di garantire che i sistemi di IA rimangano resilienti, tracciabili e conformi agli standard di sicurezza informatica in evoluzione in ambienti ad alto rischio.

Obiettivo

SHASAI targets the HW/SW security and AI-based high risk systems intersection, aiming to enhance the security, resilience, automated testing, and continuous assessment of AI systems. The rising interest in these systems makes them attractive targets for threat actors due to their complexity and valuable data. Ensuring the security of AI systems involves safeguarding AI models, datasets, dependencies, and securing the underlying HW/SW infrastructure.
SHASAI takes a holistic approach of AI system security throughout their lifecycle stages. At requirement definition, SHASAI provides an enhanced risk assessment methodology for secure and safe AI. At design, SHASAI will propose secure and safe design patterns at SW and HW level to achieve trustworthy AI systems. During implementation, SHASAI provides tooling for a secure supply chain of the system by analyzing vulnerabilities in SW / HW dependencies, detecting poisoned data and backdoors in pretrained models, scanning for software vulnerabilities, hardening hardware platforms, and safeguarding intellectual property. At evaluation, SHASAI offers a virtual testing platform with automated attack and defense test suites to assess security against AI and infrastructure-specific threats. In operation, AI-enhanced security services continuously monitor the system, detect anomalies, and mitigate attacks using AI firewalls and attestation methods, ensuring availability and integrity.
The feasibility of SHASAI methods and tools will be demonstrated in 3 real scenarios: 1. Agrifood industry: Cutting machines. 2. Health: Eye-tracking systems in augmentative and alternative communication. 3. Automotive: Tele-operated last mile delivery vehicle. Their heterogeneity and complementarity maximize the transferability of solutions.
SHASAI will contribute to scientific, techno-economic, and societal impacts as it aligns with the CRA, EU AI Act, NIS2 and CSA, sharing and commercializing methods and tools to ensure trustworthy AI components.

Campo scientifico (EuroSciVoc)

Programma(i)

Argomento(i)

Meccanismo di finanziamento

HORIZON-IA - HORIZON Innovation Actions

Vedi tutti i progetti finanziati nell’ambito di questo schema di finanziamento

Invito a presentare proposte

(si apre in una nuova finestra) HORIZON-CL3-2024-CS-01

Vedi tutti i progetti finanziati nell’ambito del bando

Coordinatore

IKERLAN S. COOP
Contributo netto dell'UE
€ 976 077,00
Indirizzo
P JOSE MARIA ARIZMENDIARRIETA 2
20500 MONDRAGON
Spagna
Regione
Noreste País Vasco Gipuzkoa
Tipo di attività
Research Organisations
Collegamenti
Costo totale
Nessun dato

Partecipanti (15)