Descrizione del progetto
Un quadro affidabile per la valutazione dei rischi legati all’intelligenza artificiale
Il panorama dell’intelligenza artificiale (IA) richiede un quadro completo per affrontare minacce e vulnerabilità; ciononostante, manca un sistema che sia in grado di gestire le debolezze nella catena di fornitura di tale tecnologia. Il progetto CoEvolution, finanziato dall’UE, sta sviluppando una soluzione integrata di valutazione della sicurezza, dell’affidabilità e della solidità che combina modelli di IA con consapevolezza contestuale e una distinta dei materiali del modello di IA. Il progetto si propone di istituire un polo universale per la valutazione dei rischi legati a sicurezza, affidabilità e solidità e per la garanzia della sicurezza che risulti in linea con i quadri normativi dell’UE. L’iniziativa introduce nuove descrizioni dei modelli di IA e tecniche di monitoraggio della sicurezza al fine di garantire la conformità alle direttive dell’UE in materia di fiducia, correttezza e governance dei dati, nonché alle linee guida stabilite dal GDPR. I set di dati affidabili open source e i modelli di IA sviluppati da CoEvolution aumenteranno la capacità del polo di affrontare le mutevoli minacce alla sicurezza informatica legate all’IA.
Obiettivo
The contemporary AI landscape demands a holistic framework ensuring security across the supply chain and entire AI lifecycle. Despite existing adversarial attack techniques, a comprehensive end-to-end flow for identifying threats and vulnerabilities with associated risks is lacking. The EU, through initiatives like the AI Act, emphasizes safety and trustworthiness in AI applications but lacks a system managing weaknesses in a networked AI-supply chain. The CoEvolution project integrates its architecture components to create an end-to-end Security, Trust, and Robustness (STR) assessment solution, generating context-aware AI models characterized by their AI Model Bill of Materials (AIMBOM). The goal is a universal hub providing a coherent STR risk assessment and security assurance flow, aligning with MLDevOps and EU AI regulatory frameworks. The paradigm includes novel AI model descriptions, AIMBOM management, security monitoring, and context awareness. CoEvolution introduces a new STR paradigm based on Bills-of-Materials, offering a unified approach to describing AI models in supply chains, ensuring STR compliance with EU directives on trust, fairness, data governance, and GDPR guidelines. Open source trusted datasets and CoEvolution-developed AI models enhance the hub's capabilities, aiming for a robust, adaptable risk analysis and security assessment framework aligned with evolving AI cybersecurity threats.
Campo scientifico (EuroSciVoc)
CORDIS classifica i progetti con EuroSciVoc, una tassonomia multilingue dei campi scientifici, attraverso un processo semi-automatico basato su tecniche NLP.
CORDIS classifica i progetti con EuroSciVoc, una tassonomia multilingue dei campi scientifici, attraverso un processo semi-automatico basato su tecniche NLP.
- scienze naturaliinformatica e scienze dell'informazionescienza dei dati
- scienze naturaliinformatica e scienze dell'informazionesoftware
- scienze naturaliinformatica e scienze dell'informazioneintelligenza artificialeapprendimento automatico
- scienze naturaliinformatica e scienze dell'informazionesicurezza informatica
È necessario effettuare l’accesso o registrarsi per utilizzare questa funzione
Parole chiave
Programma(i)
Meccanismo di finanziamento
HORIZON-RIA - HORIZON Research and Innovation ActionsCoordinatore
106 82 ATHINA
Grecia