Descrizione del progetto
La corsa dell’IA per la mobilità connessa e automatizzata del futuro
I dati non sono mai stati così tanti come quelli esistenti al giorno d’oggi, mentre l’IA non ha mai avuto in passato un potenziale di addestramento delle auto senza conducente così grande come quello odierno. Sebbene siano comparse numerose soluzioni di mobilità automobilistica connessa e cooperativa, l’IA resta inesplorata in termini di spiegabilità, protezione della privacy, etica e responsabilità. Il progetto Althena, finanziato dall’UE, istituirà le basi per un’IA affidabile sfruttandone al contempo tutte le capacità a vantaggio della società. Il gruppo di ricerca contribuirà a realizzare un’IA spiegabile (XAI, explainable artificial intelligence) mediante operazioni di ricerca su dati, modelli e test, ideando una metodologia antropocentrica e proponendo una serie di indicatori chiave di prestazione sulla XAI. Verranno inoltre messi a disposizione dati e strumenti attraverso lo svolgimento di iniziative per la condivisione dei dati a livello europeo.
Obiettivo
Connected and Cooperative Automotive Mobility (CCAM) solutions have emerged thanks to novel Artificial Intelligence (AI) which can be trained with huge amounts of data to produce driving functions with better-than-human performance under certain conditions. The race on AI keeps on building HW/SW frameworks to manage and process even larger real and synthetic datasets to train increasingly accurate AI models.
However, AI remains largely unexplored with respect to explainability (interpretability of model functioning), privacy preservation (exposure of sensitive data), ethics (bias and wanted/unwanted behaviour), and accountability (responsibilities of AI outputs). These features will establish the basis of trustworthy AI, as a novel paradigm to fully understand and trust AI in operation, while using it at its full capabilities for the benefit of society.
AITHENA will contribute to build Explainable AI (XAI) in CCAM development and testing frameworks, researching three main AI pillars: data (real/synthetic data management), models (data fusion, hybrid AI approaches), and testing (physical/virtual XiL set-ups with scalable MLOps).
A human-centric methodology will be created to derive trustworthy AI dimensions from user identified group needs in CCAM applications. AITHENA will innovate proposing a set of Key Performance Indicators (KPI) on XAI, and an analysis to explore trade-offs between these dimensions.
Demonstrators will show the AITHENA methodology in four critical use cases: perception (what does the AI perceive, and why), situational awareness (what is the AI understanding about the current driving environment, including the driver state), decision (why a certain decision is taken), and traffic management (how transport-level applications interoperate with AI-enabled systems operating at vehicle-level).
Created data and tools will be made available via European data sharing initiatives (OpenData and OpenTools) to foster research on trustworthy AI for CCAM.
Campo scientifico
Parole chiave
Programma(i)
Meccanismo di finanziamento
HORIZON-RIA - HORIZON Research and Innovation ActionsCoordinatore
20009 Donostia San Sebastian
Spagna
L’organizzazione si è definita una PMI (piccola e media impresa) al momento della firma dell’accordo di sovvenzione.