Skip to main content
European Commission logo print header

AI-based CCAM: Trustworthy, Explainable, and Accountable

Projektbeschreibung

Künstliche Intelligenz im Wettlauf in die vernetzte und automatisierte Mobilität der Zukunft

Noch nie standen so viele Daten zu Verfügung, und noch nie verfügte die künstliche Intelligenz über ein so großes Potenzial zum Trainieren selbstfahrender Autos. Vernetzte und kooperative Lösungen für die automobile Mobilität befinden sich bereits auf dem Vormarsch, aber die künstliche Intelligenz ist in Bezug auf Erklärbarkeit, Schutz der Privatsphäre, Ethik und Verantwortlichkeiten noch eher unerforscht. Das EU-finanzierte Projekt Althena wird die Grundlage für eine vertrauenswürdige künstliche Intelligenz schaffen und gleichzeitig ihre Ressourcen zum Nutzen der Gesellschaft vollständig ausschöpfen. Das Team wird dazu beitragen, erklärbare künstliche Intelligenz (XAI) aufzubauen sowie Daten, Modelle und Tests zu erforschen. Die Forschenden werden eine menschenzentrierte Methodik entwickeln und eine Reihe von Leistungsindikatoren für XAI vorschlagen. Zudem werden Daten und Werkzeuge über europäische Datenaustauschinitiativen zur Verfügung gestellt.

Ziel

Connected and Cooperative Automotive Mobility (CCAM) solutions have emerged thanks to novel Artificial Intelligence (AI) which can be trained with huge amounts of data to produce driving functions with better-than-human performance under certain conditions. The race on AI keeps on building HW/SW frameworks to manage and process even larger real and synthetic datasets to train increasingly accurate AI models.
However, AI remains largely unexplored with respect to explainability (interpretability of model functioning), privacy preservation (exposure of sensitive data), ethics (bias and wanted/unwanted behaviour), and accountability (responsibilities of AI outputs). These features will establish the basis of trustworthy AI, as a novel paradigm to fully understand and trust AI in operation, while using it at its full capabilities for the benefit of society.
AITHENA will contribute to build Explainable AI (XAI) in CCAM development and testing frameworks, researching three main AI pillars: data (real/synthetic data management), models (data fusion, hybrid AI approaches), and testing (physical/virtual XiL set-ups with scalable MLOps).
A human-centric methodology will be created to derive trustworthy AI dimensions from user identified group needs in CCAM applications. AITHENA will innovate proposing a set of Key Performance Indicators (KPI) on XAI, and an analysis to explore trade-offs between these dimensions.
Demonstrators will show the AITHENA methodology in four critical use cases: perception (what does the AI perceive, and why), situational awareness (what is the AI understanding about the current driving environment, including the driver state), decision (why a certain decision is taken), and traffic management (how transport-level applications interoperate with AI-enabled systems operating at vehicle-level).
Created data and tools will be made available via European data sharing initiatives (OpenData and OpenTools) to foster research on trustworthy AI for CCAM.

æ

Koordinator

FUNDACION CENTRO DE TECNOLOGIAS DE INTERACCION VISUAL Y COMUNICACIONES VICOMTECH
Netto-EU-Beitrag
€ 525 650,00
Adresse
Paseo mikeletegi parque tecnologico de miramon 57
20009 Donostia san sebastian
Spanien

Auf der Karte ansehen

KMU

Die Organisation definierte sich zum Zeitpunkt der Unterzeichnung der Finanzhilfevereinbarung selbst als KMU (Kleine und mittlere Unternehmen).

Ja
Region
Noreste País Vasco Gipuzkoa
Aktivitätstyp
Research Organisations
Links
Weitere Finanzmittel
€ 0,00

Beteiligte (15)

Partner (1)