mUlti-Level Trustworthiness to IMprove the Adoption of hybrid arTificial intelligencE

Projektinformationen

ULTIMATE

ID Finanzhilfevereinbarung: 101070162

DOI

10.3030/101070162

Projekt abgeschlossen

EK-Unterschriftsdatum 12 Juni 2022

Startdatum 1 Oktober 2022

Enddatum 30 September 2025

Finanziert unter

• Digital, Industry and Space

Gesamtkosten

€ 3 529 112,50

EU-Beitrag

€ 3 529 112,50

Koordiniert durch

THALES
France

CORDIS bietet Links zu öffentlichen Ergebnissen und Veröffentlichungen von HORIZONT-Projekten.

Links zu Ergebnissen und Veröffentlichungen von RP7-Projekten sowie Links zu einigen Typen spezifischer Ergebnisse wie Datensätzen und Software werden dynamisch von OpenAIRE abgerufen.

Leistungen

Websites, patent fillings, videos etc. (1)

Project public website and social media

The ULTIMATE public website will provide information about the project, publications, news, and events.

Documents, reports (1)

Report on assessment of Hybrid-AI

Report summarising evaluation for hardware/software unsupervised testing (CBR), impact of AI component / system as a quantitative statistical approach (TEC) and component-based control verification (KTH). The report will include the results of the ethical impact assessment in the end-users’ governance context. The effect of the AI hybrid tools and solutions on wider society will also be considered.

Ethics Requirements (1)

OEI - Requirement No. 1

"The ""Hybrid AI for Robotic navigation and collaborative work"" demonstrator considers the detection and precise tracking of human workers. The ethics advisor should ensure that the rights of the workers are preserved concerning privacy and data protection and that they are truly free to accept or reject participation to the research experiment.A first report on this topic should be provided before the start of WP5 (meaning M12)."

Veröffentlichungen

Conference proceedings (5)

Real-world Application Facilitating Trustworthy Human-Robot Collaboration with Innovative Explainable Neuro-symbolic Reasoning

Autoren: R. Kozik, S. Buś, G. Gawdzik, M. Pawlicki, A. Pawlicka and M. Choraś
Herausgeber: IEEE

Towards Quality Measures for xAI algorithms: Explanation Stability

Autoren: Marek Pawlicki
Veröffentlicht in: 2023 IEEE 10th International Conference on Data Science and Advanced Analytics (DSAA), 2023, ISBN 979-8-3503-4503-2
Herausgeber: IEEE
DOI: 10.1109/DSAA60987.2023.10302535

Real-Time Anomaly Detection and Categorization for Satellite Reaction Wheels

Autoren: Alejandro Penacho Riveiros, Yu Xing, Nicola Bastianello, Karl H. Johansson
Veröffentlicht in: 2024 European Control Conference (ECC), 2024
Herausgeber: IEEE
DOI: 10.23919/ECC64448.2024.10591184

How Explainable Is Explainability? Towards Better Metrics for Explainable AI

Autoren: Pawlicka, A., Pawlicki, M., Kozik, R., Kurek, W., Choraś M.
Veröffentlicht in: Research and Innovation Forum (RIIFORUM) 2023, 2024, ISBN 978-3-031-44721-1
Herausgeber: Springer
DOI: 10.1007/978-3-031-44721-1_52

Formal Verification of Local Robustness of a Classification Algorithm for a Spatial Use Case

Autoren: D. Longuet, A. Elouazzani, A. Penacho Riveiros, N. Bastianello
Veröffentlicht in: Proceedings Seventh International Workshop on Formal Methods for Autonomous Systems, ISSN 2075-2180
Herausgeber: Electronic Proceedings in Theoretical Computer Science
DOI: 10.48550/ARXIV.2509.03948

Book chapters (3)

Supporting Human-Robot Collaboration and Safety with the Proposed Explainable Neuro-Symbolic Reasoning

Autoren: Rafał Kozik, Aleksandra Pawlicka, Marek Pawlicki, Michał Choraś
Veröffentlicht in: Lecture Notes in Computer Science, Availability, Reliability and Security, 2025
Herausgeber: Springer Nature Switzerland
DOI: 10.1007/978-3-032-00642-4_15

ULTIMATE Project Toolkit for Robotic AI-Based Data Analysis and Visualization

Autoren: Rafał Kozik, Damian Puchalski, Aleksandra Pawlicka, Szymon Buś, Jakub Główka, Krishna Chandramouli, Marco Tiemann, Marek Pawlicki, Rafał Renk, Michał Choraś
Veröffentlicht in: Lecture Notes in Computer Science, Intelligent Information and Database Systems, 2024
Herausgeber: Springer Nature Singapore
DOI: 10.1007/978-981-97-4985-0_4

Ensuring Trustworthiness of Hybrid AI-Based Robotics Systems

Autoren: Eguia, Alexander; Quintano, Nuria; Marsh, Irina; Barreteau, Michel; Główka, Jakub; Sprońska, Agnieszka
Veröffentlicht in: 2024
Herausgeber: Springer Nature
DOI: 10.1007/978-3-031-76428-8_27

Peer reviewed articles (2)

Neurocomputing

Autoren: M. Pawlicki, A. Pawlicka, R. Kozik, M. Choraś
Veröffentlicht in: Neurocomputing, Ausgabe 950, 2024, ISSN 0925-2312
Herausgeber: Elsevier
DOI: 10.1016/j.neucom.2024.127759

On the black-box explainability of object detection models for safe and trustworthy industrial applications

Autoren: Alain Andres; Aitor Martinez-Seras; Ibai Laña; Javier Del Ser
Veröffentlicht in: Results in Engineering, 2024, ISSN 2590-1230
Herausgeber: Elsevier
DOI: 10.48550/ARXIV.2411.00818