Projektbeschreibung
Menschenzentrierte KI-Unterstützungssysteme für Entscheidungen
Mit KI kann die Entscheidungsfindung verbessert werden, indem Voreingenommenheit und eine kognitive Überlastung verhindert werden. Dennoch ist es von zentraler Bedeutung, das Vertrauen in die Zuverlässigkeit der KI zu stärken. Im EU-finanzierten Projekt TANGO werden hybride Entscheidungshilfesysteme geschaffen, in denen menschliche und maschinelle Werte und Ziele in Einklang gebracht werden, um Europas Vorreiterstellung im Bereich menschenzentrierter KI zu festigen. Das Team wird eine kognitive Theorie des gegenseitigen Verstehens und der hybriden Entscheidungsfindung aufstellen, erklärbare, auf Kognition abgestimmte KI-Systeme erstellen und die Human-in-the-Loop, gemeinsame Entwicklung der menschlichen Entscheidungsfindung und von Modellen des maschinellen Lernens erleichtern. Im Rahmen von TANGO werden vier wichtige Anwendungsfälle aufgestellt: Unterstützung für Frauen während der Schwangerschaft und nach der Geburt, Unterstützung in der Chirurgie, Hilfe für Kreditsachbearbeitende und Antragstellende bei der Bewertung der Kreditwürdigkeit und Unterstützung für die öffentliche Politik beim Entwurf von Anreizen und der Mittelvergabe.
Ziel
Artificial Intelligence (AI) holds enormous potential for enhancing human decisions, improving cognitive overload and lowering bias in high-stakes scenarios. Adoption of AI-based support systems in such applications is however minimal, chiefly due to the difficulty of assessing their assumptions, limitations and intentions. In order to realise the promise of AI for individuals, society and economy, people should feel they can trust AIs in terms of reliability, capacity to understand the human’s needs, and guarantees that they are genuinely aiming at helping them. TANGO will develop the theoretical basis and computational framework for hybrid decision support systems (HDSS) in which humans and machines are aligned in terms of values and goals, know their respective strengths, and work together to reach an optimal decision. To this end, TANGO will develop: 1) A cognitive theory of mutual understanding and hybrid decision making, of intuitive vs deliberative approaches to decision making and of how they affect our trust in human and AI teammates. 2) Cognition-aware explainable AIs implementing synergistic human-machine interaction, enabling machines to determine what information a specific decision maker (e.g. layperson vs expert) needs, or does not need, to reach an informed decision. 3) A “Human-in-the-loop” co-evolution of human decision making and machine learning models building on bi-directional, explanation-augmented interlocution. The TANGO framework will be evaluated on four high impact use cases, namely supporting: i) women during pregnancy and postpartum, ii) surgical teams in intraoperative decision making, iii) loan officers and applicants in credit lending decision processes, and iv) public policy makers in designing incentives and allocating funds. Success in these case studies will establish TANGO as the framework of reference for developing a new generation of synergistic AI systems, and will strengthen the leadership of Europe in human-centric AI.
Wissenschaftliches Gebiet
Schlüsselbegriffe
Programm/Programme
Thema/Themen
Aufforderung zur Vorschlagseinreichung
Andere Projekte für diesen Aufruf anzeigenFinanzierungsplan
HORIZON-RIA - HORIZON Research and Innovation ActionsKoordinator
38122 Trento
Italien
Auf der Karte ansehen
Beteiligte (19)
64289 Darmstadt
Auf der Karte ansehen
56126 Pisa
Auf der Karte ansehen
Rechtsträger, der nicht Auftragnehmer ist und an einen Teilnehmer angegliedert oder rechtlich mit diesem verbunden ist. Der Rechtsträger übernimmt Arbeiten zu in der Finanzhilfevereinbarung festgelegten Bedingungen, liefert Waren oder bietet Dienstleistungen für die Aktion, unterzeichnet jedoch nicht die Finanzhilfevereinbarung. Eine Drittpartei hält sich an die Regeln, die gemäß der Finanzhilfevereinbarung für den verbundenen Teilnehmer gelten hinsichtlich der Förderfähigkeit von Kosten und der Kontrolle der Ausgaben.
56126 Pisa
Auf der Karte ansehen
Rechtsträger, der nicht Auftragnehmer ist und an einen Teilnehmer angegliedert oder rechtlich mit diesem verbunden ist. Der Rechtsträger übernimmt Arbeiten zu in der Finanzhilfevereinbarung festgelegten Bedingungen, liefert Waren oder bietet Dienstleistungen für die Aktion, unterzeichnet jedoch nicht die Finanzhilfevereinbarung. Eine Drittpartei hält sich an die Regeln, die gemäß der Finanzhilfevereinbarung für den verbundenen Teilnehmer gelten hinsichtlich der Förderfähigkeit von Kosten und der Kontrolle der Ausgaben.
00185 Roma
Auf der Karte ansehen
75006 Paris
Auf der Karte ansehen
38122 Trento
Auf der Karte ansehen
A96 PR60 Dublin
Auf der Karte ansehen
Die Organisation definierte sich zum Zeitpunkt der Unterzeichnung der Finanzhilfevereinbarung selbst als KMU (Kleine und mittlere Unternehmen).
21101 NOVI SAD
Auf der Karte ansehen
41250 GOTEBORG
Auf der Karte ansehen
Beteiligung beendet
69120 Heidelberg
Auf der Karte ansehen
1000 Bruxelles / Brussel
Auf der Karte ansehen
48009 Bilbao
Auf der Karte ansehen
38027 MALE
Auf der Karte ansehen
Die Organisation definierte sich zum Zeitpunkt der Unterzeichnung der Finanzhilfevereinbarung selbst als KMU (Kleine und mittlere Unternehmen).
10121 Torino
Auf der Karte ansehen
1040 Bruxelles / Brussel
Auf der Karte ansehen
Die Organisation definierte sich zum Zeitpunkt der Unterzeichnung der Finanzhilfevereinbarung selbst als KMU (Kleine und mittlere Unternehmen).
11000 BELGRADE STARI GRAD
Auf der Karte ansehen
11000 Belgrade
Auf der Karte ansehen
11070 BELGRADE
Auf der Karte ansehen
6108 Halle
Auf der Karte ansehen
Partner (3)
38100 Trento
Auf der Karte ansehen
SA2 8PP Swansea
Auf der Karte ansehen
CV4 8UW COVENTRY
Auf der Karte ansehen