Projektbeschreibung
KI intelligenter, transparenter und vertrauenswürdiger gestalten
In der Welt der künstlichen Intelligenz (KI) ist es enorm wichtig, kausale Zusammenhänge zu verstehen, vor allem in Bereichen wie dem Gesundheits- und Finanzwesen, wo Entscheidungen Auswirkungen auf Leben und Wirtschaft haben. Den derzeitigen KI-Modellen mangelt es häufig an Transparenz, da sie auf undurchsichtigen Methoden beruhen, die es Fachleuten erschweren, die Ergebnisse zu überprüfen oder anzufechten. Im Rahmen des ERC-finanzierten Projekts CArLA soll diese Lücke geschlossen und die Erkennung kausaler Zusammenhänge – die Aufdeckung kausaler Beziehungen in Daten – revolutioniert werden. Aufbauend auf robusten Methoden und den Grundsätzen der erklärbaren KI (XAI) aus dem Projekt ERC ADIX wird die CArLA-Plattform die Erkennung kausaler Zusammenhänge transparenter, interaktiver und anfechtbarer gestalten. Dazu werden Demonstratoren für das Gesundheits- und Finanzwesen entwickelt, mit denen Fachleute KI-generierte Erkenntnisse beeinflussen und überprüfen können, um so einen zuverlässigeren, auf den Menschen abgestimmten KI-Ansatz für wichtige Entscheidungen zu fördern.
Ziel
Causal AI is widely perceived as crucial in the current AI landscape as it allows capturing causal effects amongst features in data, rather than simple correlations. Causal discovery is an important aspect of machine learning as it paves the way towards achieving Causal AI. It amounts to extracting causal graphs from data, encoding the structure of causal relations amongst features in data. There is a gap in the state-of-the-art in AI as concerns causal discovery, in that most approaches are black-boxes, hard to understand and explain, and unable to engage domain experts to integrate and possibly contest the learnt graphs when they are misaligned with human knowledge and values. CArLA aims at developing a platform for transparent, explainable, interactive and contestable causal discovery, based upon an existing principled methodology and prototype, as well as XAI techniques, developed within the ERC Advanced ADIX project. CArLA’s platform will support understanding the causal discovery process from data and experts while being able to influence it. Any developer or user of applications in high-stakes domains will benefit from using this uniquely trustworthy platform. CArLA aims to develop two demonstrators of the beneficial use of the platform in the high-stakes domains of healthcare and finance, to pave the way to commercialisation with a spinout.
Programm/Programme
Mehrjährige Finanzierungsprogramme, in denen die Prioritäten der EU für Forschung und Innovation festgelegt sind.
Mehrjährige Finanzierungsprogramme, in denen die Prioritäten der EU für Forschung und Innovation festgelegt sind.
-
HORIZON.1.1 - European Research Council (ERC)
HAUPTPROGRAMM
Alle im Rahmen dieses Programms finanzierten Projekte anzeigen
Thema/Themen
Aufforderungen zur Einreichung von Vorschlägen sind nach Themen gegliedert. Ein Thema definiert einen bestimmten Bereich oder ein Gebiet, zu dem Vorschläge eingereicht werden können. Die Beschreibung eines Themas umfasst seinen spezifischen Umfang und die erwarteten Auswirkungen des finanzierten Projekts.
Aufforderungen zur Einreichung von Vorschlägen sind nach Themen gegliedert. Ein Thema definiert einen bestimmten Bereich oder ein Gebiet, zu dem Vorschläge eingereicht werden können. Die Beschreibung eines Themas umfasst seinen spezifischen Umfang und die erwarteten Auswirkungen des finanzierten Projekts.
Finanzierungsplan
Finanzierungsregelung (oder „Art der Maßnahme“) innerhalb eines Programms mit gemeinsamen Merkmalen. Sieht folgendes vor: den Umfang der finanzierten Maßnahmen, den Erstattungssatz, spezifische Bewertungskriterien für die Finanzierung und die Verwendung vereinfachter Kostenformen wie Pauschalbeträge.
Finanzierungsregelung (oder „Art der Maßnahme“) innerhalb eines Programms mit gemeinsamen Merkmalen. Sieht folgendes vor: den Umfang der finanzierten Maßnahmen, den Erstattungssatz, spezifische Bewertungskriterien für die Finanzierung und die Verwendung vereinfachter Kostenformen wie Pauschalbeträge.
HORIZON-ERC-POC - HORIZON ERC Proof of Concept Grants
Alle im Rahmen dieses Finanzierungsinstruments finanzierten Projekte anzeigen
Aufforderung zur Vorschlagseinreichung
Verfahren zur Aufforderung zur Einreichung von Projektvorschlägen mit dem Ziel, eine EU-Finanzierung zu erhalten.
Verfahren zur Aufforderung zur Einreichung von Projektvorschlägen mit dem Ziel, eine EU-Finanzierung zu erhalten.
(öffnet in neuem Fenster) ERC-2024-POC
Alle im Rahmen dieser Aufforderung zur Einreichung von Vorschlägen finanzierten Projekte anzeigenGastgebende Einrichtung
Finanzieller Nettobeitrag der EU. Der Geldbetrag, den der Beteiligte erhält, abzüglich des EU-Beitrags an mit ihm verbundene Dritte. Berücksichtigt die Aufteilung des EU-Finanzbeitrags zwischen den direkten Begünstigten des Projekts und anderen Arten von Beteiligten, wie z. B. Dritten.
SW7 2AZ London
Vereinigtes Königreich
Die Gesamtkosten, die dieser Organisation durch die Beteiligung am Projekt entstanden sind, einschließlich der direkten und indirekten Kosten. Dieser Betrag ist Teil des Gesamtbudgets des Projekts.