Skip to main content
Weiter zur Homepage der Europäischen Kommission (öffnet in neuem Fenster)
Deutsch de
CORDIS - Forschungsergebnisse der EU
CORDIS

NeSySCALE: Scalable and Trustworthy Neuro-Symbolic AI through ε-Guaranteed Approximate Inference

Projektbeschreibung

Jenseits der „Black Box“: transparente neurosymbolische KI

Zwar zeichnet sich Deep Learning durch die Fähigkeit zur Mustererkennung aus, doch mangelt es aufgrund seines „Black-Box“-Charakters an der Transparenz, die in Hochrisikobereichen wie der Gesundheitsversorgung erforderlich ist. Das Ziel des innerhalb der Marie-Skłodowska-Curie-Maßnahmen unterstützten Projekts NeSySCALE lautet, diese Lücke zu schließen. Dazu werden neuronale Netze mit der strukturierten Logik der symbolischen KI kombiniert. Durch Integration dieser Ansätze mittels neuronaler probabilistischer Programmierung wird das Projektteam Modelle entwickeln, die sowohl leistungsstark als auch interpretierbar sind. Um aktuelle technische Einschränkungen zu überwinden, wird eine dynamische Tiefensuche eingesetzt, um sicherzustellen, dass das System skalierbar und zuverlässig bleibt. Letztlich strebt das Team von NeSySCALE die Bereitstellung eines Ende-zu-Ende-Rahmenkonzepts für vertrauenswürdige KI an, das klare, erklärbare Schlussfolgerungen in kritischen Sektoren ermöglicht, in denen Rechenschaftspflicht für die Sicherheit und das Vertrauen der Öffentlichkeit von entscheidender Bedeutung ist.

Ziel

Deep learning has achieved remarkable success in tasks such as language generation, image classification, and speech recognition. However, these models remain largely opaque “black boxes,” making it difficult to understand or explain their predictions. This lack of interpretability limits their use in high-risk, regulated domains like healthcare or autonomous systems, where transparency and accountability are essential. The field of neuro-symbolic AI addresses this limitation by combining deep learning’s pattern recognition capabilities with the structured reasoning of symbolic AI. Neural probabilistic programming (NPP) is one such approach, integrating neural networks with probabilistic logic programs to produce models that are both powerful and interpretable. For example, in hospital risk monitoring of sepsis, NPP systems can transform raw medical data into probabilistic observations and then reason reliably using logic programs, making predictions transparent and explainable. A major challenge of NPP is scalability, as symbolic reasoning relies on computationally expensive weighted model counting, which is an obstacle to its application in practice. The NeSySCALE project aims to overcome this by developing a neuro-symbolic framework that integrates learning and reasoning in an end-to-end manner while remaining scalable, robust, and reliable. Using a dynamic depth-first search approach with formal guarantees on approximation errors, the project will enable trustworthy AI in domains where standard neural networks are currently unsuitable. The PF will join the DTAI research group at KU Leuven, under the supervision of Professors Giuseppe Marra and Luc De Raedt.

Wissenschaftliches Gebiet (EuroSciVoc)

Schlüsselbegriffe

Programm/Programme

Thema/Themen

Finanzierungsplan

HORIZON-TMA-MSCA-PF-EF - HORIZON TMA MSCA Postdoctoral Fellowships - European Fellowships

Alle im Rahmen dieses Finanzierungsinstruments finanzierten Projekte anzeigen

Aufforderung zur Vorschlagseinreichung

(öffnet in neuem Fenster) HORIZON-MSCA-2025-PF

Alle im Rahmen dieser Aufforderung zur Einreichung von Vorschlägen finanzierten Projekte anzeigen

Koordinator

KATHOLIEKE UNIVERSITEIT LEUVEN
Netto-EU-Beitrag
€ 216 240,00
Adresse
OUDE MARKT 13
3000 Leuven
Belgien
Region
Vlaams Gewest Prov. Vlaams-Brabant Arr. Leuven
Aktivitätstyp
Higher or Secondary Education Establishments
Links
Gesamtkosten
Keine Daten