Skip to main content
Przejdź do strony domowej Komisji Europejskiej (odnośnik otworzy się w nowym oknie)
polski pl
CORDIS - Wyniki badań wspieranych przez UE
CORDIS

NeSySCALE: Scalable and Trustworthy Neuro-Symbolic AI through ε-Guaranteed Approximate Inference

Opis projektu

Poza „czarną skrzynką”: transparentna neuro-symboliczna sztuczna inteligencja

Chociaż uczenie głębokie doskonale sprawdza się w rozpoznawaniu wzorców, jego charakter „czarnej skrzynki” nie zapewnia transparentności wymaganej w dziedzinach wysokiego ryzyka, takich jak opieka zdrowotna. Zespół projektu NeSySCALE, realizowanego przy wsparciu z działań „Maria Skłodowska-Curie”, dąży do wypełnienia tej luki, łącząc sieci neuronowe ze strukturalną logiką symbolicznej sztucznej inteligencji. Dzięki integracji tych podejść za pomocą neuronowego programowania probabilistycznego badacze opracują modele, które będą zarówno wydajne, jak i interpretowalne. Aby przezwyciężyć obecne ograniczenia techniczne, zastosują oni dynamiczną metodę przeszukiwania w głąb, aby zapewnić skalowalność i niezawodność systemu. Ostatecznym celem projektu NeSySCALE jest stworzenie kompleksowych ram dla godnej zaufania sztucznej inteligencji, umożliwiających przejrzyste i wyjaśnialne podejmowanie decyzji w sektorach o krytycznym znaczeniu, w których odpowiedzialność ma kluczowe znaczenie dla bezpieczeństwa i zaufania społecznego.

Cel

Deep learning has achieved remarkable success in tasks such as language generation, image classification, and speech recognition. However, these models remain largely opaque “black boxes,” making it difficult to understand or explain their predictions. This lack of interpretability limits their use in high-risk, regulated domains like healthcare or autonomous systems, where transparency and accountability are essential. The field of neuro-symbolic AI addresses this limitation by combining deep learning’s pattern recognition capabilities with the structured reasoning of symbolic AI. Neural probabilistic programming (NPP) is one such approach, integrating neural networks with probabilistic logic programs to produce models that are both powerful and interpretable. For example, in hospital risk monitoring of sepsis, NPP systems can transform raw medical data into probabilistic observations and then reason reliably using logic programs, making predictions transparent and explainable. A major challenge of NPP is scalability, as symbolic reasoning relies on computationally expensive weighted model counting, which is an obstacle to its application in practice. The NeSySCALE project aims to overcome this by developing a neuro-symbolic framework that integrates learning and reasoning in an end-to-end manner while remaining scalable, robust, and reliable. Using a dynamic depth-first search approach with formal guarantees on approximation errors, the project will enable trustworthy AI in domains where standard neural networks are currently unsuitable. The PF will join the DTAI research group at KU Leuven, under the supervision of Professors Giuseppe Marra and Luc De Raedt.

Dziedzina nauki (EuroSciVoc)

Słowa kluczowe

Program(-y)

Temat(-y)

System finansowania

HORIZON-TMA-MSCA-PF-EF - HORIZON TMA MSCA Postdoctoral Fellowships - European Fellowships

Wyświetl wszystkie projekty finansowane w ramach tego programu finansowania

Zaproszenie do składania wniosków

(odnośnik otworzy się w nowym oknie) HORIZON-MSCA-2025-PF

Wyświetl wszystkie projekty finansowane w ramach tego zaproszenia

Koordynator

KATHOLIEKE UNIVERSITEIT LEUVEN
Wkład UE netto
€ 216 240,00
Koszt całkowity
Brak danych