Skip to main content
Ir a la página de inicio de la Comisión Europea (se abrirá en una nueva ventana)
español es
CORDIS - Resultados de investigaciones de la UE
CORDIS

NeSySCALE: Scalable and Trustworthy Neuro-Symbolic AI through ε-Guaranteed Approximate Inference

Descripción del proyecto

Más allá de la caja negra: la inteligencia artificial neurosimbólica transparente

Aunque el aprendizaje profundo destaca en el reconocimiento de patrones, su naturaleza de «caja negra» carece de la transparencia necesaria en los ámbitos de alto riesgo como la sanidad. Con el apoyo de las Acciones Marie Skłodowska-Curie, el equipo del proyecto NeSySCALE pretende salvar esta brecha combinando las redes neuronales con la lógica estructurada de la inteligencia artificial (IA) simbólica. Mediante la integración de estos métodos a través de la programación probabilística neuronal, en el proyecto se crearán modelos que sean a la vez potentes e interpretables. Para superar las limitaciones técnicas actuales, se empleará una búsqueda dinámica en profundidad para garantizar que el sistema siga siendo escalable y fiable. En última instancia, el objetivo de NeSySCALE es proporcionar un marco integral para una IA fiable, que permita un razonamiento claro y explicable en sectores críticos en los que la rendición de cuentas es esencial para la seguridad y la confianza pública.

Objetivo

Deep learning has achieved remarkable success in tasks such as language generation, image classification, and speech recognition. However, these models remain largely opaque “black boxes,” making it difficult to understand or explain their predictions. This lack of interpretability limits their use in high-risk, regulated domains like healthcare or autonomous systems, where transparency and accountability are essential. The field of neuro-symbolic AI addresses this limitation by combining deep learning’s pattern recognition capabilities with the structured reasoning of symbolic AI. Neural probabilistic programming (NPP) is one such approach, integrating neural networks with probabilistic logic programs to produce models that are both powerful and interpretable. For example, in hospital risk monitoring of sepsis, NPP systems can transform raw medical data into probabilistic observations and then reason reliably using logic programs, making predictions transparent and explainable. A major challenge of NPP is scalability, as symbolic reasoning relies on computationally expensive weighted model counting, which is an obstacle to its application in practice. The NeSySCALE project aims to overcome this by developing a neuro-symbolic framework that integrates learning and reasoning in an end-to-end manner while remaining scalable, robust, and reliable. Using a dynamic depth-first search approach with formal guarantees on approximation errors, the project will enable trustworthy AI in domains where standard neural networks are currently unsuitable. The PF will join the DTAI research group at KU Leuven, under the supervision of Professors Giuseppe Marra and Luc De Raedt.

Ámbito científico (EuroSciVoc)

Palabras clave

Programa(s)

Tema(s)

Régimen de financiación

HORIZON-TMA-MSCA-PF-EF - HORIZON TMA MSCA Postdoctoral Fellowships - European Fellowships

Ver todos los proyectos financiados en el marco de este régimen de financiación

Convocatoria de propuestas

(se abrirá en una nueva ventana) HORIZON-MSCA-2025-PF

Ver todos los proyectos financiados en el marco de esta convocatoria

Coordinador

KATHOLIEKE UNIVERSITEIT LEUVEN
Aportación neta de la UEn
€ 216 240,00
Dirección
OUDE MARKT 13
3000 Leuven
Bélgica
Región
Vlaams Gewest Prov. Vlaams-Brabant Arr. Leuven
Tipo de actividad
Higher or Secondary Education Establishments
Enlaces
Coste total
Sin datos