Descripción del proyecto
De «caja negra» a «caja de cristal»
¿Qué es la inteligencia artificial (IA) y cómo funciona? Para muchas personas, esta pregunta no es fácil de responder debido a que muchos algoritmos de aprendizaje automático y aprendizaje profundo no se pueden examinar después de su ejecución. El proyecto XMANAI, financiado con fondos europeos, se centrará en la IA explicable, un concepto que se opone a la idea de «caja negra» del aprendizaje automático, donde ni siquiera los diseñadores pueden explicar por qué la IA llega a una decisión específica. XMANAI creará un enfoque de confianza «centrado en el ser humano» que se probará en casos de fabricación reales. El objetivo es transformar la cadena de valor de fabricación con modelos de «caja de cristal» que se puedan explicar a un «humano en el circuito» y produzcan explicaciones basadas en el valor.
Objetivo
"Despite the indisputable benefits of AI, humans typically have little visibility and knowledge on how AI systems make any decisions or predictions due to the so-called “black-box effect” in which many of the machine learning/deep learning algorithms are not able to be examined after their execution to understand specifically how and why a decision has been made. The inner workings of machine learning and deep learning are not exactly transparent, and as algorithms become more complicated, fears of undetected bias, mistakes, and miscomprehensions creeping into decision making, naturally grow among manufacturers and practically any stakeholder
In this context, Explainable AI (XAI) is today an emerging field that aims to address how black box decisions of AI systems are made, inspecting and attempting to understand the steps and models involved in decision making to increase human trust.
XMANAI aims at placing the indisputable power of Explainable AI at the service of manufacturing and human progress, carving out a “human-centric”, trustful approach that is respectful of European values and principles, and adopting the mentality that “our AI is only as good as we are”. XMANAI, demonstrated in 4 real-life manufacturing cases, will help the manufacturing value chain to shift towards the amplifying AI era by coupling (hybrid and graph) AI ""glass box"" models that are explainable to a ""human-in-the-loop"" and produce value-based explanations, with complex AI assets (data and models) management-sharing-security technologies to multiply the latent data value in a trusted manner, and targeted manufacturing apps to solve concrete manufacturing problems with high impact."
Ámbito científico
Palabras clave
Programa(s)
Convocatoria de propuestas
Consulte otros proyectos de esta convocatoriaConvocatoria de subcontratación
H2020-ICT-2020-1
Régimen de financiación
RIA - Research and Innovation actionCoordinador
20093 Cologno Monzese
Italia
Ver en el mapa
Participantes (18)
80686 Munchen
Ver en el mapa
La participación finalizó
46022 Valencia
Ver en el mapa
Organización definida por ella misma como pequeña y mediana empresa (pyme) en el momento de la firma del acuerdo de subvención.
20133 Milano
Ver en el mapa
10117 Tallin
Ver en el mapa
Organización definida por ella misma como pequeña y mediana empresa (pyme) en el momento de la firma del acuerdo de subvención.
3013 Limassol
Ver en el mapa
Organización definida por ella misma como pequeña y mediana empresa (pyme) en el momento de la firma del acuerdo de subvención.
48008 Bilbao
Ver en el mapa
151 25 Maroussi
Ver en el mapa
2804-537 Almada
Ver en el mapa
Organización definida por ella misma como pequeña y mediana empresa (pyme) en el momento de la firma del acuerdo de subvención.
La participación finalizó
20156 Milano
Ver en el mapa
28109 Madrid
Ver en el mapa
11632 Athina
Ver en el mapa
Organización definida por ella misma como pequeña y mediana empresa (pyme) en el momento de la firma del acuerdo de subvención.
00185 Roma
Ver en el mapa
Organización definida por ella misma como pequeña y mediana empresa (pyme) en el momento de la firma del acuerdo de subvención.
Entidad jurídica distinta de un subcontratista que está afiliada o vinculada jurídicamente con un participante. Dicha entidad lleva a cabo su trabajo en las condiciones establecidas en el acuerdo de subvención, proporciona bienes o presta servicios para la acción, pero no firma dicho acuerdo. El tercero acata las normas aplicables a su participante en virtud del acuerdo de subvención en lo que respecta a la subvencionalidad de los costes y el control de los gastos.
41121 Modena
Ver en el mapa
01170 LEGUTIANO ALAVA
Ver en el mapa
Organización definida por ella misma como pequeña y mediana empresa (pyme) en el momento de la firma del acuerdo de subvención.
10156 Torino
Ver en el mapa
46021 Valencia
Ver en el mapa
Organización definida por ella misma como pequeña y mediana empresa (pyme) en el momento de la firma del acuerdo de subvención.
20156 Milano
Ver en el mapa
La participación finalizó
20093 Cologno Monzese
Ver en el mapa