Opis projektu
Jak zamienić „czarną skrzynkę” na „szklaną skrzynkę”
Czym jest i jak działa sztuczna inteligencja (SI)? Wiele osób miałoby kłopot z odpowiedzią na te pytania, a to dlatego, że wielu algorytmów uczenia maszynowego i uczenia głębokiego nie daje się przeanalizować po ich wykonaniu. Uczestnicy finansowanego przez UE projektu XMANAI skupią się na wyjaśnialnej SI – koncepcji, która sprzeciwia się idei „czarnej skrzynki” w uczeniu maszynowym, czyli sytuacji, gdy twórcy nie potrafią wyjaśnić decyzji SI. W ramach projektu XMANAI ma powstać zorientowane na człowieka i zaufanie podejście, które będzie testowane w realnych zastosowaniach w przemyśle wytwórczym. Celem prac jest przekształcenie łańcucha wartości w procesie wytwórczym za pomocą modeli „szklanej skrzynki”, których działanie można wytłumaczyć korzystającemu z nich człowiekowi, ponieważ generują one wyjaśnienia odnoszące się do wartości.
Cel
"Despite the indisputable benefits of AI, humans typically have little visibility and knowledge on how AI systems make any decisions or predictions due to the so-called “black-box effect” in which many of the machine learning/deep learning algorithms are not able to be examined after their execution to understand specifically how and why a decision has been made. The inner workings of machine learning and deep learning are not exactly transparent, and as algorithms become more complicated, fears of undetected bias, mistakes, and miscomprehensions creeping into decision making, naturally grow among manufacturers and practically any stakeholder
In this context, Explainable AI (XAI) is today an emerging field that aims to address how black box decisions of AI systems are made, inspecting and attempting to understand the steps and models involved in decision making to increase human trust.
XMANAI aims at placing the indisputable power of Explainable AI at the service of manufacturing and human progress, carving out a “human-centric”, trustful approach that is respectful of European values and principles, and adopting the mentality that “our AI is only as good as we are”. XMANAI, demonstrated in 4 real-life manufacturing cases, will help the manufacturing value chain to shift towards the amplifying AI era by coupling (hybrid and graph) AI ""glass box"" models that are explainable to a ""human-in-the-loop"" and produce value-based explanations, with complex AI assets (data and models) management-sharing-security technologies to multiply the latent data value in a trusted manner, and targeted manufacturing apps to solve concrete manufacturing problems with high impact."
Dziedzina nauki
Słowa kluczowe
Program(-y)
Zaproszenie do składania wniosków
Zobacz inne projekty w ramach tego zaproszeniaSzczegółowe działanie
H2020-ICT-2020-1
System finansowania
RIA - Research and Innovation actionKoordynator
20093 Cologno Monzese
Włochy
Zobacz na mapie
Uczestnicy (18)
80686 Munchen
Zobacz na mapie
Zakończenie uczestnictwa
46022 Valencia
Zobacz na mapie
Organizacja określiła się jako MŚP (firma z sektora małych i średnich przedsiębiorstw) w czasie podpisania umowy o grant.
20133 Milano
Zobacz na mapie
10117 Tallin
Zobacz na mapie
Organizacja określiła się jako MŚP (firma z sektora małych i średnich przedsiębiorstw) w czasie podpisania umowy o grant.
3013 Limassol
Zobacz na mapie
Organizacja określiła się jako MŚP (firma z sektora małych i średnich przedsiębiorstw) w czasie podpisania umowy o grant.
48008 Bilbao
Zobacz na mapie
151 25 Maroussi
Zobacz na mapie
2804-537 Almada
Zobacz na mapie
Organizacja określiła się jako MŚP (firma z sektora małych i średnich przedsiębiorstw) w czasie podpisania umowy o grant.
Zakończenie uczestnictwa
20156 Milano
Zobacz na mapie
28109 Madrid
Zobacz na mapie
11632 Athina
Zobacz na mapie
Organizacja określiła się jako MŚP (firma z sektora małych i średnich przedsiębiorstw) w czasie podpisania umowy o grant.
00185 Roma
Zobacz na mapie
Organizacja określiła się jako MŚP (firma z sektora małych i średnich przedsiębiorstw) w czasie podpisania umowy o grant.
Podmiot prawny inny niż podwykonawca, stowarzyszony lub mający inne powiązania prawne z uczestnikiem. Podmiot realizuje prace na podstawie warunków umowy o grant, dostarcza towary lub świadczy usługi związane z działaniem, jednak nie podpisuje umowy o grant. Podmiot zewnętrzny przestrzega zasad i wymogów dotyczących danego uczestnika wynikających z umowy o grant, dotyczących kwalifikowalności kosztów oraz kontroli wydatków.
41121 Modena
Zobacz na mapie
01170 LEGUTIANO ALAVA
Zobacz na mapie
Organizacja określiła się jako MŚP (firma z sektora małych i średnich przedsiębiorstw) w czasie podpisania umowy o grant.
10156 Torino
Zobacz na mapie
46021 Valencia
Zobacz na mapie
Organizacja określiła się jako MŚP (firma z sektora małych i średnich przedsiębiorstw) w czasie podpisania umowy o grant.
20156 Milano
Zobacz na mapie
Zakończenie uczestnictwa
20093 Cologno Monzese
Zobacz na mapie