Descripción del proyecto
Herramientas para algoritmos explicables
La necesidad de algoritmos accesibles, aplicables universalmente y comprensibles plantea retos para las aplicaciones en la vida real. En la actualidad no hay ninguna herramienta que permita explicar los resultados de los algoritmos de optimización, lo cual crea una demanda de soluciones explicables. En el proyecto EXALT, financiado por el Consejo Europeo de Investigación, se pretende responder a esta demanda aplicando los resultados del proyecto TUgbOAT y, de este modo, mejorar los algoritmos con explicaciones inteligibles para las personas. Su equipo se propone mejorar los algoritmos ofreciendo soluciones alternativas, aplicando métodos de valor de Shapley, trabajando con entradas perturbadas y generando árboles de decisión claros. En el proyecto se desarrollará también una biblioteca de «software» para algoritmos explicables y, en colaboración con socios industriales, se abordará el problema de la asignación de tareas.
Objetivo
Deploying algorithmic solutions in real-world applications raises two challenges. First, we need easy-to-use and universal algorithms.
Second, we need to guarantee that algorithmic solutions can be understood by people using them. We address the first of these
challenges in TUgbOAT project, which aims to deliver unified algorithmic tools. Here, we propose to develop tools that would address
the second of these challenges.
In many use scenarios, algorithms propose a solution to a human operator. The main challenge in such cases is to convince him to use
the returned solution. Traditionally we think of algorithms in a black-box manner, i.e. as a tool to find a good solution. We do not
expect algorithms to give a human-understandable explanation of why this is the best solution, or what alternatives exist or what are
the bottlenecks. Nevertheless, we humans still tend to ask these questions even if we understand the algorithms that are used.
Currently, we lack good tools that could explain the results of optimization algorithms, e.g. for the assignment problem.
For practitioners, like ourselves, that work together with companies to deploy algorithmic solutions in real-world cases, the need to
provide explainable algorithms becomes immanent. Here we will test and implement results developed in TUgbOAT that can be used
to complement the algorithms with human explanations. In particular, we plan to:
- enrich algorithms to give meaningful alternative solutions,
- apply Shapley value methods to determine key solution elements,
- work with perturbed inputs to create robust and more concise solutions,
- generate concise decision trees that would explain steps taken by algorithms.
This project aims to deliver the base parts of a software library that would give explainable algorithms. We plan to concentrate on the
task assignment problem (i.e. matchings) where we already cooperate with companies.
Ámbito científico (EuroSciVoc)
CORDIS clasifica los proyectos con EuroSciVoc, una taxonomía plurilingüe de ámbitos científicos, mediante un proceso semiautomático basado en técnicas de procesamiento del lenguaje natural. Véas: El vocabulario científico europeo..
CORDIS clasifica los proyectos con EuroSciVoc, una taxonomía plurilingüe de ámbitos científicos, mediante un proceso semiautomático basado en técnicas de procesamiento del lenguaje natural. Véas: El vocabulario científico europeo..
Para utilizar esta función, debe iniciar sesión o registrarse
Le pedimos disculpas, pero se ha producido un error inesperado durante la ejecución.
Necesita estar autentificado. Puede que su sesión haya finalizado.
Gracias por su comentario. En breve recibirá un correo electrónico para confirmar el envío. Si ha seleccionado que se le notifique sobre el estado del informe, también se le contactará cuando el estado del informe cambie.
Programa(s)
Programas de financiación plurianuales que definen las prioridades de la UE en materia de investigación e innovación.
Programas de financiación plurianuales que definen las prioridades de la UE en materia de investigación e innovación.
-
HORIZON.1.1 - European Research Council (ERC)
PROGRAMA PRINCIPAL
Ver todos los proyectos financiados en el marco de este programa
Tema(s)
Las convocatorias de propuestas se dividen en temas. Un tema define una materia o área específica para la que los solicitantes pueden presentar propuestas. La descripción de un tema comprende su alcance específico y la repercusión prevista del proyecto financiado.
Las convocatorias de propuestas se dividen en temas. Un tema define una materia o área específica para la que los solicitantes pueden presentar propuestas. La descripción de un tema comprende su alcance específico y la repercusión prevista del proyecto financiado.
Régimen de financiación
Régimen de financiación (o «Tipo de acción») dentro de un programa con características comunes. Especifica: el alcance de lo que se financia; el porcentaje de reembolso; los criterios específicos de evaluación para optar a la financiación; y el uso de formas simplificadas de costes como los importes a tanto alzado.
Régimen de financiación (o «Tipo de acción») dentro de un programa con características comunes. Especifica: el alcance de lo que se financia; el porcentaje de reembolso; los criterios específicos de evaluación para optar a la financiación; y el uso de formas simplificadas de costes como los importes a tanto alzado.
HORIZON-ERC-POC - HORIZON ERC Proof of Concept Grants
Ver todos los proyectos financiados en el marco de este régimen de financiación
Convocatoria de propuestas
Procedimiento para invitar a los solicitantes a presentar propuestas de proyectos con el objetivo de obtener financiación de la UE.
Procedimiento para invitar a los solicitantes a presentar propuestas de proyectos con el objetivo de obtener financiación de la UE.
(se abrirá en una nueva ventana) ERC-2022-POC2
Ver todos los proyectos financiados en el marco de esta convocatoriaInstitución de acogida
Aportación financiera neta de la UE. Es la suma de dinero que recibe el participante, deducida la aportación de la UE a su tercero vinculado. Considera la distribución de la aportación financiera de la UE entre los beneficiarios directos del proyecto y otros tipos de participantes, como los terceros participantes.
02-662 WARSZAWA
Polonia
Organización definida por ella misma como pequeña y mediana empresa (pyme) en el momento de la firma del acuerdo de subvención.
Los costes totales en que ha incurrido esta organización para participar en el proyecto, incluidos los costes directos e indirectos. Este importe es un subconjunto del presupuesto total del proyecto.