Descripción del proyecto
Estudiar el uso ético de la inteligencia artificial
En la actualidad, la inteligencia artificial (IA) impulsa cada vez más sistemas. Por eso es importante asegurarse de que los algoritmos de IA funcionen de manera correcta. En este contexto, el proyecto financiado con fondos europeos AutoFair se centrará en la cuestión de la equidad. En concreto, se ocupará del diseño de algoritmos de IA explicables y transparentes. AutoFair busca mejorar los propios algoritmos mientras educa a los usuarios finales. Se basa en el conocimiento de la ciencia informática, la ciencia de datos, la teoría del control, la optimización y otras disciplinas científicas, incluidas la ética y el Derecho. Se llevarán a cabo tres estudios de caso para poner a prueba los hallazgos sobre la automatización de la evaluación equitativa en contratación, la eliminación de la desigualdad de género en la publicidad y la eliminación de la discriminación contra los clientes de los bancos.
Objetivo
In this proposal, we address the matter of transparency and explainability of AI using approaches inspired by control theory. Notably, we consider a comprehensive and flexible certification of properties of AI pipelines, certain closed-loops and more complicated interconnections. At one extreme, one could consider risk averse a priori guarantees via hard constraints on certain bias measures in the training process. At the other extreme, one could consider nuanced communication of the exact tradeoffs involved in AI pipeline choices and their effect on industrial and bias outcomes, post hoc. Both extremes offer little in terms of optimizing the pipeline and inflexibility in explaining the pipelines fairness-related qualities. Seeking the middle-ground, we suggest a priori certification of fairness-related qualities in AI pipelines via modular compositions of pre-processing, training, inference, and post-processing steps with certain properties. Furthermore, we present an extensive programme in explainability of fairness-related qualities. We seek to inform both the developer and the user thoroughly in regards to the possible algorithmic choices and their expected effects. Overall, this will effectively support the development of AI pipelines with guaranteed levels of performance, explained clearly. Three use cases (in Human Resources automation, Financial Technology, and Advertising) will be used to assess the effectiveness of our approaches.
Ámbito científico (EuroSciVoc)
CORDIS clasifica los proyectos con EuroSciVoc, una taxonomía plurilingüe de ámbitos científicos, mediante un proceso semiautomático basado en técnicas de procesamiento del lenguaje natural.
CORDIS clasifica los proyectos con EuroSciVoc, una taxonomía plurilingüe de ámbitos científicos, mediante un proceso semiautomático basado en técnicas de procesamiento del lenguaje natural.
Para utilizar esta función, debe iniciar sesión o registrarse
Palabras clave
Programa(s)
Régimen de financiación
HORIZON-RIA - HORIZON Research and Innovation ActionsCoordinador
160 00 Praha
Chequia