Descripción del proyecto
Un enfoque consciente de la sociedad para crear algoritmos justos
La inteligencia artificial (IA) se emplea en muchos ámbitos delicados, lo que aviva el debate sobre la equidad y la parcialidad. A fin de garantizar que la IA cumpla todos los criterios de equidad y confianza, es necesario que los diseñadores de tecnología involucren a todas las partes interesadas en el desarrollo del aprendizaje automático. Aquí es donde interviene el proyecto SAML, financiado con fondos europeos. El objetivo es desarrollar un enfoque metodológico completamente nuevo para el desarrollo de algoritmos de aprendizaje automático. El enfoque tendrá en cuenta los intereses de todas las partes afectadas por un algoritmo y, en última instancia, contribuirá a crear aplicaciones de aprendizaje automático más justas que la sociedad acepte.
Objetivo
To date, the design of ethical machine learning (ML) algorithms has been dominated by technology owners and remains broadly criticized for strategically seeking to avoid legally enforceable restrictions. In order to foster trust in ML technologies, society demands technology designers to deeply engage all relevant stakeholders in the ML development.
This ERC project aims at responding to this call with a society-aware approach to ML (SAML). My goal is to enable the collaborative design of ML algorithms, so that they are not only driven by economic interests of the technology owners but are agreed upon by all stakeholders, and ultimately, trusted by society. To this end, I aim to develop multi-party ML algorithms that explicitly account for the goals of different stakeholders---i.e. owners, those experts that design the algorithm (e.g. technology companies); consumers, those that are affected by the algorithm (e.g. users); and regulators, those experts that set the regulatory framework for their use (e.g. policy makers). The proposed methodology will enable quantifying and jointly optimizing the business goals of the owners (e.g. profit); the benefits of the consumers (e.g. information access); and the risks defined by the regulators (e.g. societal polarization).
The SAML project involves a high-risk/high-gain paradigm shift from an owner-centered to a society-centered (multi-party) ML design. On the one hand, it will require significant and challenging methodological innovations at every stage of the ML development: from the data collection all the way to the algorithm learning. On the other hand, it will impact how ML technologies are deployed in society by enabling an informed discussion among different stakeholders and, in general, by society about these new technologies. The results of this project will provide the urgently needed methodological foundations to ensure that these new technologies are at the service of society.
Ámbito científico (EuroSciVoc)
CORDIS clasifica los proyectos con EuroSciVoc, una taxonomía plurilingüe de ámbitos científicos, mediante un proceso semiautomático basado en técnicas de procesamiento del lenguaje natural. Véas: El vocabulario científico europeo..
CORDIS clasifica los proyectos con EuroSciVoc, una taxonomía plurilingüe de ámbitos científicos, mediante un proceso semiautomático basado en técnicas de procesamiento del lenguaje natural. Véas: El vocabulario científico europeo..
Este proyecto aún no se ha clasificado con EuroSciVoc.
Sugiera los ámbitos científicos que considere más relevantes y ayúdenos a mejorar nuestro servicio de clasificación.
Para utilizar esta función, debe iniciar sesión o registrarse
Palabras clave
Palabras clave del proyecto indicadas por el coordinador del proyecto. No confundir con la taxonomía EuroSciVoc (Ámbito científico).
Palabras clave del proyecto indicadas por el coordinador del proyecto. No confundir con la taxonomía EuroSciVoc (Ámbito científico).
Programa(s)
Programas de financiación plurianuales que definen las prioridades de la UE en materia de investigación e innovación.
Programas de financiación plurianuales que definen las prioridades de la UE en materia de investigación e innovación.
-
HORIZON.1.1 - European Research Council (ERC)
PROGRAMA PRINCIPAL
Ver todos los proyectos financiados en el marco de este programa
Tema(s)
Las convocatorias de propuestas se dividen en temas. Un tema define una materia o área específica para la que los solicitantes pueden presentar propuestas. La descripción de un tema comprende su alcance específico y la repercusión prevista del proyecto financiado.
Las convocatorias de propuestas se dividen en temas. Un tema define una materia o área específica para la que los solicitantes pueden presentar propuestas. La descripción de un tema comprende su alcance específico y la repercusión prevista del proyecto financiado.
Régimen de financiación
Régimen de financiación (o «Tipo de acción») dentro de un programa con características comunes. Especifica: el alcance de lo que se financia; el porcentaje de reembolso; los criterios específicos de evaluación para optar a la financiación; y el uso de formas simplificadas de costes como los importes a tanto alzado.
Régimen de financiación (o «Tipo de acción») dentro de un programa con características comunes. Especifica: el alcance de lo que se financia; el porcentaje de reembolso; los criterios específicos de evaluación para optar a la financiación; y el uso de formas simplificadas de costes como los importes a tanto alzado.
HORIZON-ERC - HORIZON ERC Grants
Ver todos los proyectos financiados en el marco de este régimen de financiación
Convocatoria de propuestas
Procedimiento para invitar a los solicitantes a presentar propuestas de proyectos con el objetivo de obtener financiación de la UE.
Procedimiento para invitar a los solicitantes a presentar propuestas de proyectos con el objetivo de obtener financiación de la UE.
(se abrirá en una nueva ventana) ERC-2021-STG
Ver todos los proyectos financiados en el marco de esta convocatoriaInstitución de acogida
Aportación financiera neta de la UE. Es la suma de dinero que recibe el participante, deducida la aportación de la UE a su tercero vinculado. Considera la distribución de la aportación financiera de la UE entre los beneficiarios directos del proyecto y otros tipos de participantes, como los terceros participantes.
66123 Saarbrucken
Alemania
Los costes totales en que ha incurrido esta organización para participar en el proyecto, incluidos los costes directos e indirectos. Este importe es un subconjunto del presupuesto total del proyecto.