Descripción del proyecto
Garantizar la equidad en los servicios públicos basados en inteligencia artificial
Los encuentros de servicio público (PSE, por sus siglas en inglés) son una parte fundamental de las interacciones entre los ciudadanos y el Estado, y se producen millones de veces al año. A medida que se acelera la digitalización, los agentes impulsados por inteligencia artificial (IA) sustituyen cada vez más a los funcionarios humanos en estas interacciones. Sin embargo, el cambio plantea cuestiones críticas sobre los sesgos en la comunicación y su impacto en las percepciones de los ciudadanos. Sorprendentemente, se sabe poco sobre los sesgos que existen en los encuentros humanos tradicionales, lo que dificulta la evaluación de la influencia de la IA. En este contexto, el equipo del proyecto BiASE-AI, financiado por el CEI, pretende colmar esta laguna de conocimiento estudiando los sesgos comunicativos en los PSE. Mediante el procesamiento del lenguaje natural, el análisis de las interacciones humanas y de la IA y la realización de experimentos, en el proyecto se aportará información crucial para garantizar que la IA mejore los servicios públicos sin comprometer la equidad ni la legitimidad democrática.
Objetivo
Artificial intelligence (AI) holds the potential to assist or even replace civil servants in citizen-state interactions, which refer to those instances in which citizens seek or receive assistance, information, or support from a public agency. In Germany alone, around 130 to 150 million such public service encounters (PSE) occur each year, with the current proportion of digital encounters, facilitated through email or chatbots, standing at 41 percent. This is only the beginning of a revolution that will accelerate due to technological innovation and scarcity in human resources. The goal of this project is to study the consequences of shifting from human to AI-powered conversational agents in PSE.
Paradoxically, while the transition to artificial encounters is already taking place in practice, we still lack understanding of what happens during conventional human encounters. This prevents researchers from evaluating the consequences of shifting from one venue to the other. Therefore, the project’s main research questions are: How can we conceptualize and measure communicative biases in PSE? What biases emerge in the verbal communication of humans and AI agents in PSE? How does variation in communication affect citizen perceptions of the encounter?
AI has the potential to improve service delivery, but there are also risks for the legitimacy of democracy. Without further research, the introduction of AI threatens to merely shift biases from one venue (civil servants) to another (AI agent). As its ground-breaking contributions, the project (1) develops natural language processing tools to operationalize verbal communication; (2) collects data from human encounters in PSE and realizes experiments on AI-based encounters; (3) and analyses such data to formulate and test a theory about communicative biases in PSE. Doing so, (4) the project will produce and disseminate urgently needed practical insights on the application of AI conversational agents in the public sector.
Ámbito científico (EuroSciVoc)
CORDIS clasifica los proyectos con EuroSciVoc, una taxonomía plurilingüe de ámbitos científicos, mediante un proceso semiautomático basado en técnicas de procesamiento del lenguaje natural. Véas: El vocabulario científico europeo..
CORDIS clasifica los proyectos con EuroSciVoc, una taxonomía plurilingüe de ámbitos científicos, mediante un proceso semiautomático basado en técnicas de procesamiento del lenguaje natural. Véas: El vocabulario científico europeo..
- ciencias sociales ciencias políticas transiciones políticas revoluciones
- ciencias sociales ciencias políticas sistemas de gobierno democracia
Para utilizar esta función, debe iniciar sesión o registrarse
Le pedimos disculpas, pero se ha producido un error inesperado durante la ejecución.
Necesita estar autentificado. Puede que su sesión haya finalizado.
Gracias por su comentario. En breve recibirá un correo electrónico para confirmar el envío. Si ha seleccionado que se le notifique sobre el estado del informe, también se le contactará cuando el estado del informe cambie.
Programa(s)
Programas de financiación plurianuales que definen las prioridades de la UE en materia de investigación e innovación.
Programas de financiación plurianuales que definen las prioridades de la UE en materia de investigación e innovación.
-
HORIZON.1.1 - European Research Council (ERC)
PROGRAMA PRINCIPAL
Ver todos los proyectos financiados en el marco de este programa
Tema(s)
Las convocatorias de propuestas se dividen en temas. Un tema define una materia o área específica para la que los solicitantes pueden presentar propuestas. La descripción de un tema comprende su alcance específico y la repercusión prevista del proyecto financiado.
Las convocatorias de propuestas se dividen en temas. Un tema define una materia o área específica para la que los solicitantes pueden presentar propuestas. La descripción de un tema comprende su alcance específico y la repercusión prevista del proyecto financiado.
Régimen de financiación
Régimen de financiación (o «Tipo de acción») dentro de un programa con características comunes. Especifica: el alcance de lo que se financia; el porcentaje de reembolso; los criterios específicos de evaluación para optar a la financiación; y el uso de formas simplificadas de costes como los importes a tanto alzado.
Régimen de financiación (o «Tipo de acción») dentro de un programa con características comunes. Especifica: el alcance de lo que se financia; el porcentaje de reembolso; los criterios específicos de evaluación para optar a la financiación; y el uso de formas simplificadas de costes como los importes a tanto alzado.
HORIZON-ERC - HORIZON ERC Grants
Ver todos los proyectos financiados en el marco de este régimen de financiación
Convocatoria de propuestas
Procedimiento para invitar a los solicitantes a presentar propuestas de proyectos con el objetivo de obtener financiación de la UE.
Procedimiento para invitar a los solicitantes a presentar propuestas de proyectos con el objetivo de obtener financiación de la UE.
(se abrirá en una nueva ventana) ERC-2024-COG
Ver todos los proyectos financiados en el marco de esta convocatoriaInstitución de acogida
Aportación financiera neta de la UE. Es la suma de dinero que recibe el participante, deducida la aportación de la UE a su tercero vinculado. Considera la distribución de la aportación financiera de la UE entre los beneficiarios directos del proyecto y otros tipos de participantes, como los terceros participantes.
88045 FRIEDRICHSHAFEN
Alemania
Los costes totales en que ha incurrido esta organización para participar en el proyecto, incluidos los costes directos e indirectos. Este importe es un subconjunto del presupuesto total del proyecto.