Skip to main content
Ir a la página de inicio de la Comisión Europea (se abrirá en una nueva ventana)
español es
CORDIS - Resultados de investigaciones de la UE
CORDIS

Enhancing Protections through the Collective Auditing of Algorithmic Personalization

Descripción del proyecto

Proteger la privacidad entendiendo la personalización algorítmica

El ecosistema de datos amenaza la privacidad, la autonomía y el autogobierno mediante la personalización algorítmica. Las herramientas para auditar estas cuestiones son limitadas, especialmente para garantizar la protección de la privacidad. El equipo del proyecto, financiado por el Consejo Europeo de Investigación, pretende sentar las bases matemáticas para estudiar la personalización algorítmica y auditar estos sistemas, protegiendo al mismo tiempo la privacidad de los participantes. Estas herramientas podrían mejorar la utilización de los datos, lo que fomentaría la autonomía y la repercusión social positiva. En el proyecto se crearán conceptos matemáticos para abordar problemas de personalización, se abordarán retos algorítmicos en auditorías que preserven la privacidad y se incorporarán las consideraciones legales y éticas pertinentes. La propuesta esboza una estrategia de investigación clara, con pasos iniciales que demuestran la viabilidad del proyecto.

Objetivo

The structure of the current data ecosystem carries grave threats to individuals' privacy and autonomy, facilitates discrimination, promotes social fragmentation, and threatens our ability to govern ourselves. Many of these concerns stem specifically from algorithmic personalization---the practice of providing individuals with personalized opportunities, information, or experiences, on the basis of their personal data and on patterns learned from others' data. Despite the urgency of the algorithmic personalization problem, the mathematical toolkit for studying and auditing for problematic algorithmic personalization remains extremely limited---particularly if we wish to do so in a manner that provides formal privacy guarantees.

The goal of this proposal is to tackle this important problem head-on by establishing the mathematical foundations needed to study algorithmic personalization and to collectively audit personalization systems while guaranteeing privacy to participants. Such tools could transform our collective ability to make the best possible use of our data while ensuring autonomy, privacy, and overall positive social impact.

My vision focuses on three core objectives: (1) building new mathematical concepts and definitions allowing us to articulate, prioritize, and study personalization-based problems, (2) addressing the key algorithmic challenges of privacy-preserving auditing of personalization systems, and (3) integrating deep understanding of the broader legal and ethical context into our approach. For each of these components, the proposal maps out a concrete research strategy, including preliminary steps that indicate the feasibility of this groundbreaking project.

Ámbito científico (EuroSciVoc)

Palabras clave

Programa(s)

Tema(s)

Régimen de financiación

HORIZON-ERC - HORIZON ERC Grants

Ver todos los proyectos financiados en el marco de este régimen de financiación

Convocatoria de propuestas

(se abrirá en una nueva ventana) ERC-2023-COG

Ver todos los proyectos financiados en el marco de esta convocatoria

Institución de acogida

THE HEBREW UNIVERSITY OF JERUSALEM
Aportación neta de la UEn
€ 1 741 309,00
Coste total
€ 1 741 309,00

Beneficiarios (1)