Skip to main content
Aller à la page d’accueil de la Commission européenne (s’ouvre dans une nouvelle fenêtre)
français fr
CORDIS - Résultats de la recherche de l’UE
CORDIS

The Ethics of Synthetic Data in the Age of Machine Learning and AI

Description du projet

Les données synthétiques et leur éthique sociétale

Les ensembles de données générés par l’IA et utilisés pour former des algorithmes modifient le paysage éthique de la société moderne. Le projet SYNDATA, financé par le CER, examine la manière dont ces ensembles de données influencent la représentation, la vie privée et l’équité dans des secteurs tels que les soins de santé, la finance et l’administration. En générant des données là où la collecte dans le monde réel est impossible ou éthiquement sensible, l’IA promet de combler les lacunes en matière de diversité et de protéger la confidentialité, mais elle introduit également de nouveaux risques. SYNDATA est la première étude à grande échelle des sciences sociales sur les données synthétiques, combinant l’analyse historique avec des enquêtes sur les applications actuelles, de la biométrie à la détection d’armes. L’objectif du projet est de redéfinir la manière dont la société comprend les conséquences éthiques de la génération de données algorithmiques.

Objectif

SYNDATA develops a novel approach to understanding the ethical consequences of synthetic data for contemporary societies. Machine learning algorithms and AI models such as Gemini and GPT-4 are increasingly used to generate data (called ‘synthetic data’), which is in turn used to train other algorithmic models. This is leading to transformations in social and political life, because synthetic data embody a promise to address an array of ethical challenges associated with AI, such as the lack of ethnic diversity and gender representation in large training datasets, in addition to issues of privacy and confidentiality in sensitive datasets. In short, if some data cannot be collected in the real world, it can be generated via algorithms. This is particularly relevant in societal domains – such as healthcare, finance, and government – where an ethical question in the use of sensitive personal data is common. While there is a substantive literature outlining the various effects of data and algorithms on society, the area of synthetic data remains both under-researched and under-theorised. As such, SYNDATA will pioneer the first large-scale, systematic social science study of synthetic data. By examining the three pressing issues of generativity, representation, and resistance, the project will take seriously the ways that synthetic data are generated whilst also transforming how contemporary algorithms and AI models are trained and deployed in society. In order to do this, the project will conduct both archival research into the historical antecedents of synthetic data as well as path-defining studies of different areas where synthetic data is currently being generated and deployed as a way to train algorithmic systems: biometrics and facial recognition as well as weapons ammunition detection. SYNDATA will provide cutting-edge social science knowledge on how the emergence of synthetic data is transforming the relationships between data, AI, and ethics in society.

Champ scientifique (EuroSciVoc)

Ce projet n'a pas encore été classé par EuroSciVoc.
Proposez les domaines scientifiques qui vous semblent les plus pertinents et aidez-nous à améliorer notre service de classification.

Mots‑clés

Programme(s)

Thème(s)

Régime de financement

HORIZON-ERC - HORIZON ERC Grants

Voir tous les projets financés dans le cadre de ce programme de financement

Appel à propositions

(s’ouvre dans une nouvelle fenêtre) ERC-2025-STG

Voir tous les projets financés au titre de cet appel

Institution d’accueil

UNIVERSITY OF YORK
Contribution nette de l'UE
€ 1 248 460,00
Adresse
HESLINGTON
YO10 5DD YORK NORTH YORKSHIRE
Royaume-Uni
Région
Yorkshire and the Humber North Yorkshire York
Type d’activité
Higher or Secondary Education Establishments
Liens
Coût total
€ 1 248 460,00

Bénéficiaires (1)