Skip to main content
Aller à la page d’accueil de la Commission européenne (s’ouvre dans une nouvelle fenêtre)
français fr
CORDIS - Résultats de la recherche de l’UE
CORDIS

The Colonized Cannot Consent: A Decolonial Analysis of Data Rights, Data Sovereignty, and the Doctrines Underpinning Large-Scale AI Systems

Description du projet

Un nouveau défi colonial à l’ère de l’IA

Dans le contexte actuel de l’essor de l’IA, la promesse du consentement numérique s’évanouit rapidement. Soutenu par le programme Actions Marie Skłodowska-Curie, le projet COLONAILISM établit un parallèle entre la collecte moderne de données par les laboratoires d’IA et les traités de l’époque coloniale, dans lesquels les peuples autochtones étaient considérés comme incapables de donner un consentement éclairé. Ce précédent historique a permis de vastes déséquilibres de pouvoir et une colonisation touchant 75 % de la population mondiale. COLONAILISM prévient que des dynamiques similaires menacent aujourd’hui de concentrer le pouvoir par le biais de la collecte incontrôlée de données d’utilisateurs pour des systèmes d’IA à grande échelle. Au-delà de l’analyse, le projet contribue activement à l’élaboration de politiques et de normes industrielles en créant des outils de gouvernance et d’éthique décoloniale. L’objectif est de prévenir de nouvelles formes de colonialisme numérique.

Objectif

Situated at the intersection of colonial history and sociotechnical analyses of AI, COLONAILISM investigates the apparent degradation of the doctrine of (digital) consent, specifically as it pertains to data collection by AI labs for the development of large-scale AI systems. Its analysis excavates the strong and instructive analogy with the period in colonial history during which the very same concept was subject to scrutiny because critics came to argue that Indigenous actors lacked the capacity to give verifiable consent in treaties involving the cession of sovereign rights. Such a revision resulted in conditions that caused 75% of the world's people to become subject to colonial powers. The analogy suggests the same power concentration/alienation has the potential to recur (if it hasn’t already) following rather similar dynamics in the scramble for user data that is accompanying the development of new foundation models. Importantly, COLONAILISM makes interventions not only in the academic discourse, but also in policy formation (at the municipal and global levels), and industry by developing new decolonial ethics, safety, and governance toolkits AI labs can use to identify and mitigate practices that are harmful to human systems or exploit their value unfairly.

Champ scientifique (EuroSciVoc)

Mots‑clés

Programme(s)

Thème(s)

Régime de financement

HORIZON-TMA-MSCA-PF-EF - HORIZON TMA MSCA Postdoctoral Fellowships - European Fellowships

Voir tous les projets financés dans le cadre de ce programme de financement

Appel à propositions

(s’ouvre dans une nouvelle fenêtre) HORIZON-MSCA-2024-PF-01

Voir tous les projets financés au titre de cet appel

Coordinateur

THE CHANCELLOR, MASTERS AND SCHOLARS OF THE UNIVERSITY OF OXFORD
Contribution nette de l'UE
€ 276 187,92
Adresse
WELLINGTON SQUARE UNIVERSITY OFFICES
OX1 2JD Oxford
Royaume-Uni
Région
South East (England) Berkshire, Buckinghamshire and Oxfordshire Oxfordshire
Type d’activité
Higher or Secondary Education Establishments
Liens
Coût total
Aucune donnée