L’éthique par conception dans le développement des technologies de pointe
Si les technologies émergentes sont souvent porteuses d’importants avantages sociaux, économiques et environnementaux, leur développement et leur utilisation peuvent toutefois soulever des préoccupations et des questions éthiques importantes. Que se passera-t-il si elles entraînent des pertes d’emploi massives et la nécessité de reconvertir les travailleurs, ou si elle génère de nouvelles violations de données et de nouvelles vulnérabilités que les cybercriminels pourront exploiter? Pour répondre à ces préoccupations, il est essentiel de privilégier l’éthique et les valeurs sociétales dans la conception, le développement et le déploiement de nouvelles technologies. Le projet TechEthos s’est attaché à fournir des conseils concernant la manière de procéder. «Durant les six premiers mois, nous avons analysé et identifié les technologies nouvelles et émergentes qui présentaient un fort intérêt économique et éthique», explique Eva Buchinger, sociologue à l’Institut autrichien de technologie (AIT), coordinatrice du projet. «Nous nous sommes ensuite concentrés sur trois domaines d’innovation qui interagissent avec la planète, le monde numérique et le corps.»
Contrôle du temps
La première technologie, l’ingénierie climatique, couvre les innovations destinées à atténuer les effets du changement climatique, telles que l’élimination du dioxyde de carbone et la modification du rayonnement solaire. Diverses préoccupations éthiques entourent ces technologies, dont la réglementation, l’inégalité sociale, les incidences sur l’environnement et l’imposition d’innovations aux communautés. Un deuxième domaine, la réalité étendue, consiste en des systèmes informatiques avancés qui modifient la façon dont les gens se connectent entre eux et à leur environnement. Les principales préoccupations éthiques concernent la manipulation du contenu et les dangers que constituent les réponses numériques qui ne se distinguent pas de la réalité humaine. Enfin, l’équipe s’est penchée sur les considérations éthiques entourant les neurotechnologies, par exemple les interfaces cerveau-ordinateur pour le contrôle des prothèses. Les préoccupations éthiques concernent la conservation du libre arbitre des individus et de leur autonomie, et la préservation de la confidentialité des données sensibles.
Évaluer le niveau de sensibilisation de la société
L’équipe du projet s’est ensuite penchée sur les niveaux de sensibilisation de la société et sur les principales questions réglementaires. Elle a analysé les lignes directrices en place afin d’identifier les lacunes et formuler des suggestions, tout en privilégiant l’interaction avec les citoyens. Les analyses éthiques, juridiques et sociétales menées sur les trois technologies sont disponibles sur le site web du projet, ainsi que dans des fiches analytiques résumant les résultats. L’équipe a organisé une quinzaine de cafés scientifiques dans les six pays partenaires du projet et développé le jeu TechEthos dans le but d’appréhender les attitudes, les valeurs et les préoccupations de la société. «Plus de 700 citoyens ont été impliqués», précise Eva Buchinger. Ces initiatives ont été une importante source d’informations de valeur. L’équipe a constaté que les préoccupations des citoyens ne portaient pas tant sur la technologie elle-même que sur la question de savoir qui est responsable du déploiement et de la surveillance. «Les citoyens sont confiants tant que quelqu’un assume la responsabilité», fait remarquer Eva Buchinger. «Nous ne nous attendions pas à ce que ce sentiment s’exprime aussi clairement.» Les citoyens ont également exprimé leur inquiétude concernant le fait que les décisions sont trop souvent motivées par des intérêts financiers ou populistes, au détriment des individus et de la planète. «Ces résultats soulignent l’importance de la mise en place d’organismes indépendants d’éthique de la recherche, qui jouent le rôle d’intermédiaires», ajoute Eva Buchinger.
Intégrer l’éthique à la conception des technologies
Les principaux résultats du projet sont notamment TechEthos Anticipatory ethics Matrix (TEAeM), un cadre détaillé qui soutient la gouvernance efficace des nouvelles technologies en exploitant une combinaison de cadres existants tels que ATE Plus, Ethical Impact Assessment (Évaluation de l’impact éthique) et une approche d’études sur le futur. Le site web du projet propose des suggestions relatives à la révision des lignes directrices opérationnelles existantes pour l’ingénierie climatique, les neurotechnologies et les technologies de réalité numérique étendue, ainsi que le Social Readiness Tool (outil de préparation sociale). L’équipe a également contribué à la révision du code de conduite européen pour l’intégrité en recherche publié en juin 2023.
Mots‑clés
TechEthos, éthique, technologies, climat, neurotechnologies, environnemental, cybercriminels, réalité étendue, ingénierie climatique
