Skip to main content

Stakeholder-informed ethics for new technologies with high socio-economic and human rights impact

Article Category

Article available in the folowing languages:

Mettre l’éthique au cœur des technologies émergentes

Des méthodes inédites et de nouveaux outils ont été développés pour garantir un total respect de l’éthique et des droits de l’homme dans le déploiement de technologies de pointe essentielles.

Économie numérique

Dans un proche avenir, l’Intelligence artificielle, la génomique humaine et l’amélioration humaine auront probablement des répercussions économiques et sociales majeures. En parallèle, ces technologies émergentes soulèvent de sérieuses questions sur les plans éthique, juridique et des droits de l’homme. «L’objectif du projet SIENNA était d’étudier ces questions et de proposer des pistes pour les résoudre», explique Philip Brey, coordinateur du projet et professeur en philosophie de la technologie à l’Université de Twente aux Pays-Bas.

Défis tech éthiques

L’Intelligence artificielle intègre des systèmes d’assistance à la prise de décision humaine dotés de capacités d’analyser de grands ensembles de données et de reconnaissance faciale et comportementale. Cette technologie comprend aussi les robots intelligents et les voitures autonomes. «L’IA peut prendre des décisions de manière autonome et exécuter des actions qui, jusque là, étaient réservées aux êtres humains», déclare Philip Brey. «Mais cela signifie que l’IA peut aussi reproduire les mêmes erreurs que l’homme. Elle peut, par exemple, contrôler des personnes, se livrer à des discriminations et violer la vie privée. Qui est à blâmer si les machines intelligentes dérivent?» La génomique humaine est une technologie performante qui peut améliorer la santé des êtres humains. «Cependant, on observe des implications éthiques importantes aussi dans ce cas», déclare Philip Brey. «Le séquençage du génome soulève des questions essentielles concernant la vie privée puisque des tierces personnes vont prendre connaissance, dans les moindres détails, du matériel génétique de tout un chacun. Cette information pourrait être utilisée à mauvais escient pour discriminer des employés ou des assurés.» Finalement, l’amélioration humaine consiste à perfectionner le comportement humain au-delà de la norme standard. De telles améliorations peuvent s’appliquer aux yeux et aux oreilles pour obtenir des organes plus performants ou aux jambes et aux bras pour leur conférer une résistance et une endurance accrues. «Beaucoup de gens estiment que l’idée même est mauvaise», déclare Philip Brey. «Dans tous les cas, il y a des risques pour la santé et la sécurité de la personne et des inquiétudes concernant la perte d’identité et l’inégalité humaines».

Susciter une conscience éthique

Le projet SIENNA, financé par l’UE, avait pour objectif d’identifier et d’analyser les questions relatives à l’éthique et aux droits de l’homme liées à ces trois technologies. Il a ensuite cherché à développer des outils et des méthodes capables d’aider les parties prenantes à mieux aborder ces préoccupations et à les minimiser. «Nous souhaitions inventorier aussi bien les questions actuelles que les défis à venir au cours des vingt prochaines années», explique Philip Brey. «Nous voulions aussi aborder les préoccupations et les points de vue des parties prenantes.» Pour ce faire, des centaines de parties prenantes ont été consultées et quelque 11 000 citoyens résidant dans 11 pays ont été interrogés. Une vaste étude juridique a été menée pour établir le paysage réglementaire actuel. «Nous avons élaboré des propositions et des solutions sur la base de la compréhension que nous avions de ces questions», dit Philip Brey. «Nous avons aussi rédigé des recommandations éthiques, qui se sont révélées particulièrement utiles pour l’amélioration humaine puisqu’il n’existait aucune directive». Des recommandations réglementaires et politiques à propos de ces trois domaines technologiques ont aussi été formulées. En ce qui concerne la génomique humaine, un code de conduite international a été établi en ce qui concerne le partage de données. Des recommandations en vue de l’inclusion dans la législation et dans la réglementation des exigences concernant l’éthique et les droits de l’homme ont été rédigées. Pour l’IA, une approche par l’«Ethics by Design», a aussi été mise en avant. «Certains ont déjà eu recours à nos analyses et à nos recommandations», affirme Philip Brey. «Dans le nouveau programme de recherche Horizon Europe, la Commission européenne va utiliser nos directives sur l’éthique de la recherche pour l’IA et l’amélioration humaine, ainsi que notre approche “Ethics by Design” dans sa procédure de révision de l’éthique. Cela signifie que des centaines de nouveaux projets de recherche seront potentiellement amenés à utiliser nos outils et nos idées». Finalement, SIENNA a montré que l’éthique et les droits de l’homme doivent figurer au centre des considérations dans le développement et l’utilisation de technologies émergentes et non pas être pris en compte dans un second temps. «Les directives générales sur l’éthique peuvent être un premier pas essentiel vers l’émergence d’une sensibilisation aux questions relatives à l’éthique», déclare Philip Brey. «Mais elles doivent être complétées par des outils et des méthodes spécifiques comme des cadres pour l’éthique en matière de recherche, des codes sur l’éthique professionnelle et des approches “Ethics by Design”». Cela a été la contribution essentielle de ce projet, l’Europe étant à l’aube d’une nouvelle ère en matière d’innovations technologiques.

Mots‑clés

SIENNA, IA, génomique, technologies, robots, éthique, santé, humain, intelligent

Découvrir d’autres articles du même domaine d’application