Skip to main content

Stakeholder-informed ethics for new technologies with high socio-economic and human rights impact

Article Category

Article available in the folowing languages:

La ética en el centro de las tecnologías emergentes

Se han desarrollado nuevos métodos y herramientas para garantizar que la ética y los derechos humanos se tengan plenamente en cuenta en el despliegue de las principales tecnologías punta.

Economía digital

Es probable que la inteligencia artificial (IA), la genómica humana y el perfeccionamiento humano tengan repercusiones económicas y sociales importantes en un futuro próximo. Al mismo tiempo, estas tecnologías de nueva aparición plantean serios problemas éticos, jurídicos y de derechos humanos. «El objetivo del proyecto SIENNA era estudiar estas cuestiones y proponer formas de abordarlas», explica Philip Brey, coordinador del proyecto y profesor de Filosofía de la Tecnología en la Universidad de Twente (los Países Bajos).

Desafíos éticos de la tecnología

La IA incluye sistemas que apoyan la toma de decisiones de las personas, son capaces de analizar grandes conjuntos de datos y pueden reconocer rostros y comportamientos. Además, incluye máquinas, como los robots inteligentes y los coches autónomos. «La IA puede tomar decisiones de forma autónoma y realizar acciones que hasta ahora estaban reservadas a los seres humanos», afirma Brey. «Sin embargo, esto significa que también puede realizar todas las cosas malas que pueden hacer los humanos. Puede controlar a las personas, discriminar y violar la privacidad, por ejemplo. ¿Quién es responsable si las máquinas inteligentes hacen cosas malas?». La genómica humana es una potente tecnología que podría mejorar la salud humana. «Con todo, aquí también existen importantes implicaciones éticas», señala Brey. «La secuenciación del genoma puede plantear importantes problemas de privacidad, ya que terceras personas pueden conocer el genotipo detallado de una persona. Esta información podría utilizarse para discriminar a los empleados o a los tomadores de seguros». Por último, el perfeccionamiento humano consiste en mejorar el rendimiento humano más allá de lo habitual. Esto puede incluir mejoras de los ojos y los oídos, o piernas y brazos con más fuerza y resistencia. «Muchas personas creen que la idea en sí es errónea», afirma Brey. «En cualquier caso, existen riesgos para la salud y la seguridad, así como preocupaciones por la pérdida de la identidad humana y la desigualdad».

Sensibilización ética

El proyecto SIENNA, con el respaldo de la Unión Europea, se propuso identificar y analizar los problemas éticos y de derechos humanos relacionados con estas tres tecnologías. Después, trató de desarrollar herramientas y métodos para ayudar a las partes interesadas a abordar y mitigar mejor estas cuestiones. «Queríamos determinar cuáles eran los problemas actuales y los retos que cabría esperar en los próximos veinte años, y también queríamos conocer las preocupaciones y los puntos de vista de las partes interesadas», explica Brey. Para lograrlo, se consultó a cientos de partes interesadas y se encuestó a unos once mil ciudadanos de once países. Se llevó a cabo un exhaustivo análisis jurídico para comprender el panorama normativo actual. «A partir de nuestro conocimiento sobre estas cuestiones, elaboramos propuestas, soluciones y directrices éticas. Esto último era especialmente necesario para el perfeccionamiento humano, ya que no existía ninguna directriz», afirma Brey. También se presentaron recomendaciones normativas y políticas relativas a estos tres campos tecnológicos. En el caso de la genómica humana, se elaboró un código internacional de conducta para el intercambio de datos. Se formularon recomendaciones para incluir requisitos éticos y de derechos humanos en la legislación y la normativa. También se propuso un enfoque de ética por diseño para la IA. «Ya se han aceptado nuestros análisis y recomendaciones. La Comisión Europea utilizará nuestras directrices de ética de la investigación para la IA y el perfeccionamiento humano, así como nuestro enfoque de ética por diseño en su procedimiento de revisión ética para el nuevo programa de investigación Horizonte Europa. Esto significa que, potencialmente, cientos de nuevos proyectos de investigación harán uso de nuestras herramientas y conocimientos», comenta Brey. En última instancia, SIENNA ha puesto de manifiesto que la ética y los derechos humanos deben ser consideraciones centrales en el desarrollo y uso de las tecnologías de nueva aparición, y no algo secundario. «Las directrices éticas generales pueden ser un primer paso importante para sensibilizar sobre cuestiones éticas. Sin embargo, deben complementarse con herramientas y métodos específicos, como los marcos de ética de la investigación, los códigos deontológicos y los enfoques de ética por diseño», señala Brey. Esta ha sido la contribución fundamental del proyecto, ya que Europa se encuentra en el umbral de una nueva era de innovación tecnológica.

Palabras clave

SIENNA, IA, genómica, tecnologías, robots, ética, salud, humano, inteligente

Descubra otros artículos del mismo campo de aplicación