Ética práctica para la era de la inteligencia artificial
La IA ha llegado para quedarse y está influyendo en nuestra forma de pensar y comportarnos, al tiempo que plantea numerosas cuestiones complejas. ¿Deberían los médicos confiar en los diagnósticos generados por la IA? ¿Deberían delegarse las decisiones de contratación y despido en gestores de IA? ¿Podrían resolverse los conflictos familiares mediante la mediación de la IA? El proyecto AIOLIA(se abrirá en una nueva ventana), financiado con fondos europeos, se puso en marcha en 2025 para abordar estas cuestiones mediante el desarrollo de directrices éticas sobre la IA, el diseño de materiales didácticos y la realización de formación a gran escala en materia de ética de la IA. Más allá de la cuestión de si los sistemas de IA son éticos, el proyecto explora cómo afectan a nuestro juicio y comportamiento, así como qué medidas de protección deben establecerse en respuesta a ello. «La premisa de partida de AIOLIA gira en torno a la pregunta: “¿cuál es el papel de la tecnología para los seres humanos?”», afirma la investigadora principal, Petra Saskia Bayerl, en una noticia reciente(se abrirá en una nueva ventana). Bayerl —profesora del Centro de Excelencia en Investigación sobre Terrorismo, Resiliencia, Inteligencia y Crimen Organizado, un centro de investigación de la Universidad de Sheffield Hallam (Reino Unido), socia del proyecto AIOLIA— sostiene que la capacidad de la IA para moldear nuestro comportamiento y nuestra cognición es lo que la hace fundamentalmente diferente de otras tecnologías. «La IA es diferente porque asume cada vez más tareas que tradicionalmente asociábamos con el pensamiento humano. Puede hacer que el trabajo cognitivo sea más eficiente, automatizar ciertas decisiones e identificar patrones que antes considerábamos capacidades exclusivamente humanas», explica.
La ética de la IA en Europa y más allá
Son estas preocupaciones las que llevaron a AIOLIA a publicar unas directrices éticas sobre la IA(se abrirá en una nueva ventana) concretas para seis casos de uso europeos, elaboradas conjuntamente por socios académicos de primer orden, responsables políticos y socios industriales comprometidos con la ética procedentes de diversos sectores. Cuatro casos de uso se centraron en los cambios en la experiencia humana y el comportamiento profesional cuando la IA es utilizada por: médicos para diagnosticar y tratar a pacientes; ingenieros de seguridad para acelerar las aprobaciones de lanzamiento de «software»; responsables de selección de personal al contratar trabajadores; y profesionales de la seguridad para detectar el discurso de odio. Los dos últimos casos de uso —relacionados con sistemas de IA utilizados como asistentes virtuales de personas y familias, y con la terapia de ultrafalsificación para el tratamiento del trauma y el duelo— se centraron en los cambios en la cognición humana y el comportamiento privado. Este trabajo se amplió mediante cuatro casos de uso internacionales(se abrirá en una nueva ventana) que exploraron la aplicación de principios éticos en diferentes contextos nacionales. Los casos de uso abarcaban sistemas de IA como asistentes personales de apoyo en el duelo (Canadá), sistemas de IA para la atención inteligente a personas mayores (China), lugares de trabajo equipados con herramientas de IA para el análisis del comportamiento (Japón) y sistemas de IA como compañeros personales para ayudar a las personas mayores (Corea del Sur). Según las conclusiones del proyecto, las preocupaciones éticas dependen en gran medida del contexto. En los casos de uso profesionales, los requisitos éticos que se destacaron fueron la rendición de cuentas, la transparencia y la imparcialidad. En los casos de uso privados, la atención se centró más en la seguridad individual, el bienestar, la autonomía del usuario y la capacidad de decisión. Más recientemente, AIOLIA ha desarrollado la herramienta para evaluar los niveles de preparación ética y el impacto algorítmico(se abrirá en una nueva ventana). Esta herramienta ayuda a los expertos en ética y a los expertos técnicos a mantener diálogos semiestructurados que pueden inspirar un mejor diseño de los sistemas de IA. «En última instancia, AIOLIA tiene como objetivo hacer que la ética sea práctica», afirma Bayerl. Las medidas de protección propuestas por el proyecto AIOLIA (OPERATIONALIZING AI ETHICS FOR LEARNING AND PRACTICE: A GLOBAL APPROACH), entre las que se incluyen la supervisión humana, los mecanismos de recurso, la formación del personal y las revisiones periódicas de las políticas, tienen en última instancia un único objetivo: hacer que la ética de la IA funcione en la vida cotidiana. Para más información, consulte: Sitio web del proyecto AIOLIA(se abrirá en una nueva ventana)
