Potenciar el sector público con tecnologías disruptivas
Las tecnologías disruptivas, como la IA, los datos masivos y la robótica, son innovaciones muy eficaces con varias aplicaciones potenciales en el sector público. Sin embargo, las administraciones públicas suelen tener dificultades para adoptar rápidamente las tecnologías nuevas. El equipo del proyecto ETAPAS, financiado con fondos europeos, trabajó para abordar las repercusiones jurídicas y éticas asociadas a la adopción de las tecnologías disruptivas mediante la creación conjunta de una metodología y un marco integrales que se aplicaron en pruebas prácticas en cuatro casos de uso.
Marco para el uso responsable de las tecnologías disruptivas
Muchos factores contribuyen a que el sector público se oponga a las tecnologías disruptivas. La falta de recursos es una de las razones de esta lenta adopción. Otra razón es la falta de confianza en las tecnologías emergentes. La cocreación con el sector público permitió al equipo de ETAPAS construir una base ética y fácil de usar para el despliegue de la tecnología disruptiva. El marco para el uso responsable de las tecnologías disruptivas es la base conceptual del proyecto. Las consideraciones éticas desempeñan un papel crucial a la hora de orientar el uso de las tecnologías disruptivas por parte del sector público, que abarcan responsabilidades en ámbitos clave como la privacidad, la seguridad, la equidad y la transparencia. En el proyecto, para cada principio ético, se determinaron los resultados potenciales asociados a la tecnología en diferentes casos de uso. El marco para el uso responsable de las tecnologías disruptivas resultante tiene varios componentes construidos sobre la base de principios éticos. Incluye un análisis del marco jurídico europeo y un código de conducta. Un marco de riesgos detalla treinta y cuatro riesgos en ocho categorías, y un marco de indicadores contiene un cuestionario e indicadores computacionales a medida. Partiendo de una base ética, en ETAPAS se han desarrollado herramientas «software» de apoyo a los administradores públicos. Entre estas herramientas se encuentran la metodología y la plataforma de ETAPAS, que ya están listas para su comercialización. El modelo de gobernanza y la plataforma son fáciles de usar y tienen un método paso a paso. Según Giovanna Galasso, responsable técnica del proyecto ETAPAS: «Durante el proyecto, muchas administraciones públicas han mostrado su interés por ETAPAS, lo que demuestra que nuestra tecnología responde a una necesidad real y muy sentida».
Chatbots, robots, datos masivos e IA
En ETAPAS se validó su tecnología mediante cuatro casos de uso en Grecia, Italia y Noruega. En cada proyecto piloto se exploró una aplicación de tecnología disruptiva diferente. En Grecia se utilizó la IA para identificar noticias falsas. En Italia, el estudio de caso se refirió a la publicación y difusión de datos masivos, incluida información personal y sensible anonimizada, en poder del Ministerio de Economía y Hacienda. También en Italia, robots humanoides ayudaron en la recuperación médica de pacientes. En Noruega, un chatbot basado en IA llamado Kari respondió a las preguntas de los ciudadanos. Cada caso de uso se diseñó para plantear diferentes problemas éticos. La falta de transparencia y el riesgo de la identificación falsa de noticias falsas surge en el piloto griego. En el estudio de los datos masivos, el riesgo de divulgar información personal sensible es primordial. Aunque el uso de robots puede acelerar la recuperación y mitigar los costes médicos, plantea problemas éticos y jurídicos relacionados con la salud psicológica y la gestión de datos. Y aunque la base de conocimientos de Kari es una de las mayores del mundo, muchos ciudadanos compartieron sus preocupaciones personales, en algunos casos expresando su deseo de hacerse daño. Este uso imprevisto de la tecnología disruptiva requiere una supervisión cuidadosa para proteger a las personas. El método de ETAPAS incorpora una alta valoración para identificar áreas de mejora. Se trata, entre otras cosas, de agilizar los mecanismos de respuesta, ofrecer interfaces en idiomas distintos del inglés, mantenerse al día de las nuevas tecnologías e integrar las tecnologías disruptivas en los procesos existentes. Según Roberta Lotti, coordinadora del proyecto: «Al centrarse en estas áreas clave, ETAPAS puede seguir evolucionando, convirtiéndose en una herramienta valiosa para que las administraciones públicas naveguen por las dimensiones éticas, sociales y legales del despliegue de tecnologías disruptivas».
Palabras clave
ETAPAS, IA, sector público, robots, datos masivos, tecnologías disruptivas, marco para el uso responsable de las tecnologías disruptivas, chatbots