Cuando la inteligencia artificial también se convierte en aliada de la desinformación
La desinformación es un importante reto mundial que influye en la forma en que las personas entienden los acontecimientos, toman decisiones y participan en la vida democrática. En Europa, la desinformación se considera una amenaza para la seguridad y la sociedad(se abrirá en una nueva ventana), como se puso de manifiesto durante la pandemia de la COVID-19 con las falsas afirmaciones que alimentaron las dudas sobre las vacunas. Según Massimo Magaldi, coordinador del proyecto financiado con fondos europeos TITAN(se abrirá en una nueva ventana): «La desinformación desestabiliza el debate democrático e intensifica las tensiones sociales, lo que pone de relieve la necesidad de reforzar el pensamiento crítico y la alfabetización mediática». El equipo de TITAN se centró en la creación de resiliencia a la desinformación a largo plazo a través de una plataforma de asesoramiento impulsada por IA, con la participación de los usuarios a través de un diálogo reflexivo, materiales de aprendizaje y funciones de colaboración.
El ecosistema del pensamiento crítico
Ciudadanos, especialistas en desinformación, educadores, facilitadores, estudiantes, personal de ONG, migrantes y periodistas participaron en TITAN a través de laboratorios vivientes y proyectos piloto en toda Europa. Más de 322 personas participaron en sesiones de cocreación y se encuestó a más de 347 usuarios para analizar sus necesidades, con pruebas piloto en tres casos de uso: la educación superior en Flandes, las ONG en el sureste y el centro de Europa, y los migrantes y estudiantes en Italia. «La opinión de los usuarios era vital para una solución que no solo fuera técnicamente impresionante, sino también utilizable, fiable, ética y pertinente», añade Magaldi. Dos proyectos piloto principales —uno cualitativo y centrado en la experiencia del usuario, y otro más cuantitativo, que utiliza encuestas y datos del sistema para medir el uso real— dieron como resultado lo que Magaldi denomina el «ecosistema de potenciación del pensamiento crítico» de TITAN, suministrado por dos prototipos complementarios. La edición individual(se abrirá en una nueva ventana), para que los usuarios cotidianos naveguen por la información en línea, está disponible a través de ligeras extensiones del navegador y una aplicación para Android. Ofrece acceso a un compañero de asesoramiento, que utiliza el diálogo socrático para reforzar la alfabetización mediática y el reconocimiento de las tácticas de desinformación. Community Edition(se abrirá en una nueva ventana) es una aplicación web destinada a entornos de aprendizaje estructurados, como las aulas, para aumentar el pensamiento crítico y la alfabetización mediática mediante un alto grado de compromiso y un uso prolongado. Los usuarios colaboran para analizar información, elaborar argumentos y debatir pruebas. «Nuestra verdadera innovación no fue tanto el uso de la IA como la integración del diálogo socrático(se abrirá en una nueva ventana) como método de asesoramiento para reforzar las habilidades de pensamiento crítico», explica Magaldi.
Una solución personalizada
En un escenario sencillo, los usuarios suben enlaces o mensajes sospechosos para que la IA los analice en busca de tácticas de desinformación, como la polarización o la pseudociencia. El algoritmo se entrenó con conjuntos de datos preexistentes, complementados con datos de los laboratorios vivientes de TITAN, pilotos, diálogos elaborados manualmente y artículos anotados por humanos. En lugar de calificar el contenido como verdadero o falso, un chatbot, basado en grandes modelos lingüísticos, entabla un diálogo para ayudar a los usuarios a reconocer las señales de desinformación planteando preguntas como: ¿cuál es la fuente? En Community Edition eso puede activar módulos de aprendizaje. «Community Edition integra el historial de conversaciones de los usuarios para adaptar los estilos de conversación y las rutas de aprendizaje. Asimismo, el chatbot de asesoramiento modula el diálogo en función de las señales de desinformación detectadas en los contenidos. Así, el sistema se adapta tanto al usuario como al contenido», señala Magaldi.
De la solución útil al compromiso activo
El objetivo es seguir desplegando la herramienta en entornos educativos estructurados con pruebas previas de éxito, a la vez que se desarrollan formatos de más fácil acceso, como aplicaciones, para mejorar la participación y la retención. Magaldi está especialmente orgulloso del concurso de diseño «Critically Yours»(se abrirá en una nueva ventana), en el que se invitó a los jóvenes a diseñar recursos interactivos para fomentar la alfabetización mediática y el pensamiento crítico, utilizando el método TITAN. Un concepto ganador, «realidades filtradas», permite a los usuarios comparar versiones manipuladas y exactas de la misma noticia, revelando cómo el encuadre y los desencadenantes emocionales distorsionan la percepción. «Los jóvenes no son meros consumidores pasivos de información, sino socios creativos en el diseño de soluciones, lo que capta el espíritu del proyecto de combinar tecnología, creatividad y potenciación de la colaboración», afirma Magaldi.
