Quand l’IA devient aussi un allié de la désinformation
La désinformation est un défi mondial majeur qui influence la façon dont les personnes comprennent les événements, prennent des décisions et s’engagent dans la vie démocratique. En Europe, la désinformation est considérée comme une menace pour la sécurité et la société(s’ouvre dans une nouvelle fenêtre), comme l’a montré la pandémie de COVID 19, où de fausses affirmations ont alimenté l’hésitation à l’égard des vaccins. Selon Massimo Magaldi, coordinateur du projet TITAN(s’ouvre dans une nouvelle fenêtre), financé par l’UE: «La désinformation déstabilise le débat démocratique et intensifie les tensions sociales, soulignant la nécessité de renforcer l’esprit critique et l’éducation aux médias.» TITAN s’est intéressé au renforcement de la résilience à la désinformation à long terme par le biais d’une plateforme de coaching alimentée par l’IA, les utilisateurs s’engageant par le biais d’un dialogue réflexif, de matériel d’apprentissage et de fonctionnalités collaboratives.
L’écosystème d’autonomisation de la pensée critique
Des citoyens, des spécialistes de la désinformation, des éducateurs, des animateurs, des étudiants, du personnel d’ONG, des migrants et des journalistes ont participé à TITAN dans le cadre de laboratoires vivants et de projets pilotes dans toute l’Europe. Plus de 322 personnes ont participé aux sessions de cocréation, et plus de 347 utilisateurs ont été interrogés pour l’analyse des besoins, avec des tests pilotes dans trois cas d’utilisation: l’enseignement supérieur en Flandre, les ONG en Europe centrale et du sud-est, et les migrants et les étudiants en Italie. «Le retour d’information des utilisateurs était essentiel pour que la solution soit non seulement impressionnante sur le plan technique, mais aussi utilisable, fiable, éthiquement fondée et pertinente», ajoute Massimo Magaldi. Deux projets pilotes principaux – l’un qualitatif et axé sur l’expérience de l’utilisateur, l’autre plus quantitatif, s’appuyant sur des enquêtes et des données de système pour mesurer l’utilisation réelle – ont abouti à ce que Massimo Magaldi appelle «l’écosystème d’autonomisation de la pensée critique» de TITAN, fourni par deux prototypes complémentaires. L’Individual Edition(s’ouvre dans une nouvelle fenêtre), destiné aux utilisateurs quotidiens pour parcourir l’information en ligne, est disponible via des extensions de navigateur légères et une application Android. Il offre l’accès à un compagnon de coaching, qui recourt à un dialogue de type socratique pour renforcer l’éducation aux médias et la reconnaissance des tactiques de désinformation. La Community Edition(s’ouvre dans une nouvelle fenêtre) est une application web destinée aux environnements d’apprentissage structurés, tels que les salles de classe, afin d’accroître la pensée critique et l’éducation aux médias grâce à un engagement fort et à une utilisation prolongée. Les utilisateurs collaborent pour analyser les informations, élaborer des arguments et examiner les éléments de preuve. «Notre véritable innovation n’a pas été l’utilisation de l’IA, mais l’intégration du philosophie(s’ouvre dans une nouvelle fenêtre) (dialogue de style socratique) comme méthode de coaching pour renforcer les capacités de réflexion critique», explique Massimo Magaldi.
Une solution personnalisée
Dans un scénario simple, les utilisateurs téléchargent des liens ou des messages suspects qui seront analysés par l’IA, à la recherche de tactiques de désinformation, telles que la polarisation ou la pseudoscience. L’algorithme a été entraîné sur des ensembles de données préexistants, complétés par des données provenant des laboratoires vivants de TITAN, des pilotes, des dialogues élaborés manuellement et des articles annotés par des humains. Au lieu de déclarer un contenu vrai ou faux, un dialogueur, alimenté par de grands modèles de langage, entame un dialogue pour aider les utilisateurs à reconnaître les signaux de désinformation en posant des questions telles que: «Quelle est la source?» Dans la Community Edition, cela peut déclencher des modules d’apprentissage. «La Community Edition intègre l’historique des dialogues des utilisateurs pour adapter les styles de conversation et les parcours d’apprentissage. De même, le dialogueur de coaching module le dialogue en fonction des signaux de désinformation détectés dans le contenu. Le système s’adapte donc à la fois à l’utilisateur et au contenu», note Massimo Magaldi.
De la solution utile à l’engagement actif
L’objectif est de poursuivre le déploiement de l’outil dans des environnements éducatifs structurés ayant déjà fait leurs preuves, tout en concevant des formats plus faciles d’accès, comme des applications, afin d’améliorer l’engagement et la rétention. Massimo Magaldi est particulièrement fier du défi de conception «Critically Yours»(s’ouvre dans une nouvelle fenêtre), dans le cadre duquel les jeunes ont été invités à concevoir des outils interactifs pour développer l’éducation aux médias et l’esprit critique, en adoptant l’approche TITAN. L’un des concepts lauréats, «Filtered Realities», permet aux utilisateurs de comparer les versions manipulées et exactes d’un même article, révélant ainsi comment le cadrage et les déclencheurs émotionnels faussent la perception. «Les jeunes ne sont pas de simples consommateurs passifs d’informations, mais des partenaires créatifs qui conçoivent des solutions, ce qui reflète l’esprit du projet, à savoir la combinaison de la technologie, de la créativité et de l’autonomisation de la collaboration», explique Massimo Magaldi.
