Gdy sztuczna inteligencja staje się sprzymierzeńcem dezinformacji
Dezinformacja jest istotnym wyzwaniem na całym świecie. Wpływa bowiem rozumienie wydarzeń, podejmowanie decyzji i udział ludzi w procesach demokratycznych. W Europie dezinformacja jest uważana za zagrożenie dla bezpieczeństwa i społeczeństwa(odnośnik otworzy się w nowym oknie). Dobitnie dowiodła tego pandemia COVID-19, podczas której fałszywe informacje podsycały niechęć do szczepień. Zdaniem Massimo Magaldiego, koordynatora finansowanego ze środków Unii Europejskiej projektu TITAN(odnośnik otworzy się w nowym oknie): „Dezinformacja destabilizuje demokratyczną debatę i nasila napięcia społeczne. To z kolei zwraca uwagę na konieczność rozwoju umiejętności krytycznego myślenia i korzystania z mediów”. Zespół projektu TITAN koncentrował się na budowaniu odporności społeczeństwa na dezinformację poprzez platformę treningową opartą na sztucznej inteligencji, która pozwala użytkownikom na prowadzenie refleksyjnego dialogu, korzystanie z materiałów edukacyjnych i współpracę.
Ekosystem rozwijający krytyczne myślenie
Mieszkańcy, specjaliści ds. dezinformacji, pedagodzy, animatorzy, studenci, pracownicy organizacji pozarządowych, migranci i dziennikarze uczestniczyli w projekcie TITAN w ramach żywych laboratoriów i projektów pilotażowych realizowanych w całej Europie. Przeszło 322 osoby wzięły udział w sesjach współtworzenia, a ponad 347 respondentów wzięło udział w badaniach analizujących potrzeby. Inicjatywy pilotażowe skupiły się na trzech głównych obszarach - szkolnictwie wyższym we Flandrii, organizacjach pozarządowych w Europie Południowo-Wschodniej i Środkowej oraz migrantach i studentach we Włoszech. „Opinie uczestników były kluczowe dla opracowania rozwiązania, które będzie nie tylko imponujące pod względem technicznym, ale także użyteczne, godne zaufania, etyczne i ważne”, dodaje Magaldi. Dwa główne programy pilotażowe - jakościowy, który był skoncentrowany na doświadczeniach użytkowników, a także ilościowy, w ramach którego badacze wykorzystali badania ankietowe i dane systemowe w celu pomiaru wykorzystania platformy - zaowocowały stworzeniem ekosystemu wspierającego krytyczne myślenie w ramach projektu TITAN, który opiera się na dwóch wzajemnie uzupełniających się prototypach. Rozwiązanie Individual Edition(odnośnik otworzy się w nowym oknie), które zostało opracowane z myślą o użytkownikach czytających informacje w sieci, jest dostępne w formie lekkich rozszerzeń do popularnych przeglądarek i aplikacji na system Android. Oferuje dostęp do wsparcia trenera opartego na dyskusji sokratejskiej, dzięki któremu użytkownicy rozwijają umiejętności korzystania z mediów i rozpoznawania taktyk stosowanych przez twórców dezinformacji. Rozwiązanie Community Edition(odnośnik otworzy się w nowym oknie) to aplikacja internetowa przeznaczona dla środowisk edukacyjnych. Jej celem jest rozwój umiejętności krytycznego myślenia i korzystania z mediów poprzez uczestnictwo i długotrwałe użytkowanie. Użytkownicy aplikacji współpracują w celu analizowania informacji, analizowania argumentów i omawiania dowodów. „Najistotniejszą innowacją nie było wykorzystanie sztucznej inteligencji, ale wprowadzenie do naszego rozwiązania treningu na bazie metody sokratycznej(odnośnik otworzy się w nowym oknie), aby rozwijać umiejętności krytycznego myślenia jej użytkowników”, wyjaśnia Magaldi.
Rozwiązanie skrojone na miarę
W ramach prostego procesu użytkownicy przesyłają podejrzane odnośniki lub posty, które sztuczna inteligencja analizuje pod kątem taktyk dezinformacyjnych - na przykład polaryzacji lub treści pseudonaukowych. Algorytm został przeszkolony na istniejących zbiorach danych, uzupełnionych danymi opracowanymi w ramach żywych laboratoriów projektu TITAN, inicjatyw pilotażowych, dialogów opracowanych przez badaczy i artykułów z adnotacjami wykonanymi przez ludzi. Zamiast stwierdzania, czy dane treści są prawdziwe czy fałszywe, oparty na dużych modelach językowych czatbot nawiązuje dialog z użytkownikiem, by pomóc w zrozumieniu i rozpoznawaniu dezinformacji, zadając odpowiednie pytania, na przykład: „Jakie jest źródło tej informacji?” W wariancie Community Edition rozwiązanie może zaoferować także moduły szkoleniowe. „Wariant Community Edition zbiera historię rozmów z użytkownikami w celu dopasowania stylu rozmowy i treści edukacyjnych. Nasz czatbot treningowy dostosowuje sposób rozmowy w zależności od rodzaju dezinformacji występującego w treści. Innymi słowy, nasze rozwiązanie dostosowuje się zarówno do użytkownika, jak i treści”, zauważa Magaldi.
Od użytecznego rozwiązania do aktywnego działania
Obecnie badacze skupiają się na promowaniu narzędzia w środowiskach edukacyjnych na podstawie dotychczasowych sukcesów, jednocześnie opracowując bardziej przystępnych rozwiązań w postaci aplikacji w celu popularyzacji platformy i przyciągnięcia użytkowników. Magaldi jest szczególnie dumny z wyzwania projektowego „Critically Yours”(odnośnik otworzy się w nowym oknie), w ramach którego młodzi ludzie mieli możliwość projektowania interaktywnych materiałów w celu rozwoju umiejętności korzystania z mediów i krytycznego myślenia na podstawie podejścia opracowanego w ramach projektu TITAN. Jedna ze zwycięskich koncepcji, zatytułowana „Filtered Realities”, pozwala użytkownikom porównać zmanipulowane i rzetelne wersje tej samej informacji, zwracając uwagę na wpływ ujęcia informacji i czynników emocjonalnych na ich postrzeganie. „Młodzi ludzie nie są tylko biernymi odbiorcami informacji, ale kreatywnymi partnerami w projektowaniu rozwiązań. To doskonale wpisuje się w koncepcję projektu polegającego na łączeniu technologii, kreatywności i współpracy”, dodaje Magaldi.
