Forschungs- & Entwicklungsinformationsdienst der Gemeinschaft - CORDIS

Der Abwehr von Online-Gerüchten und Fake News einen Schritt näher

Aufgrund des explosionsartigen Anstiegs von Online-„Fake News“ – von Propaganda bis hin zu „alternativen Fakten“ – sind im Bereich der Online-Medien dringend neue Systeme erforderlich, um die Richtigkeit und Gültigkeit überprüfen zu können. Ein aktuelles EU-finanziertes Projekt könnte die Antwort geben.
Der Abwehr von Online-Gerüchten und Fake News einen Schritt näher
Gerüchte kursieren seit Jahrtausenden, dies belegt das antike (und moderne) griechische Wort „Fama“ (englisch: „Pheme“, das ein Gerücht oder eine fehlerhafte Information bezeichnet. Im Zeitalter der sozialen Medien holen sich die meisten Menschen ihre Nachrichten und Informationen aus dem Internet. Hierbei kommt es oftmals zu einer Entscheidungsfindung oder Meinungsbildung, die auf falschen Information beruht. Im Rahmen des EU-finanzierten Projekts PHEME (Computing veracity across media, languages, and social networks) wurden Softwaretools entwickelt, mit denen sich Online-Gerüchte identifizieren und deren Richtigkeit überprüfen lassen.

Für diese Unternehmung hätte es keinen besseren Zeitpunkt geben können, da die Verbreitung alternativer Medien Journalisten und Medienmanager weltweit dazu motiviert hat, ihre Maßnahmen zur Faktenprüfung und Verifizierung zu intensiveren. „Zu aktuellen hochkarätigen Beispielen zählen Wahlen und Referenden, bei denen Fehlinformationen und Online-Propaganda unzählige Bürger in die Irre geführt haben könnten“, sagt Projektkoordinatorin Kalina Bontcheva von der University of Sheffield im Vereinigten Königreich. „Social-Media-Plattformen wie beispielsweise Facebook müssen sich ebenfalls der Herausforderung stellen, online die Auswirkungen von Fehlinformationen einzuschränken“, meint Prof. Bontcheva weiter.

Über PHEME wurde ein fortschrittlicher rechnergestützter Framework zur schnellen automatischen Entdeckung und Verifizierung von Gerüchten in einem großen Maßstab entwickelt. „Ein zentrales Tool, dass wir geschaffen haben, ist ein Open-Source-Journalismus-Dashboard, das Journalisten dabei unterstützt, aufkommende Gerüchte zu verfolgen und wichtige Aspekte relevanter Diskussionen in den sozialen Medien zu untersuchen“, erklärt Prof. Bontcheva. „Bei einem weiteren handelt es sich um ein automatisiertes Faktenüberprüfungs-Tool, das Journalisten dabei unterstützt, die Richtigkeit von Aussagen zu überprüfen, die von Politikern oder in den Nachrichtenmedien getroffen werden.“ Darüber hinaus wurde im Rahmen von PHEME ein Dashboard entwickelt, das auf die Identifizierung und Analyse medizinischer Fehlinformationen abzielt.

Um die Effizienz der Tools sicherzustellen, verwendete das Projektteam vergangene Gerüchte als Trainingsdaten für Maschinenlernalgorithmen. „Wir richteten Modelle ein, mit denen es möglich ist, die Meinungen oder Haltungen von Menschen in Bezug auf eine Aussage zu erkennen und machten hieran fest, wie wahrscheinlich es ist, das ein Gerücht wahr oder falsch ist“, erklärt Prof. Bontcheva. „Sobald dies getan ist, kann das Team einen Wert zuweisen, der den Wahrheitsgehalt des Gerüchts widerspiegelt.“

Die Arbeit stellte eine Herausforderung dar, da Maschinen – wie auch der Mensch – auf Halbwahrheiten und Propaganda reinfallen können. Dessen ungeachtet wird die Leistung von Maschinen kontinuierlich besser. Außerdem können diese sehr schnell großen Mengen an Informationen von unterschiedlichen Quellen abrufen. „Die PHEME-Tools können die Beweise liefern, für die Entscheidungsfindung ist jedoch menschliches Zutun erforderlich“, sagt Prof. Bontcheva und hebt hervor, dass „die PHEME-Tools für die Analyse von Gerüchten darauf ausgerichtet sind, Journalisten bei Entscheidungsfindungs- und Verifizierungsaufgaben zu unterstützen und diese nicht ersetzen sollen.“ Der aktuelle Genauigkeitsgrad zwischen 75 und 80 % ist im Hinblick auf den Zweck des Projekts überaus zufriedenstellend.

Bedeutsamerweise sind die meisten Tools quelloffen und frei für Wissenschaftler, Journalisten und medizinische Fachkräfte zugänglich, um für Experimente genutzt zu werden. Die Tools werden von verschiedenen Nachrichtenorganisationen versuchsweise verwendet und es gibt andauernde Gespräche über die erfolgreiche Kommerzialisierung der Ergebnisse.

Eine globale Herausforderungen in diesem Bereich besteht darin, wie Fake News aus den Social Feeds beseitigt werden können. „Obwohl verschiedene wichtige Akteure mit der Entwicklung von Lösungen begonnen haben, ist das Problem nicht gelöst worden, gleichermaßen wie wir es nicht geschafft haben, Spam-E-Mails vollständig zu beseitigen“, argumentiert Prof. Bontcheva. „Alle Tools müssen außerdem durch eine verstärkte Sensibilisierung der Nutzer und durch die Aufklärung von Social-Network-Usern in Bezug auf Möglichkeiten zur Erkennung von Fake News sowie unzuverlässiger Inhalte ergänzt werden“, fügt Prof. Bontcheva hinzu.

Unterdessen verbessern die Projektpartner über das Enddatum des Projekts hinaus weiter die Algorithmen im Hinblick auf die Zuverlässigkeit, Skalierbarkeit und Effizienz. „Die Technologie wird besser und wir haben den Stand der Technik im Vergleich zu dem von vor drei Jahren vorangebracht“, sagt Prof. Bontcheva.

In der Gesamtbetrachtung wurden über PHEME mehrere durch den Menschen verifizierte Datensätze und Softwaretools in Bezug auf Gerüchte erstellt und veröffentlicht. Diese können im Anschluss unabhängig überprüft und verifiziert werden. Hierbei werden ebenfalls Bedenken hinsichtlich der Tool-basierten Zensur vermieden. Diese Erkenntnisse werden für eine zuverlässigere Berichterstattung sorgen und somit zu vernünftigeren Überzeugungen und Entscheidungen führen.

Fachgebiete

Information and Media

Schlüsselwörter

Online-Gerücht, Fake News, Richtigkeit, PHEME, soziale Netzwerke
Folgen Sie uns auf: RSS Facebook Twitter YouTube Verwaltet vom Amt für Veröffentlichungen der EU Nach oben