CORDIS
Forschungsergebnisse der EU

CORDIS

Deutsch DE

Novel Social Data Mining Platform to Detect and Defeat Violent Online Radicalization

Projektinformationen

ID Finanzhilfevereinbarung: 767542

Status

Abgeschlossenes Projekt

  • Startdatum

    1 Oktober 2017

  • Enddatum

    31 März 2020

Finanziert unter:

H2020-EU.3.7.

H2020-EU.2.3.1.

  • Gesamtbudget:

    € 2 190 218,75

  • EU-Beitrag

    € 1 533 153,13

Koordiniert durch:

Insikt Intelligence S.L.

Deutsch DE

INVISO: Keine Pause im Kampf gegen radikalisierte Inhalte in sozialen Medien

In Kürze müssen Anbieter sozialer Medien extremistische Inhalte von Benutzern innerhalb einer Stunde nach Veröffentlichung entfernen. Diese EU-Maßnahme ist ausgesprochen positiv, löst die Ursachen des Problems aber nicht und unterstreicht das Bedürfnis der Strafverfolgungsbehörden nach Möglichkeiten zur Echtzeitanalyse. Als Reaktion darauf schlägt INSIKT Intelligence die Bedrohungsinformationsplattform INVISO vor.

Sicherheit
© Nito, Shutterstock

Während der letzten Jahre sind die sozialen Medien zu einer der hauptsächlichen Bühnen geworden, auf denen sich radikalisierte Benutzer Gehör verschaffen und immer besser organisierte Gemeinschaften gewinnen und formieren. Die Anbieter der sozialen Medien standen einem Einschreiten anfangs zögerlich gegenüber, sind mittlerweile aber weit gekommen. Sie arbeiten regelmäßig mit Ermittlern zusammen, um bei der Verfolgung verdächtiger Benutzer zu helfen, und werden vermutlich bald dazu gezwungen, radikale Inhalte innerhalb einer Stunde zu entfernen. Das Problem ist, dass die Anzahl der radikalisierten Konten trotz dieser Gegenmaßnahmen ständig zunimmt. „Strafverfolgungsbehörden fehlt es nach wie vor an wirksamen Instrumenten zur Ermittlung, um diese Konten aufzuspüren“, sagt Jennifer Woodard, Geschäftsführerin und Gründerin von INSIKT Intelligence, das das EU-geförderte Projekt INSIKT durchführte. „Bestehende Lösungen verfügen nicht über künstliche Intelligenz und Möglichkeiten zur Echtzeitanalyse. Außerdem müssen die Strafverfolgungsbehörden eine steigende Anzahl an Fällen bearbeiten, da ständig neue Social-Media-Plattformen entstehen. Auch die Datenschutzrichtlinien dieser Plattformen bringen zusätzliche Schwierigkeiten mit sich.“

INVISO: Eine SOCMINT-Lösung

Vor diesem Hintergrund ziehen Strafverfolgungsbehörden jetzt Social Media Intelligence (SOCMINT) als eine mögliche Lösung für dieses wachsende Problem in Erwägung. Durch eine Kombination aus der Verarbeitung natürlicher Sprache, Analysen der sozialen Netzwerke und künstlicher Intelligenz könnten SOCMINT-Instrumente ihren Bedürfnissen im Kampf gegen die Radikalisierung im Internet gerecht werden. Zu diesen Instrumenten zählt auch INVISO. Es hebt sich durch seine einzigartige Benutzeroberfläche, sein Benutzererlebnis und natürlich durch die Technik, die dahintersteht, ab. „INVISO erkennt radikale Inhalte, verdächtige Nachrichten und verdeckte Radikalisierungsprozesse mittels ausgeklügelter Text Mining-Algorithmen. Die Plattform stützt sich außerdem auf Deep Learning und kann so automatisch neue Modelle entwickeln, die zur Erkennung anderer krimineller Aktivitäten verwendet werden können“, erläutert Woodard. „Das ist aus technischer Sicht wirklich herausragend, da sich nur eine Handvoll konkurrierender Technologien ausdrücklich an Strafverfolgungsbehörden richtet und die meisten von ihnen nicht über die Fähigkeit zur automatischen Erkennung oder über künstliche Intelligenz verfügen. Im Gegensatz zu INVISO lernen sie nicht von den eingegebenen Daten der Benutzer und können ihre Genauigkeit so nicht mit der Zeit oder durch Erfahrungen von vorherigen Fällen verbessern.“

Enge Zusammenarbeit mit Strafverfolgungsbehörden

Bei der Entwicklung von INVISO arbeitete INSIKT eng mit Strafverfolgungsbehörden zusammen. Fachleute des internationalen Anti-Terror-Instituts (International Institute for Counter-Terrorism) brachten im Zuge der voranschreitenden Entwicklung bemerkenswerterweise ihre Erkenntnisse ein. Dies ermöglichte es dem INSIKT-Team, ein Modell zur Erkennung von Vorstufen der Radikalisierung zu entwickeln. Mit anderen Worten: INVISO erkennt nicht nur bedrohliche Beiträge, sondern analysiert auch das allgemeine Verhalten im Internet und errechnet so, wie wahrscheinlich es ist, dass sich ein Benutzer radikalisiert. Woodard geht davon aus, dass INVISO die Arbeitsweise der Ermittelnden von Grund auf verändern wird: „Sie können mit diesem System einen großen Teil ihrer Informationserfassung automatisieren und sich auf andere wichtige Arbeitsaufgaben konzentrieren.“ „Nach der Markteinführung planen wir, das Produkt in ganz Europa zu kommerzialisieren. Doch es ist erwähnenswert, dass INVISO danach weiterentwickelt wird. Wir werden die Plattform kontinuierlich aktualisieren und neue bahnbrechende Instrumente hinzufügen, um mit dem technologischen Fortschritt Schritt zu halten. Wir wollen sicherstellen, dass die Strafverfolgungsbehörden vollständig gerüstet sind, um gegen Kriminalität im Internet vorzugehen und die Verbreitung von radikalen Inhalten zu unterbinden“, so Woodard abschließend.

Schlüsselbegriffe

INSIKT, INVISO, Terrorismus, Internet, Strafverfolgungsbehörden, Intelligence, radikalisiert, Ermittlung, soziale Medien

Projektinformationen

ID Finanzhilfevereinbarung: 767542

Status

Abgeschlossenes Projekt

  • Startdatum

    1 Oktober 2017

  • Enddatum

    31 März 2020

Finanziert unter:

H2020-EU.3.7.

H2020-EU.2.3.1.

  • Gesamtbudget:

    € 2 190 218,75

  • EU-Beitrag

    € 1 533 153,13

Koordiniert durch:

Insikt Intelligence S.L.