Skip to main content
European Commission logo print header

Novel Social Data Mining Platform to Detect and Defeat Violent Online Radicalization

Article Category

Article available in the following languages:

INVISO: Zradykalizowani użytkownicy mediów społecznościowych muszą mieć się na baczności

Za niedługo platformy mediów społecznościowych będą musiały usuwać ekstremistyczne treści zamieszczone przez użytkowników w ciągu godziny od momentu publikacji. Chociaż ten unijny środek może przynieść wiele korzyści, nie zwalcza on źródła problemu i wymaga od organów ścigania dostępu do rozwiązań pozwalających na analizę w czasie rzeczywistym. W odpowiedzi na tę potrzebę firma INSIKT Intelligence stworzyła INVISO – platformę do analizy zagrożenia.

Bezpieczeństwo icon Bezpieczeństwo

W ciągu ostatnich kilku lat media społecznościowe stały się istotnym środkiem wykorzystywanym przez zradykalizowanych użytkowników do propagandy, rekrutacji członków i tworzenia coraz lepiej zorganizowanych społeczności. Pomimo swojej początkowej bierności, platformy mediów społecznościowych zdecydowały się dołączyć do walki z radykalnymi zachowaniami w sieci. Portale te regularnie współpracują ze śledczymi, pomagając im namierzać podejrzanych użytkowników, a wkrótce będą musiały usuwać radykalne treści w ciągu godziny od ich publikacji. Problem jednak w tym, że pomimo tych środków przeciwdziałania, liczba kont zradykalizowanych użytkowników stale rośnie. „Organy ścigania nadal nie mają dostępu do skutecznych narzędzi wykrywania kont takich użytkowników”, mówi Jennifer Woodard, dyrektor generalna i założycielka firmy INSIKT Intelligence koordynującej wspierany przez UE projekt INSIKT. „Istniejące rozwiązania nie wykorzystują sztucznej inteligencji ani nie są zdolne do analizy w czasie rzeczywistym. Ponadto organy ścigania muszą mierzyć się z rosnącą liczbą przypadków – powstają nowe platformy mediów społecznościowych, a ich polityki prywatności stwarzają dodatkowe trudności”.

INVISO: Rozwiązanie SOCMINT

Organy ścigania rozważają teraz zastosowanie narzędzi do pozyskiwania informacji z portali społecznościowych (SOCMINT) jako potencjalne rozwiązanie tego rosnącego problemu. Łącząc przetwarzanie języka naturalnego, analizę sieci społecznościowych i sztuczną inteligencję, narzędzia SOCMINT mogą stać się skuteczną bronią w walce z radykalizacją w internecie. Jednym z takich narzędzi jest INVISO, które wyróżnia się ze względu na swój unikalny interfejs użytkownika, wysoki poziom zadowolenia z użytkowania i, oczywiście, wykorzystywaną technologię. „INVISO rozpoznaje radykalne treści, podejrzane wiadomości i ukryte procesy radykalizacji, wykorzystując w tym celu zaawansowane algorytmy eksploracji danych tekstowych. Funkcja głębokiego uczenia pozwala platformie na automatyczne tworzenie nowych modeli, które mogą być wykorzystywane do wykrywania innych działań przestępczych”, wyjaśnia Woodard. „Rozwiązanie to naprawdę wyróżnia się pod względem technicznym na tle innych narzędzi, ponieważ tylko niektóre konkurencyjne technologie powstały z myślą o organach ściągania, a większość z nich nie jest wyposażona w sztuczną inteligencję ani w funkcję automatycznego wykrywania. W przeciwieństwie do INVISO, konkurencyjne narzędzia nie uczą się na podstawie danych wprowadzanych przez użytkownika, co z czasem obniża ich dokładność oraz ogranicza wykorzystanie cennych informacji uzyskiwanych z poprzednich przypadków”.

Ścisła współpraca z organami ścigania

Rozwiązanie INVISO powstało we ścisłej współpracy z organami ścigania. W miarę postępu prac nad narzędziem specjaliści z Międzynarodowego Instytutu Walki z Terroryzmem dzielili się swoimi spostrzeżeniami, co umożliwiło zespołowi INSIKT opracowanie modelu wykrywania wczesnego etapu radykalizacji. Rozwiązanie INVISO nie tylko wykrywa niebezpieczne treści, ale także analizuje ogólną działalność internetową i informuje o prawdopodobieństwie radykalizacji użytkownika. Woodard sądzi, że INVISO całkowicie odmieni system pracy śledczych: „Śledczy mogą zautomatyzować dużą część zadań związanych z gromadzeniem informacji i dzięki temu skoncentrować się na innych ważnych działaniach”. „Gotowy produkt będziemy chcieli wprowadzić do sprzedaży w całej Europie. Należy jednak zaznaczyć, że INVISO będzie w dalszym ciągu się rozwijać. Mamy zamiar stale aktualizować platformę oraz dodawać nowe, innowacyjne narzędzia, aby w ten sposób dotrzymać kroku postępom technologicznym. Chcemy mieć pewność, że organy ścigania są odpowiednio wyposażone do walki z cyberprzestępczością i rozpowszechnianiem radykalnych treści”, podsumowuje Woodard.

Słowa kluczowe

INSIKT, INVISO, terroryzm, internetowy, organy ścigania, wywiad, zradykalizowany, dochodzenie, media społecznościowe

Znajdź inne artykuły w tej samej dziedzinie zastosowania