Skip to main content
Weiter zur Homepage der Europäischen Kommission (öffnet in neuem Fenster)
Deutsch de
CORDIS - Forschungsergebnisse der EU
CORDIS

TOOL TO ENSURE SAFE DIGITAL LIVES FOR KIDS AND TEENAGERS

Projektbeschreibung

Unerwünschtes Verhalten im Internet durch maschinelles Lernen erkennen

Cyber-Grooming, Toxizität, Belästigung und Mobbing auf Online-Plattformen stellen eine enorme Bedrohung für junge Menschen dar. Forschende der Norwegischen Universität für Wissenschaft und Technologie (NTNU) und des Spin-Offs AIBA haben Modelle des maschinellen Lernens (ML) entwickelt, die Text- und Tastendruckdynamik nutzen, um schädliches Verhalten frühzeitig zu erkennen und Schaden und Toxizität auf ihren Plattformen zu verringern. Ziel des EU-finanzierten Projekts Aiba ist es, sichere digitale Lösungen für Kinder und Jugendliche anzubieten. Es umfasst eine ML-gestützte Echtzeiterkennung von gefälschten Profilen in Spielen und sozialen Medien. Dieser Moderationsdienst wertet alle laufenden Unterhaltungen auf Spiele- und Social-Media-Plattformen in Echtzeit aus und ermittelt dabei die Diskussionen, die unter 20 Nachrichten bleiben. Dies vereinfacht nicht nur die Moderation, sondern hilft der Kundschaft auch, schädliches Verhalten zu verhindern, was letztlich eine beträchtliche Anzahl von Arbeitsstunden einspart.

Ziel

Aiba creates safe digital lives for kids and teenagers. We do real-time detection of fake profiles and unwanted behavior, such as cyber grooming, toxicity, harassment and bullying in games and social media. Our machine learning powered moderation service will make moderation easier for our customers. We risk score all ongoing conversations real-time on gaming and social media platforms, and help our customers to prevent unwanted behavior before it makes any harm. We help them stop cyber grooming early and our initial results show we can detect grooming coversations in less than 20 messages .Our service is powering our customers with increased community health and more efficient moderation through proactive and continuous risk scoring. They can save huge amounts of human hours by using our solution. Our unique SaaS multimodal approach, combined with machine learning makes for a new era in chatroom moderation.

With a novel approach based on award-winning research, researchers and data scientists at Aiba and NTNU, have developed and trained machine learning models with text and keystroke dynamics to detect cyber grooming and other unwanted behavior early so they can stop conversations to minimize harm and toxicity on their platforms. The solution has been trained and tested on short texts typically sent in a chat. From this minimal amount of information, the system has accurately been able to profile the chatter and determine both their age group and gender. The solution has been further developed to perform a continuous real-time analysis of the text messages, to mark suspicious conversations. To do this, natural language processing features (turning text into numerical feature vectors) are used, in combination with machine learning techniques.

Wissenschaftliches Gebiet (EuroSciVoc)

Dieses Projekt wurde noch nicht bei EuroSciVoc klassifiziert.
Schlagen Sie die Wissenschaftsbereiche vor, die Ihrer Einschätzung nach besonders relevant sind, und helfen Sie uns, unseren Klassifizierungsdienst zu verbessern.

Schlüsselbegriffe

Programm/Programme

Thema/Themen

Finanzierungsplan

HORIZON-CSA - HORIZON Coordination and Support Actions

Alle im Rahmen dieses Finanzierungsinstruments finanzierten Projekte anzeigen

Aufforderung zur Vorschlagseinreichung

(öffnet in neuem Fenster) HORIZON-EIE-2022-SCALEUP-02

Alle im Rahmen dieser Aufforderung zur Einreichung von Vorschlägen finanzierten Projekte anzeigen

Koordinator

AIBA AS
Netto-EU-Beitrag
€ 75 000,00
Adresse
TEKNOLOGIVEGEN 22
2815 Gjovik
Norwegen
KMU
Ja
Region
Norge Innlandet Innlandet
Aktivitätstyp
Private for-profit entities (excluding Higher or Secondary Education Establishments)
Links
Gesamtkosten
Keine Daten