Skip to main content
Ir a la página de inicio de la Comisión Europea (se abrirá en una nueva ventana)
español es
CORDIS - Resultados de investigaciones de la UE
CORDIS

TOOL TO ENSURE SAFE DIGITAL LIVES FOR KIDS AND TEENAGERS

Descripción del proyecto

Detección de comportamientos no deseados en Internet mediante el aprendizaje automático

El ciberacoso sexual, la toxicidad, la intimidación y el acoso escolar en las plataformas en línea suponen importantes amenazas para los jóvenes. Unos investigadores de la Universidad Noruega de Ciencia y Tecnología (NTNU) y de la empresa derivada AIBA han desarrollado modelos de aprendizaje automático que utilizan la dinámica de los textos y las pulsaciones de teclas para detectar precozmente comportamientos nocivos y reducir los daños y la toxicidad en sus plataformas. El equipo del proyecto Aiba, financiado con fondos europeos, pretende ofrecer soluciones digitales seguras para niños y adolescentes. Incorpora la detección en tiempo real de perfiles falsos en juegos y redes sociales mediante tecnología de aprendizaje automático. Este servicio de moderación evalúa en tiempo real todas las conversaciones en curso en las plataformas de juegos y redes sociales, y localiza los debates sobre grooming en menos de veinte mensajes. Esto no sólo simplifica la moderación, sino que también ayuda a los clientes a prevenir comportamientos nocivos, ahorrando en última instancia un número considerable de horas de trabajo humano.

Objetivo

Aiba creates safe digital lives for kids and teenagers. We do real-time detection of fake profiles and unwanted behavior, such as cyber grooming, toxicity, harassment and bullying in games and social media. Our machine learning powered moderation service will make moderation easier for our customers. We risk score all ongoing conversations real-time on gaming and social media platforms, and help our customers to prevent unwanted behavior before it makes any harm. We help them stop cyber grooming early and our initial results show we can detect grooming coversations in less than 20 messages .Our service is powering our customers with increased community health and more efficient moderation through proactive and continuous risk scoring. They can save huge amounts of human hours by using our solution. Our unique SaaS multimodal approach, combined with machine learning makes for a new era in chatroom moderation.

With a novel approach based on award-winning research, researchers and data scientists at Aiba and NTNU, have developed and trained machine learning models with text and keystroke dynamics to detect cyber grooming and other unwanted behavior early so they can stop conversations to minimize harm and toxicity on their platforms. The solution has been trained and tested on short texts typically sent in a chat. From this minimal amount of information, the system has accurately been able to profile the chatter and determine both their age group and gender. The solution has been further developed to perform a continuous real-time analysis of the text messages, to mark suspicious conversations. To do this, natural language processing features (turning text into numerical feature vectors) are used, in combination with machine learning techniques.

Ámbito científico (EuroSciVoc)

Este proyecto aún no se ha clasificado con EuroSciVoc.
Sugiera los ámbitos científicos que considere más relevantes y ayúdenos a mejorar nuestro servicio de clasificación.

Palabras clave

Programa(s)

Tema(s)

Régimen de financiación

HORIZON-CSA - HORIZON Coordination and Support Actions

Ver todos los proyectos financiados en el marco de este régimen de financiación

Convocatoria de propuestas

(se abrirá en una nueva ventana) HORIZON-EIE-2022-SCALEUP-02

Ver todos los proyectos financiados en el marco de esta convocatoria

Coordinador

AIBA AS
Aportación neta de la UEn
€ 75 000,00
Dirección
TEKNOLOGIVEGEN 22
2815 Gjovik
Noruega
Pyme
Sí
Región
Norge Innlandet Innlandet
Tipo de actividad
Private for-profit entities (excluding Higher or Secondary Education Establishments)
Enlaces
Coste total
Sin datos