Herramientas de inteligencia artificial transparentes y éticas que dan sentido a datos masivos y heterogéneos
La delincuencia ha cambiado radicalmente en la actualidad: es digital, no conoce fronteras y deja tras de sí enormes rastros de información. Las investigaciones actuales ya no se basan únicamente en las pruebas materiales. En cambio, la policía debe examinar sistemáticamente montañas de datos heterogéneos, entre los que se incluyen contenidos de la «dark web» (red oscura), registros cibernéticos, imágenes de circuitos cerrados de televisión y datos de localización. Para seguir siendo eficaces frente a estas amenazas, las fuerzas de seguridad necesitan cada vez más la IA para procesar datos a una escala y velocidad que los seres humanos no pueden gestionar por sí solos. El proyecto STARLIGHT(se abrirá en una nueva ventana), financiado con fondos europeos, se puso en marcha con el fin de reforzar la autonomía estratégica europea en materia de IA utilizada a la aplicación de la ley, mejorando así las investigaciones penales y la ciberseguridad en todo el continente.
¿Por qué resulta difícil analizar las pruebas digitales?
«Sin embargo, trasladar la IA de las condiciones de laboratorio al trabajo policial en la vida real supone un reto», señala Cédric Gouy-Pailler, miembro del comité de gestión técnica. «Las herramientas de IA que dan buenos resultados en el laboratorio a menudo no se adaptan a los flujos de trabajo reales de las investigaciones ni a las normas estrictas que rigen las pruebas judiciales. Además, las fuerzas de seguridad deben lidiar con un laberinto de normas legales relativas a la protección de datos personales, la elaboración de perfiles criminales y la admisibilidad de las pruebas digitales ante los tribunales». También existe la grave amenaza de la discriminación algorítmica, ya que los sesgos pueden colarse fácilmente en los sistemas de IA durante la recopilación de datos, el entrenamiento de modelos o el diseño de «software». Es fundamental que los sistemas de IA que gestionan datos de las fuerzas de seguridad estén protegidos contra la manipulación de los piratas informáticos y los ciberataques.
Ética de la IA y gestión de datos
Para superar estas barreras, en STARLIGHT se organizaron ciclos iterativos de desarrollo conjunto, talleres y eventos «ToolFest» dedicados a la tecnología. Estas actividades reunieron a las fuerzas de seguridad, investigadores, socios del sector y expertos en cuestiones jurídicas y éticas con el fin de desarrollar herramientas prácticas. No se dejó que los equipos técnicos adivinaran por sí mismos cómo cumplir la ley. En cambio, en STARLIGHT se simplificó el marco jurídico al imponer el marco de Principios de responsabilidad para la inteligencia artificial(se abrirá en una nueva ventana) a todo el desarrollo tecnológico. Esto garantizó que las herramientas cumplieran con la Ley de IA de la Unión Europea (UE) y demostró que eran fiables para su uso en los ámbitos policial, de seguridad y judicial. Siguiendo un método de «ética desde el diseño», el consorcio abordó el sesgo mediante medidas técnicas y controles humanos. Esto incluyó el uso de conjuntos de datos representativos, la revisión de las métricas de código y la formación del personal para que comprendiera los límites de la IA.
Herramientas de IA operativas para las investigaciones policiales
En STARLIGHT se han desarrollado y mejorado más de setenta herramientas de IA adaptadas a las necesidades de las fuerzas de seguridad locales. «En lugar de desarrollar un único sistema de “software”, en STARLIGHT se ha creado una amplia gama de tecnologías que protegen las pruebas digitales mediante una cadena de custodia verificable», señala Nizar Touleimat, coordinador del proyecto STARLIGHT. «Este ecosistema incluye herramientas que detectan fuentes en línea, recopilan información sobre amenazas y protegen los espacios públicos, lo que permite a los investigadores relacionar pistas ocultas en cantidades de texto, imágenes y vídeos enormes». Entre ellas, el «Dark Web Monitor» recopila y clasifica automáticamente los contenidos ilícitos, filtrando los datos para que los analistas puedan centrarse en las amenazas más graves, al tiempo que permite a los expertos mantener el control cuando la IA no tiene la certeza. Para los equipos de informática forense que analizan discos duros que contienen rastros de actividad digital, el «Cyber Pattern Investigator» examina los registros mediante el reconocimiento de patrones y la agrupación basada en IA para detectar actividades ocultas y generar informes visuales explicables. Otras soluciones tácticas incluyen herramientas para escanear archivos visuales, depurar grabaciones de audio críticas y analizar datos complejos de geolocalización con el fin de mapear y predecir movimientos sospechosos. «STARLIGHT ha cambiado la forma en que la policía europea diseña y utiliza la IA». En lugar de limitarse a crear herramientas y conjuntos de datos, ha desarrollado un modelo seguro, legal y centrado en las personas para el uso de la inteligencia artificial en las fuerzas de seguridad. «Su verdadero legado es la colaboración entre la policía y organismos como Europol para garantizar que estas herramientas se utilicen con éxito en toda Europa durante muchos años», concluye Gouy-Pailler.
