Skip to main content
Ir a la página de inicio de la Comisión Europea (se abrirá en una nueva ventana)
español es
CORDIS - Resultados de investigaciones de la UE
CORDIS

First automated risk management platform to enable safety, fairness, explainability, and continuous monitoring of generative AI systems

Descripción del proyecto

Primera plataforma de gestión de riesgos para pruebas de IA generativa

El valor actual del mercado mundial de la IA asciende a 187 100 millones de euros en el Mercado Total Disponible (TAM, por sus siglas en inglés), con una tasa de crecimiento anual compuesto del 37,3 % prevista hasta 2029. La IA generativa forma parte de este mercado como un submercado diferenciado. Los líderes del sector reclaman medidas para reducir la complejidad asociada a la formación y validación de los modelos. En este contexto, el equipo del proyecto QuantPi, financiado por el EIC, ha desarrollado una solución «todo en uno» independiente del modelo para la gestión del riesgo de la IA generativa. Esta plataforma permitirá a las empresas dedicadas al desarrollo o la explotación de sistemas de IA generativa evaluar y mitigar de forma automática los riesgos significativos en varias dimensiones, como el rendimiento y la equidad.

Objetivo

We target the global AI market, which has current value of 187.1B (TAM) and a CAGR of 37.3% until 2029. In this TAM, the generative AI market with 12.5B and 27% CAGR constitutes a sub-market addressed by us. AI risk management and governance sector (SAM) has a current market value of 220M and a CAGR of 42.1% until 2029. Industry leaders, e.g. Musk and Wozniak, request a stepping back from training models with an ever-increasing complexity. QuantPis platform is the first all-in-one, model-agnostic, plug & play solution for risk management of generative AI. For the first time, we enable companies developing or operating generative AI systems to automatically assess and mitigate major risks across dimensions such as performance, fairness, robustness, explainability, and more. Our solution assesses conformance with +100 standards and regulations, including the EU AI Act, ISO/IEC 23894, and NIST AI RMF and assists companies in their pursuit of responsible and trustworthy AI systems.

Ámbito científico (EuroSciVoc)

Palabras clave

Programa(s)

Tema(s)

Régimen de financiación

HORIZON-EIC-ACC-BF - HORIZON EIC Accelerator Blended Finance

Ver todos los proyectos financiados en el marco de este régimen de financiación

Convocatoria de propuestas

(se abrirá en una nueva ventana) HORIZON-EIC-2023-ACCELERATOR-01

Ver todos los proyectos financiados en el marco de esta convocatoria

Coordinador

QUANTPI GMBH
Aportación neta de la UEn
€ 2 498 475,00
Dirección
HALBERGSTRASSE 4
66121 SAARBRUCKEN
Alemania
Pyme
Sí
Región
Saarland Saarland Regionalverband Saarbrücken
Tipo de actividad
Private for-profit entities (excluding Higher or Secondary Education Establishments)
Enlaces
Coste total
€ 3 569 250,00