Descripción del proyecto
Primera plataforma de gestión de riesgos para pruebas de IA generativa
El valor actual del mercado mundial de la IA asciende a 187 100 millones de euros en el Mercado Total Disponible (TAM, por sus siglas en inglés), con una tasa de crecimiento anual compuesto del 37,3 % prevista hasta 2029. La IA generativa forma parte de este mercado como un submercado diferenciado. Los líderes del sector reclaman medidas para reducir la complejidad asociada a la formación y validación de los modelos. En este contexto, el equipo del proyecto QuantPi, financiado por el EIC, ha desarrollado una solución «todo en uno» independiente del modelo para la gestión del riesgo de la IA generativa. Esta plataforma permitirá a las empresas dedicadas al desarrollo o la explotación de sistemas de IA generativa evaluar y mitigar de forma automática los riesgos significativos en varias dimensiones, como el rendimiento y la equidad.
Objetivo
We target the global AI market, which has current value of €187.1B (TAM) and a CAGR of 37.3% until 2029. In this TAM, the generative AI market with €12.5B and 27% CAGR constitutes a sub-market addressed by us. AI risk management and governance sector (SAM) has a current market value of €220M and a CAGR of 42.1% until 2029. Industry leaders, e.g. Musk and Wozniak, request a stepping back from training models with an ever-increasing complexity. QuantPi’s platform is the first all-in-one, model-agnostic, plug & play solution for risk management of generative AI. For the first time, we enable companies developing or operating generative AI systems to automatically assess and mitigate major risks across dimensions such as performance, fairness, robustness, explainability, and more. Our solution assesses conformance with +100 standards and regulations, including the EU AI Act, ISO/IEC 23894, and NIST AI RMF and assists companies in their pursuit of responsible and trustworthy AI systems.
Ámbito científico
Palabras clave
Programa(s)
- HORIZON.3.1 - The European Innovation Council (EIC) Main Programme
Convocatoria de propuestas
HORIZON-EIC-2023-ACCELERATOR-01
Consulte otros proyectos de esta convocatoriaRégimen de financiación
HORIZON-EIC-ACC-BF - HORIZON EIC Accelerator Blended FinanceCoordinador
66121 SAARBRUCKEN
Alemania
Organización definida por ella misma como pequeña y mediana empresa (pyme) en el momento de la firma del acuerdo de subvención.