Skip to main content
Weiter zur Homepage der Europäischen Kommission (öffnet in neuem Fenster)
Deutsch de
CORDIS - Forschungsergebnisse der EU
CORDIS

First automated risk management platform to enable safety, fairness, explainability, and continuous monitoring of generative AI systems

Projektbeschreibung

Erste Risikomanagementplattform für Tests mit generativer künstlicher Intelligenz

Der derzeitige Wert des globalen KI-Marktes beläuft sich auf 187,1 Mrd. EUR für den Gesamtzielmarkt (Total Addressable Market), wobei bis 2029 eine durchschnittliche jährliche Wachstumsrate von 37,3 % prognostiziert wird. Generative künstliche Intelligenz (KI) gehört diesem Markt als eigener Teilmarkt an. Branchenführende Kräfte fordern Maßnahmen zur Verringerung der Komplexität, die mit der Ausbildung und Validierung von Modellen verbunden ist. In diesem Zusammenhang hat das Team des EIC-finanzierten Projekts QuantPi eine modellunabhängige Plug-and-Play-Komplettlösung für das Risikomanagement bei generativer KI entwickelt. Diese Plattform wird Unternehmen, die generative KI-Systeme entwickeln oder betreiben, in die Lage versetzen, erhebliche Risiken über verschiedene Dimensionen einschließlich Leistungsfaktoren und Fairness hinweg automatisch zu bewerten und zu mindern.

Ziel

We target the global AI market, which has current value of 187.1B (TAM) and a CAGR of 37.3% until 2029. In this TAM, the generative AI market with 12.5B and 27% CAGR constitutes a sub-market addressed by us. AI risk management and governance sector (SAM) has a current market value of 220M and a CAGR of 42.1% until 2029. Industry leaders, e.g. Musk and Wozniak, request a stepping back from training models with an ever-increasing complexity. QuantPis platform is the first all-in-one, model-agnostic, plug & play solution for risk management of generative AI. For the first time, we enable companies developing or operating generative AI systems to automatically assess and mitigate major risks across dimensions such as performance, fairness, robustness, explainability, and more. Our solution assesses conformance with +100 standards and regulations, including the EU AI Act, ISO/IEC 23894, and NIST AI RMF and assists companies in their pursuit of responsible and trustworthy AI systems.

Wissenschaftliches Gebiet (EuroSciVoc)

Schlüsselbegriffe

Programm/Programme

Thema/Themen

Finanzierungsplan

HORIZON-EIC-ACC-BF - HORIZON EIC Accelerator Blended Finance

Alle im Rahmen dieses Finanzierungsinstruments finanzierten Projekte anzeigen

Aufforderung zur Vorschlagseinreichung

(öffnet in neuem Fenster) HORIZON-EIC-2023-ACCELERATOR-01

Alle im Rahmen dieser Aufforderung zur Einreichung von Vorschlägen finanzierten Projekte anzeigen

Koordinator

QUANTPI GMBH
Netto-EU-Beitrag
€ 2 498 475,00
Adresse
HALBERGSTRASSE 4
66121 SAARBRUCKEN
Deutschland
KMU
Ja
Region
Saarland Saarland Regionalverband Saarbrücken
Aktivitätstyp
Private for-profit entities (excluding Higher or Secondary Education Establishments)
Links
Gesamtkosten
€ 3 569 250,00