Skip to main content
Weiter zur Homepage der Europäischen Kommission (öffnet in neuem Fenster)
Deutsch Deutsch
CORDIS - Forschungsergebnisse der EU
CORDIS

Developing Bias Auditing and Mitigation Tools for Self-Assessment of AI Conformity with the EU AI Act through Statistical Matching

Projektbeschreibung

Innovatives Instrumentarium zur Kontrolle von Verzerrungen in der KI-Technologie

Neue Trends haben den Einsatz von Modelltechnologien der künstlichen Intelligenz (KI) in verschiedenen Branchen wie dem Finanz-, Bildungs- und Gesundheitswesen erheblich gefördert. Diese Ausweitung hat allerdings Bedenken hinsichtlich der Verzerrungen dieser Algorithmen und ihrer Einhaltung des EU-KI-Gesetzes aufgeworfen. In diesem Zusammenhang wird im Rahmen des ERC-finanzierten Projekts Act.AI angestrebt, diese Herausforderung zu bewältigen, indem es eine Lösung entwickelt, die statistischen Abgleich nutzt, um Verzerrungen in KI-Modellen abzuschwächen und zu überprüfen. Es wird immer schwieriger, diese Verzerrungen zu erkennen. Ziel des Projekts ist es daher, ein leicht integrierbares Instrument für KI-Arbeitsabläufe zu schaffen, das kontinuierliche Überwachungs- und Abhilfemöglichkeiten bietet.

Ziel

The vision behind Act.AI is to utilize statistical matching for mitigating and auditing bias in Artificial Intelligence (AI) models. AI has been rapidly growing in various industries, from financial services to healthcare, education, and job recruitment. However, as AI algorithms have become increasingly sophisticated and pervasive in decision-making processes, concerns have arisen about their fairness and compliance with regulations. In particular, the EU AI Act requires that AI providers in high-risk applications -- such as employment, credit, or healthcare -- to identify (and thereby address) discrimination by their algorithms against certain demographics of people. However, ensuring compliance with the Act can be challenging, particularly for AI startups that may not have the resources or expertise to fully understand and implement the Act's requirements. Addressing existing disconnects between AI fairness toolkits' capabilities and current practitioner needs, the Act.AI tool can be easily integrated into any AI workflow, in a plug and play fashion, to continuously monitor and improve its fairness. A key aspect of Act.AI is the ability to operate with different types of data (tabular, images, and text) in a variety of contexts (binary and multiclass classification and regression). It is also able to match datasets in different domains including out-of-distribution data even if these datasets have different numbers of variables or features. To ensure usability of Act.AI it will integrate feedback from relevant stakeholders from two immediate target markets: financial service and healthcare.

Wissenschaftliches Gebiet (EuroSciVoc)

CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: Das European Science Vocabulary.
Das Projektteam hat die Klassifizierung dieses Projekts bestätigt.

Programm/Programme

Mehrjährige Finanzierungsprogramme, in denen die Prioritäten der EU für Forschung und Innovation festgelegt sind.

Thema/Themen

Aufforderungen zur Einreichung von Vorschlägen sind nach Themen gegliedert. Ein Thema definiert einen bestimmten Bereich oder ein Gebiet, zu dem Vorschläge eingereicht werden können. Die Beschreibung eines Themas umfasst seinen spezifischen Umfang und die erwarteten Auswirkungen des finanzierten Projekts.

Finanzierungsplan

Finanzierungsregelung (oder „Art der Maßnahme“) innerhalb eines Programms mit gemeinsamen Merkmalen. Sieht folgendes vor: den Umfang der finanzierten Maßnahmen, den Erstattungssatz, spezifische Bewertungskriterien für die Finanzierung und die Verwendung vereinfachter Kostenformen wie Pauschalbeträge.

HORIZON-ERC-POC - HORIZON ERC Proof of Concept Grants

Alle im Rahmen dieses Finanzierungsinstruments finanzierten Projekte anzeigen

Aufforderung zur Vorschlagseinreichung

Verfahren zur Aufforderung zur Einreichung von Projektvorschlägen mit dem Ziel, eine EU-Finanzierung zu erhalten.

(öffnet in neuem Fenster) ERC-2023-POC

Alle im Rahmen dieser Aufforderung zur Einreichung von Vorschlägen finanzierten Projekte anzeigen

Gastgebende Einrichtung

BCAM - BASQUE CENTER FOR APPLIED MATHEMATICS
Netto-EU-Beitrag

Finanzieller Nettobeitrag der EU. Der Geldbetrag, den der Beteiligte erhält, abzüglich des EU-Beitrags an mit ihm verbundene Dritte. Berücksichtigt die Aufteilung des EU-Finanzbeitrags zwischen den direkten Begünstigten des Projekts und anderen Arten von Beteiligten, wie z. B. Dritten.

€ 150 000,00
Adresse
AL MAZARREDO 14
48009 Bilbao
Spanien

Auf der Karte ansehen

Region
Noreste País Vasco Bizkaia
Aktivitätstyp
Research Organisations
Links
Gesamtkosten

Die Gesamtkosten, die dieser Organisation durch die Beteiligung am Projekt entstanden sind, einschließlich der direkten und indirekten Kosten. Dieser Betrag ist Teil des Gesamtbudgets des Projekts.

Keine Daten

Begünstigte (1)

Mein Booklet 0 0