Projektbeschreibung
Untersuchung der ethischen Nutzung von KI
Immer mehr Systeme werden heute mithilfe künstlicher Intelligenz betrieben. Aus diesem Grund ist es wichtig, sicherzustellen, dass die KI-Algorithmen korrekt funktionieren. In diesem Zusammenhang beschäftigt sich das EU-finanzierte Projekt AutoFair mit der Frage der Gerechtigkeit. Konkret geht es um die Entwicklung von erklärbaren und transparenten KI-Algorithmen. Das Ziel von AutoFair ist es, die Algorithmen selbst zu verbessern und gleichzeitig die Nutzungsgruppen zu schulen. Es stützt sich auf Kenntnisse aus den Computer- und Datenwissenschaften, der Steuerungstheorie, der Optimierung und anderen wissenschaftlichen Disziplinen, einschließlich der Ethik und des Rechts. In drei Fallstudien werden die Ergebnisse zur Automatisierung einer gerechten Bewertung bei der Personalbeschaffung, zur Beseitigung der Ungleichbehandlung von Frauen und Männern in der Werbung und zur Beseitigung der Diskriminierung von Bankkundschaft getestet.
Ziel
In this proposal, we address the matter of transparency and explainability of AI using approaches inspired by control theory. Notably, we consider a comprehensive and flexible certification of properties of AI pipelines, certain closed-loops and more complicated interconnections. At one extreme, one could consider risk averse a priori guarantees via hard constraints on certain bias measures in the training process. At the other extreme, one could consider nuanced communication of the exact tradeoffs involved in AI pipeline choices and their effect on industrial and bias outcomes, post hoc. Both extremes offer little in terms of optimizing the pipeline and inflexibility in explaining the pipelines fairness-related qualities. Seeking the middle-ground, we suggest a priori certification of fairness-related qualities in AI pipelines via modular compositions of pre-processing, training, inference, and post-processing steps with certain properties. Furthermore, we present an extensive programme in explainability of fairness-related qualities. We seek to inform both the developer and the user thoroughly in regards to the possible algorithmic choices and their expected effects. Overall, this will effectively support the development of AI pipelines with guaranteed levels of performance, explained clearly. Three use cases (in Human Resources automation, Financial Technology, and Advertising) will be used to assess the effectiveness of our approaches.
Wissenschaftliches Gebiet (EuroSciVoc)
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: https://op.europa.eu/en/web/eu-vocabularies/euroscivoc.
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: https://op.europa.eu/en/web/eu-vocabularies/euroscivoc.
Sie müssen sich anmelden oder registrieren, um diese Funktion zu nutzen
Schlüsselbegriffe
Programm/Programme
Aufforderung zur Vorschlagseinreichung
(öffnet in neuem Fenster) HORIZON-CL4-2021-HUMAN-01
Andere Projekte für diesen Aufruf anzeigenFinanzierungsplan
HORIZON-RIA - HORIZON Research and Innovation ActionsKoordinator
160 00 Praha
Tschechien