Projektbeschreibung
Logische Grundlagen für Fairness, Datenschutz und Erklärbarkeit schaffen
Eine grundlegende Herausforderung bei der Entwicklung von KI-Systemen besteht darin, sicherzustellen, dass die vom System getroffenen Entscheidungen soziale Werte wie Fairness widerspiegeln. Zu den wichtigsten Anliegen gehören auch die Erläuterung des Entscheidungsprozesses der Maschine und der Schutz personenbezogener Daten. Im Rahmen des EU-finanzierten Projekts HYPER wird angestrebt, eine Spezifikationssprache zu entwickeln, die komplexe Konzepte wie Fairness, Erklärbarkeit oder Datenschutz mathematisch formalisieren kann. Die Formalisierungen basieren auf Hypereigenschaften, einer Klasse von Systemeigenschaften, die viel aussagekräftiger sind als die Eigenschaften, die traditionell zur Beschreibung der Korrektheit und Zuverlässigkeit von Computerprogrammen verwendet werden. Es werden neue Algorithmen für logische Schlussfolgerungen, Verifikation und Programmsynthese erstellt.
Ziel
The central role of information technology in all aspects of our private and professional lives has led to a fundamental change in the type of program properties we care about. Up to now, the focus has been on functional correctness; in the future, requirements that reflect our societal values, like privacy, fairness, The central role of information technology in all aspects of our private and professional lives has led to a fundamental change in the type of program properties we care about. Up to now, the focus has been on functional correctness; in the future, requirements that reflect our societal values, like privacy, fairness, and explainability will be far more important. These properties belong to the class of hyperproperties, which represent sets of sets of execution traces and can therefore specify the relationship between different computations of a reactive system. Previous work has focussed on individual hyperproperties like noninterference or restricted classes such as k-hypersafety; this project sets out to develop a unified theory for general hyperproperties. We will develop a formal specification language and effective algorithms for logical reasoning, verification, and program synthesis. The central idea is to use the type and alternation structure of the logical quantifiers, ranging from classic first-order and second-order quantification to quantifiers over rich data domains and quantitative operators for statistical analysis, as the fundamental structure that partitions the broad concept of hyperproperties into specific property classes; each particular class is then supported by algorithms that provide a uniform solution for all the properties within the class. The project will bring the analysis of hyperproperties to the level of traditional notions of safety and reliability, and provide a rigorous foundation for the debate about standards for privacy, fairness, and explainability that future software-based systems will be measured against.
Schlüsselbegriffe
Programm/Programme
- HORIZON.1.1 - European Research Council (ERC) Main Programme
Thema/Themen
Aufforderung zur Vorschlagseinreichung
(öffnet in neuem Fenster) ERC-2021-ADG
Andere Projekte für diesen Aufruf anzeigenFinanzierungsplan
HORIZON-ERC - HORIZON ERC GrantsGastgebende Einrichtung
66123 Saarbrucken
Deutschland