Description du projet
Poser les bases logiques de l’équité, de la protection de la vie privée et de l’explicabilité
L’un des défis fondamentaux de la conception des systèmes d’IA consiste à s’assurer que les décisions prises par le système reflètent des valeurs sociales telles que l’équité. L’explication du processus décisionnel de la machine et la protection des données personnelles sont également des préoccupations majeures. Le projet HYPER, financé par l’UE, se propose de développer un langage de spécification capable de formaliser mathématiquement des concepts complexes tels que l’équité, l’explicabilité ou la protection de la vie privée. Les formalisations sont basées sur des hyperpropriétés, une classe de propriétés de systèmes beaucoup plus expressives que les propriétés traditionnellement utilisées pour caractériser l’exactitude et la fiabilité des programmes informatiques. De nouveaux algorithmes de raisonnement logique, de vérification et de synthèse de programmes seront développés.
Objectif
The central role of information technology in all aspects of our private and professional lives has led to a fundamental change in the type of program properties we care about. Up to now, the focus has been on functional correctness; in the future, requirements that reflect our societal values, like privacy, fairness, The central role of information technology in all aspects of our private and professional lives has led to a fundamental change in the type of program properties we care about. Up to now, the focus has been on functional correctness; in the future, requirements that reflect our societal values, like privacy, fairness, and explainability will be far more important. These properties belong to the class of hyperproperties, which represent sets of sets of execution traces and can therefore specify the relationship between different computations of a reactive system. Previous work has focussed on individual hyperproperties like noninterference or restricted classes such as k-hypersafety; this project sets out to develop a unified theory for general hyperproperties. We will develop a formal specification language and effective algorithms for logical reasoning, verification, and program synthesis. The central idea is to use the type and alternation structure of the logical quantifiers, ranging from classic first-order and second-order quantification to quantifiers over rich data domains and quantitative operators for statistical analysis, as the fundamental structure that partitions the broad concept of hyperproperties into specific property classes; each particular class is then supported by algorithms that provide a uniform solution for all the properties within the class. The project will bring the analysis of hyperproperties to the level of traditional notions of safety and reliability, and provide a rigorous foundation for the debate about standards for privacy, fairness, and explainability that future software-based systems will be measured against.
Mots‑clés
Programme(s)
- HORIZON.1.1 - European Research Council (ERC) Main Programme
Thème(s)
Appel à propositions
(s’ouvre dans une nouvelle fenêtre) ERC-2021-ADG
Voir d’autres projets de cet appelRégime de financement
HORIZON-ERC - HORIZON ERC GrantsInstitution d’accueil
66123 Saarbrucken
Allemagne