Skip to main content
Aller à la page d’accueil de la Commission européenne (s’ouvre dans une nouvelle fenêtre)
français fr
CORDIS - Résultats de la recherche de l’UE
CORDIS

Semantically correct automatic differentiation

Description du projet

Démontrer que les techniques de différentiation automatique représentent fidèlement la différentiation «standard»

La détermination des dérivées, c’est-à-dire du taux de variation d’une variable par rapport à une autre, est pertinente pour une multitude de processus et de scénarios physiques. Tirer parti de ces descriptions mathématiques et les mettre en œuvre dans des algorithmes informatiques est à la base de nombreuses avancées récentes dans le domaine de l’apprentissage automatique et de l’utilisation d’ordinateurs pour effectuer des analyses statistiques complexes. Des techniques de différenciation automatique ont été développées à ces fins, mais le calcul traditionnel et la géométrie différentielle ne permettent pas de démontrer leur exactitude. Le projet SemanDiff, financé par l’UE, développera des transformations mathématiques qui devraient déboucher sur des preuves précises de l’exactitude des algorithmes de différenciation automatique, afin que nous puissions tous les utiliser, en toute confiance.

Objectif

Many recent advances in machine learning and computational statistics rely on algorithms that calculate derivatives. This use of derivatives has motivated the creation of domain specific modelling languages in which each program can be differentiated automatically, by the compiler. This technique is known as automatic differentiation (AD). AD is typically implemented through source-code-transformations, either directly or indirectly via operator overloading. These transformations become intricate in languages with expressive language features like algebraic data types and higher-order functions. Meanwhile, traditional calculus and differential geometry do not suffice to prove their correctness or even give them meaning, as ordinary differential geometry cannot support higher-order functions. Indeed, such formal correctness proofs have never been published.

This project will use the mathematical foundations of diffeological spaces, a conservative extension of traditional differential geometry to higher-order types, to give precisely such correctness proofs. In particular, it will give appropriate source-code transformations for both the forward mode and reverse mode techniques of AD on a language with specified semantics in diffeological spaces. Next, it will prove that these source-code transformations correctly implement the canonical semantic notion of differentiation, as given by the diffeological spaces semantics. It will perform this analysis for a higher-order language with tuples and variant types. These formal descriptions and correctness proofs of AD for expressive languages will be accompanied by closely matching implementations, built on top of the Accelerate framework for purely functional GPU programming.

Champ scientifique (EuroSciVoc)

Mots‑clés

Programme(s)

Thème(s)

Régime de financement

MSCA-IF - Marie Skłodowska-Curie Individual Fellowships (IF)

Voir tous les projets financés dans le cadre de ce programme de financement

Appel à propositions

(s’ouvre dans une nouvelle fenêtre) H2020-MSCA-IF-2019

Voir tous les projets financés au titre de cet appel

Coordinateur

UNIVERSITEIT UTRECHT
Contribution nette de l'UE
€ 187 572,48
Coût total
€ 187 572,48