Skip to main content
Przejdź do strony domowej Komisji Europejskiej (odnośnik otworzy się w nowym oknie)
polski pl
CORDIS - Wyniki badań wspieranych przez UE
CORDIS

Semantically correct automatic differentiation

Opis projektu

Dowód na wierną reprezentację standardowego różniczkowania za pomocą technik różniczkowania automatycznego

Znalezienie pochodnej lub określenie tempa zmian jednej zmiennej względem innej jest narzędziem wykorzystywanym powszechnie w opisie procesów i scenariuszy fizycznych. Wykorzystanie tych opisów matematycznych i wdrożenie ich w algorytmach komputerowych stanowi podstawę wielu najnowszych osiągnięć w zakresie uczenia maszynowego i wykorzystania komputerów do wykonywania złożonych analiz statystycznych. W tym celu opracowano techniki różniczkowania automatycznego, ale tradycyjne narzędzia rachunku różniczkowego i geometrii różniczkowej nie dają możliwości przeprowadzenia dowodu na ich poprawność. W ramach finansowanego ze środków UE projektu SemanDiff zostaną opracowane transformacje matematyczne, które pozwolą uzyskać precyzyjne dowody poprawności algorytmów różniczkowania automatycznego, dzięki czemu uczeni będą mogli wreszcie spokojnie z nich korzystać.

Cel

Many recent advances in machine learning and computational statistics rely on algorithms that calculate derivatives. This use of derivatives has motivated the creation of domain specific modelling languages in which each program can be differentiated automatically, by the compiler. This technique is known as automatic differentiation (AD). AD is typically implemented through source-code-transformations, either directly or indirectly via operator overloading. These transformations become intricate in languages with expressive language features like algebraic data types and higher-order functions. Meanwhile, traditional calculus and differential geometry do not suffice to prove their correctness or even give them meaning, as ordinary differential geometry cannot support higher-order functions. Indeed, such formal correctness proofs have never been published.

This project will use the mathematical foundations of diffeological spaces, a conservative extension of traditional differential geometry to higher-order types, to give precisely such correctness proofs. In particular, it will give appropriate source-code transformations for both the forward mode and reverse mode techniques of AD on a language with specified semantics in diffeological spaces. Next, it will prove that these source-code transformations correctly implement the canonical semantic notion of differentiation, as given by the diffeological spaces semantics. It will perform this analysis for a higher-order language with tuples and variant types. These formal descriptions and correctness proofs of AD for expressive languages will be accompanied by closely matching implementations, built on top of the Accelerate framework for purely functional GPU programming.

Dziedzina nauki (EuroSciVoc)

Słowa kluczowe

Program(-y)

Temat(-y)

System finansowania

MSCA-IF - Marie Skłodowska-Curie Individual Fellowships (IF)

Wyświetl wszystkie projekty finansowane w ramach tego programu finansowania

Zaproszenie do składania wniosków

(odnośnik otworzy się w nowym oknie) H2020-MSCA-IF-2019

Wyświetl wszystkie projekty finansowane w ramach tego zaproszenia

Koordynator

UNIVERSITEIT UTRECHT
Wkład UE netto
€ 187 572,48
Koszt całkowity
€ 187 572,48