new eXplainable models that allow the user to Interact with them to benefit Digital Heritage Image Restoration

Opis projektu

Innowacyjne modele wspierają odtwarzanie starych zdjęć i filmów

Dziedzictwo cyfrowe obejmuje między innymi istotne dla kultury materiały komputerowe, w tym zdjęcia i filmy, które wymagają zachowania dla przyszłych pokoleń. Techniki cyfrowego odtwarzania zdjęć, obejmujące koloryzację i usuwanie artefaktów, mogą znacznie poprawić jakość tych materiałów. Zespół finansowanego ze środków działania „Maria Skłodowska-Curie” projektu XIDHIR koncentruje się na dwóch wyzwaniach związanych z odtwarzaniem dziedzictwa cyfrowego - koloryzacją i poprawą jakości starych fotografii i filmów. Wykorzystując algorytmy uczenia głębokiego, badacze chcą zwiększyć objaśnialność algorytmów oraz spopularyzować rozwiązania wśród użytkowników. Projekt XIDHIR dąży do opracowania interaktywnych modeli, które usprawnią odtwarzanie obrazów wchodzących w skład dziedzictwa cyfrowego i zapewnią doskonałe rezultaty dzięki aktywnemu zaangażowaniu użytkowników w proces odtwarzania.

Cel

Digital heritage are computer-based materials of enduring value that should be kept for future generations, for example photographs and videos. As an asset of our times, historical photographs and videos can greatly benefit from digital restoration techniques, from colorization or color enhancement to the removal of scratches or other artefacts. In this project, we focus on two cases for digital heritage restoration: colorization and color image enhancement of old photographs and videos. Historically, image enhancement methods were rooted in tailor-made priors using well-understood physics and/or statistical models. Now, deep learning approaches leverage large amounts of data to train generative models that can hallucinate on the generated images. However, the useful versatility of deep learning approaches faces two main problems:
(a) Deep models are black boxes whose inner behaviors are difficult to interpret, which is an important drawback when assessing their reliability, studying failure cases, and improving their robustness. This hinders their direct adoption in the digital heritage restoration process. Thus, explainability is a highly desirable characteristic for image enhancement models.
(b) Image enhancement problems are ill-conditioned, especially for digital heritage photos (e.g. there are many plausible colorizations of a grayscale image). Yet, users rarely have a say in the process of enhancement with deep models, which is typically decided by the model based on statistical decisions. Thus, physically plausible or realistic solutions should be favored, as well as allowing the end user to explore and guide the algorithm towards the intended solution.
In this project, we propose to confront the ill-posed nature of image enhancement problems by a comprehensive involvement of the user in the loop, shifting the important decision-making from the model to the user. This will lead to results that are user oriented and achieve higher quality.