Transfer głęboki wspomaga postępy w uczeniu maszynowym
W dobie intensywnego postępu technologicznego uczenie maszynowe stanowi niezwykle obiecujący obszar badań o rozległych zastosowaniach, od trafniejszego prognozowania pogody po przewidywanie rozwoju nowotworów. W ramach finansowanego ze środków UE projektu DEEP TRANSFER (Deep transfer: generalizing across domains) zajęto się ulepszaniem technik uczenia maszynowego poprzez opracowanie nowych algorytmów samodzielnie uczących się modeli na podstawie wprowadzonych danych. Fundamentalną trudnością w uczeniu maszynowym jest uzyskanie dostatecznie dużego zbioru danych szkoleniowych, aby umożliwić nauczenie się dokładnego modelu. Partnerzy projektu zajęli się przezwyciężeniem tego wyzwania poprzez stworzenie algorytmu, który w procesie uczenia się będzie uwzględniać zarówno dane z zadania źródłowego, jak i dane z zagadnienia docelowego. Skoncentrowano się na kwestii transferu głębokiego, czyli zdolności transferu wiedzy między bardzo różnymi dziedzinami. Realizując wyznaczony cel, zespół opracował nowatorskie środowisko wykorzystujące najnowsze techniki transferu głębokiego. Środowisko bazuje na generatywnym modelu świata, a transfer jest dokonywany poprzez promowanie ponownego używania w różnych dziedzinach ważnych, automatycznie wykrytych regularności wysokiego poziomu, takich jak przechodniość, symetria i homofilia. Metodę przetestowano na trzech zestawach rzeczywistych danych: zestawie danych dotyczących interakcji między białkami drożdży, zawartości domeny internetowej opisującej wydziały informatyki i kolekcji danych z serwisu Twitter. Opracowane przez badaczy podejście przyniosło znaczną poprawę dokładności i czasu wykonywania w porównaniu zarówno z innymi metodami uczenia się opartego na transferze, jak i z uczeniem się od zera. Prace pozwoliły też rozwijać wiedzę w innych dziedzinach uczenia maszynowego, w tym w ocenie empirycznej wyuczonych modeli, probabilistycznym uczeniu modeli i statystycznym uczeniu relacyjnym. Poza rozwinięciem najnowszych podejść technicznych dziedzinie partnerzy projektu opublikowali również kod źródłowy i dane dla kilku systemów, wspomagając tym samym dalsze badania. Algorytmy stworzone w ramach projektu okazały się szczególnie skuteczne w analizach interakcji między chorobami. Rosnąca popularność technik uczenia maszynowego będzie niewątpliwie przyczyni się do kolejnych odkryć naukowych i identyfikowania dalszych zastosowań.
Słowa kluczowe
Transfer głęboki, uczenie maszynowe, uczenie modelu probabilistycznego, statystyczne uczenie relacyjne, interakcje chorób
