Budowanie zaufania do SI służącej do zarządzania ruchem lotniczym
Sztuczna inteligencja (SI) coraz bardziej ułatwia złożone zadania i całkowicie automatyzuje żmudną pracę. W zarządzaniu ruchem lotniczym (air traffic management, ATM) brak przejrzystości co do technik SI takich jak sieci neuronowe czy uczenie głębokie ma poważne konsekwencje w postaci problemów z zaufaniem i wdrożeniem. Zespół projektu ARTIMATION (Transparent Artificial Intelligence and Automation to Air Traffic Management Systems), finansowanego ze środków Wspólnego Przedsięwzięcia SESAR mającego na celu modernizację europejskiego systemu ATM, opracował algorytmy „wyjaśnialnej sztucznej inteligencji” (XAI), które objaśniają funkcjonowanie coraz większej gamy rozwiązań SI w systemach ATM. „Oprócz zapewnienia niezawodności i funkcjonalności SI w zadaniach związanych z ATM naszym zadaniem było zadbanie o to, by sztuczna inteligencja była bardziej wyjaśnialna, a tym samym akceptowalna”, stwierdza Shahina Begum, zastępczyni kierownika grupy SI i Inteligentne Systemy na Uniwersytecie Mälardalen. Zespół projektu ARTIMATION opracował algorytmy wykorzystujące techniki XAI, aby wspierać dwa powszechne zadania operacyjne: rozwiązywanie konfliktów w ruchu lotniczym (na przykład przekierowywanie samolotów, by uniknąć kolizji) oraz propagacja opóźnień, czyli zrozumienie przyczyn opóźnień lotów. „Z powodzeniem opracowaliśmy przejrzyste modele SI potwierdzające trafność naszego założenia, a przy tym wystarczająco ogólne, by można je było zastosować do szeregu różnych zadań, a także z czasem dostosować. Dzięki temu zapewniają one bezpieczne i niezawodne wsparcie procesu decyzyjnego”, zauważa koordynator projektu, Mobyen Uddin Ahmed, również z Uniwersytetu Mälardalen będącego gospodarzem projektu.
Od potwierdzenia słuszności koncepcji po testy in situ
Po przeglądzie literatury dotyczącej opcji SI dla ATM zespół projektu ARTIMATION wybrał dostępne na rynku algorytmy o otwartym dostępie, takie jak Las losowy jako preferowane rozwiązania, które zostały następnie dostosowane do potrzeb danej sytuacji we współpracy z ekspertami ds. ATM w ramach trzech internetowych warsztatów. Zmodyfikowane algorytmy przetestowano w laboratorium. Zajęli się tym przedstawiciele Uniwersytetu Mälardalen oraz partnera projektu, Francuskiej Narodowej Szkoły Lotnictwa Cywilnego (ENAC). W rezultacie opracowano prototyp XAI, który przyczynił się do zwiększenia poziomu zrozumienia przez użytkownika etapów prowadzących do podejmowania krytycznych decyzji, a także logiki leżącej u podstaw tego procesu. Użytkownicy otrzymują wyjaśnienia SI poprzez zestawy słuchawkowe zintegrowane z narzędziami do wizualizacji 3D, takimi jak opowieści oparte na danych oraz analityka immersyjna. Wyjaśnienia dotyczą trzech poziomów automatyzacji opracowanych przez zespół. Na poziomie pierwszym to użytkownicy mają największą kontrolę, zaś na poziomie trzecim – SI. Obecnie w placówce ENAC we Francji trwają testy przeprowadzane przez użytkowników, którzy badają symulowane scenariusze rozstrzygania konfliktów w ruchu lotniczym oraz propagacji opóźnień. W działaniach udział biorą również partnerzy z Włoch, firma Deep Blue oraz Uniwersytet Sapienza. „Nasz prototyp był w stanie dokładnie przewidzieć opóźnienia w 90 % przypadków”, dodaje Ahmed.
Przyszłe możliwości na horyzoncie
Zaplanowano testy prototypu na symulatorach ATM ENAC we Francji. Ocena jakościowa polegać będzie na szczegółowym zbadaniu kwestii związanych z dopuszczalnością, bezpieczeństwem, rolami i przydzielaniem zadań. „Dokładniej przeanalizujemy to, jak sposób różne poziomy przejrzystości i techniki wizualizacji wpływają na zaufanie, a także funkcjonowanie ludzi i systemu”, wyjaśnia Ahmed. „Zbadamy, w jaki sposób użytkownicy reagowali na SI pod względem fizjologicznym i psychologicznym. Wykorzystamy w tym celu różne pomiary neurofizjologiczne”. Naukowcy zbadają szczególnie obciążenie pracą, stres oraz akceptowanie różnych poziomów XAI przez operatorów. Begum przewiduje nawet, że w przyszłości systemy SI będą mogły się łączyć z ludzkim mózgiem w środowisku imersyjnym, takim jak rzeczywistość wirtualna, skutecznie odczytując intencję użytkownika i tym samym przyśpieszając działania kontrolne operatora. Jako że rozwiązanie ARTIMATION jest zgodne z zasadami zakładającymi możliwość dostosowania projektu, można by je wykorzystać do realizacji również innych zadań ATM, takich jak wykrywanie obiektów. Begum wyjaśnia: „Zautomatyzowane monitorowanie, kontrola i wspieranie decyzji mogą nawet pewnego dnia zaowocować »wirtualną lub zdalną wieżą kontroli«, eliminując konieczność korzystania z fizycznych zasobów, jak to ma miejsce obecnie”. Zespół obecnie pracuje także nad wytycznymi SI dla propagacji opóźnień i rozwiązywania konfliktów, przeznaczonymi dla kontrolerów ruchu lotniczego i społeczności SI.
Słowa kluczowe
ARTIMATION, wyjaśnialna sztuczna inteligencja, zarządzanie ruchem lotniczym, ATM, kontrola ruchu lotniczego, bezpieczeństwo, uczenie maszynowe, sieci neuronowe, kolizja, opóźnienia, algorytmy, wizualizacja, rzeczywistość wirtualna
