Wyjaśnialna sztuczna inteligencja zwiększa zaufanie do oprogramowania zarządzającego ruchem lotniczym
Chociaż sztuczna inteligencja (SI) jest wykorzystywana w funkcjach pomocniczych zarządzania ruchem lotniczym (ATM), takich jak analiza powypadkowa czy prognozowanie zapotrzebowania, nie jest ona jeszcze w pełni zintegrowana z lotniczą działalnością operacyjną. SI nie pasuje do tradycyjnych procedur technicznych, w których preferowane są liniowe kroki i przewidywalne rezultaty. To sprawia, że organy krajowe mają szczególne trudności z walidacją i certyfikacją funkcji krytycznych dla bezpieczeństwa. José Manuel Cordero pracujący dla organizacji www.crida.es (CRIDA) (strona tylko w języku hiszpańskim) tłumaczy: „Chociaż SI może poprawić efektywność ATM – zwiększając przepustowość, zmniejszając opóźnienia i poprawiając bezpieczeństwo – to ponieważ kontrolerzy nadal ostatecznie odpowiadają za swoje decyzje, zwiększenie zaufania pozostaje kluczowe dla wdrożenia sztucznej inteligencji”. Projekt TAPAS (Towards an Automated and ExPlainable ATM System) otrzymał dofinansowanie ze środków Wspólnego Przedsięwzięcia SESAR, partnerstwa publiczno-prywatnego powstałego w celu modernizacji europejskiego systemu ATM. Koordynowany przez organizację CRIDA zespół określił, jakie dodatkowe cechy powinny być uwzględnione w systemach SI, aby zwiększyć ich akceptację. W ramach projektu zaprojektowano i przetestowano dwa prototypy „wyjaśnialnej sztucznej inteligencji” (ang. explainable AI, XAI), a jednocześnie opracowano wytyczne dotyczące SI w systemach ATM.
Wniknięcie do „czarnej skrzynki” sztucznej inteligencji
Techniki, jakimi posługują się systemy SI, są często niezrozumiałe dla ludzi, którzy takie systemy obsługują. Oznacza to, że użytkownicy zazwyczaj nie wiedzą, dlaczego dana decyzja została podjęta, co utrudnia odtworzenie procesu prowadzącego do poprawnego lub niepoprawnego wyniku. „Musimy poprawić wyjaśnialność sztucznej inteligencji, to znaczy sprawić, by jej wewnętrzne działanie – zasady, możliwości i ograniczenia – stały się bardziej przejrzyste dla potencjalnych użytkowników”, dodaje Cordero. Z tych względów zespół projektu TAPAS wykorzystał techniki XAI, które wyjaśniają decyzje podejmowane faktycznie przez system. W projekcie najpierw określono kluczowe kryteria dla tworzenia ram wyjaśnialności. Następnie, aby ustalić szczegółowość i zakres wymaganych wyjaśnień, ramy te zostały włączone do symulacji różnych scenariuszy prowadzonych w czasie rzeczywistym. Kontrolerzy ruchu lotniczego pracujący dla ENAIRE (hiszpańskiego dostawcy usług nawigacji lotniczej), szkoleniowcy i przedstawiciele branży przetestowali te symulacje w siedzibie CRIDA w Madrycie. Zespół projektu TAPAS dodał rozszerzone funkcje SI do istniejących systemów ATM działających na tradycyjnych (deterministycznych) algorytmach. Zbadano różne poziomy automatyzacji, w ramach których maszyny stopniowo przejmowały kolejne funkcje, a człowiek w coraz większym stopniu zajmował się monitorowaniem niż obsługą. „To podobnie jak w szachach: niektóre zagrania są oczywiste, niektóre wymagają pewnego wyjaśnienia, a wyjaśnienie innych jest niezwykle skomplikowane. Jest jednak moment, w którym wyczerpujące wyjaśnienia nie wnoszą już wartości dodanej, ponieważ są zbyt złożone i użytkownicy muszą po prostu zaufać logice, na której się opierają”, wyjaśnia Cordero. Procesy te umożliwiły zespołowi projektu TAPAS opracowanie prototypów XAI połączonych z analityką wizualną, która wydobywa informacje z funkcjonowania SI, wyświetlając je na ekranie w przyjaznych dla użytkownika formatach. XAI przetestowano w dwóch przypadkach użycia: dotyczącym niekrytycznego dla bezpieczeństwa zarządzania przepływem ruchu lotniczego i przepustowością oraz krytycznego dla bezpieczeństwa wykrywania i rozwiązywania konfliktów. Były one prowadzone z udziałem kontrolerów ruchu lotniczego i platform operacyjnych kontroli ruchu lotniczego przez okres jednego tygodnia. W celu zbadania zakresu zachowań systemu ponownie przeanalizowano różne poziomy automatyzacji i ruchu, w tym w trudnych warunkach. „Obserwacje oraz informacje zwrotne wskazują na bardzo wysoki poziom akceptacji ze strony użytkowników. Ponadto wprowadziliśmy to naszych ogólnych ram wyjaśniania zalecenia, które pomogą w opracowaniu przyszłych zastosowań”, dodaje Cordero.
Gotowi do startu
Techniki sztucznej inteligencji badane w projekcie TAPAS uznano w głównym europejskim planie zarządzania ruchem lotniczym za kluczowe czynniki umożliwiające osiągnięcie wyższych poziomów automatyzacji lotnictwa, co powinno pozwolić na zwiększenie przepustowości podróży lotniczych – jest to jeden z priorytetów europejskiej strategii w dziedzinie lotnictwa. Zdaniem Cordero artykuły naukowe dostępne na stronie projektu i przygotowywane warsztaty dowodzą, że projekt TAPAS jest na tyle dojrzały, by zacząć wnosić istotny wkład w rozwój dziedziny SI. „Nasze ramy wyjaśnialności już teraz mogą przyczynić się do upowszechnienia na przykład usług zwiększania przepustowości na żądanie jako priorytetowej zautomatyzowanej aplikacji”, mówi. Agencja Unii Europejskiej ds. Bezpieczeństwa Lotniczego wyraziła zainteresowanie włączeniem wyników prac projektu dotyczących wyższych poziomów automatyzacji do kolejnej edycji swoich wytycznych dotyczących sztucznej inteligencji.
Słowa kluczowe
TAPAS, kontroler ruchu lotniczego, SI, transparentne, krytyczne dla bezpieczeństwa, lotnictwo, automatyzacja, podróż, algorytm
