Opracowywanie samodzielnie programujących się urządzeń SI
Nowoczesne technologie w coraz większym stopniu opierają się na inteligentnych maszynach. Wiele procesów produkcyjnych, obiektów inteligentnych i zaawansowanych robotów wykorzystuje mechanizmy oferujące pewne możliwości programowania. Jednak programy te mają pewne ograniczenia, gdyż ich logika opiera się na sztywnych regułach zaprojektowanych przez ludzi. Problemy mogą się pojawić, gdy urządzenia te znajdą się w nowych lub nieznanych sytuacjach, wykraczających poza ich pierwotnie zaprojektowaną specyfikację. „Programy komputerowe często działają w nieoczekiwanych okolicznościach”, wyjaśnia Giuseppe De Giacomo(odnośnik otworzy się w nowym oknie), profesor informatyki na Uniwersytecie Oksfordzkim. „W wielu obszarach zastosowań powierzanie programistom zadania polegającego na sporządzaniu listy i obsłudze wszystkich możliwych zadań adaptacyjnych, które mogą pojawić się w trakcie wykonywania mechanizmu, jest po prostu zbyt drogie i podatne na błędy”. Jak wyjaśnia, gdy aplikacje muszą radzić sobie z zupełnie nieoczekiwanymi okolicznościami – niezależnie od tego, czy wynikają one z interakcji ze światem rzeczywistym, czy z decyzji podejmowanych przez ludzi na podstawie niezamodelowanych okoliczności – nie da się z góry określić wszystkich możliwych potrzebnych modyfikacji. Generatywna sztuczna inteligencja (GenAI) jest postrzegana jako skuteczne narzędzie pozwalające unikać wstępnie zaprogramowanych rozwiązań na rzecz rozwiązań wyuczonych. Jest ona szeroko stosowana w różnych dziedzinach, w tym w medycynie. Mimo to nadal nie wiemy dokładnie, jak i dlaczego GenAI podejmuje takie, a nie inne decyzje, ani czy są one właściwe w kontekście określonego zadania. „Rozwiązania te mają charakter czarnej skrzynki, co ogranicza ich zastosowanie w tzw. systemach o znaczeniu krytycznym dla bezpieczeństwa, w których decyzje mogą mieć poważne konsekwencje”, mówi De Giacomo. W ramach projektu WhiteMech, finansowanego przez Europejską Radę ds. Badań Naukowych(odnośnik otworzy się w nowym oknie), De Giacomo z zespołem rozpoczęli opracowywanie narzędzi mających na celu tworzenie samoprogramujących się mechanizmów typu „biała skrzynka”, które są w stanie samodzielnie generować zachowania w celu osiągnięcia określonych celów. Co ważne, wyjaśnili także, w jaki sposób to zrobili.
Tworzenie przejrzystych mechanizmów typu „biała skrzynka”
Zespół WhiteMech zaproponował rozwiązania samoprogramujące bazujące na matematycznym modelu środowiska, w którym działa system, oraz na tym, w jaki sposób działania systemu wpływają na to środowisko. Koncepcja „planowania” w kontekście sztucznej inteligencji zwykle oznacza, że na podstawie modelu świata i pożądanego celu obliczana jest seria działań prowadzących do osiągnięcia tego celu. Jednak w projekcie WhiteMech naukowcy wybrali bardziej zniuansowaną drogę i stworzyli programy, które potrafią wykonywać złożone zadania rozciągające się w czasie, takie jak przechodzenie przez określone kroki – być może w zależności od obserwacji zebranych w trakcie wykonywania – jednocześnie zawsze pozostając w bezpiecznym obszarze. Podczas gdy wiele firm IT rutynowo sprawdza poprawność swoich systemów po fakcie, zespół WhiteMech postawił sobie za cel opracowanie programów, które byłyby w stanie automatycznie wykonywać zadania – problem ten to tak zwana „synteza reaktywna”. „W projekcie WhiteMech chcemy wykorzystać syntezę reaktywną w trakcie działania systemu: gdy wystąpią wyjątkowe okoliczności, system autonomicznie obliczy i wdroży odpowiednią reakcję, zapewniając formalne gwarancje jej poprawności”, dodaje De Giacomo. Dzięki projektowi WhiteMech zespołowi udało się opracować naukę, metodologie, algorytmy i narzędzia pozwalające rozwiązać ten podstawowy problem: budowę samoprogramujących się mechanizmów typu „biała skrzynka”.
Przyciąganie zainteresowania wśród branż inteligentnych
Chociaż WhiteMech był projektem naukowo-badawczym, jego wyniki już przyciągnęły zainteresowanie wielu grup badawczych, w tym zajmujących się inteligentnymi fabrykami, robotyką, cyfrowymi bliźniakami i zarządzaniem procesami biznesowymi. „O zainteresowaniu tym świadczy liczba cytowań artykułów naukowych związanych z projektem WhiteMech”, zauważa De Giacomo. Zespół będzie kontynuował badania, ponownie analizując narzędzia i techniki oraz przenosząc je z laboratorium do rzeczywistych zastosowań. Projekt WhiteMech otwiera ponadto nowe możliwości dalszych badań. Wiążą one z wykorzystaniem GenAI do matematycznego modelowania przestrzeni – na przykład pokoju – a następnie zastosowaniem technik WhiteMech do automatycznego wykonywania tych zadań.
