Sztuczna inteligencja potrzebuje tylko odrobiny ludzkiego wkładu
Większość modeli uczenia maszynowego (ML) jest zaprojektowana do autonomicznego podejmowania decyzji w oparciu o pasywnie gromadzone dane. Pod tym względem są postrzegane jako środki, które mogłyby zastąpić ludzi w niektórych zadaniach. Ale czy takie podejście odzwierciedla rzeczywistość? Według Manuela Gomeza Rodrigueza, badacza z Instytutu Systemów Oprogramowania im. Maxa Plancka(odnośnik otworzy się w nowym oknie), odpowiedź brzmi „nie”. „W większości systemów społecznych, informacyjnych i cyberfizycznych decyzje algorytmiczne i ludzkie stanowią dla siebie dane wejściowe i wpływają na siebie” — mówi. Dlatego też Gomez Rodriguez twierdzi, że modele ML muszą lepiej odzwierciedlać tę współzależną relację. Innymi słowy, te modele i algorytmy potrzebują tylko odrobiny ludzkiego wkładu. Tym wkładem ma być finansowany ze środków UE projekt HumanML(odnośnik otworzy się w nowym oknie).
Modele uczenia maszynowego zorientowane na człowieka
W ramach projektu, który otrzymał wsparcie Europejskiej Rady ds. Badań Naukowych(odnośnik otworzy się w nowym oknie) (ERBN), opracowano modele i algorytmy ML zorientowane na człowieka, zdolne do oceny, wspierania i usprawniania procesu podejmowania decyzji. „Chcieliśmy, aby nasze modele i algorytmy uwzględniały pętlę sprzężenia zwrotnego między decyzjami algorytmicznymi i ludzkimi oraz nauczyły się działać na różnych poziomach automatyzacji” — wyjaśnia Gomez Rodriguez, główny badacz projektu. Naukowcy zaprojektowali również modele, które mogą zarówno przewidywać, jak ludzie zareagują na ich decyzje algorytmiczne, jak i dostarczać praktycznych informacji na temat tego, w jaki sposób podejmowano te decyzje.
Co dwie głowy to nie jedna, nawet jeśli jedna z nich jest sztuczna
Na podstawie tego planu zespół projektu opracował pierwszy algorytm ML zaprojektowany specjalnie do wspomagania procesu decyzyjnego AI-człowiek. Przeprowadzono również kilka dużych badań na ludziach, które wykazały skuteczność opracowanych modeli ML zorientowanych na człowieka. To ważny etap, który jest często pomijany przez społeczność ML. „Mówi się, że co dwie głowy, to nie jedna, a nasze modele zasadniczo działają jako dodatkowa głowa, wspierając ludzki proces decyzyjny i ostatecznie dostarczając decyzję, która przewyższa to, co mógłby osiągnąć człowiek lub algorytm działający samodzielnie” — zauważa Gomez Rodriguez.
Pozycjonowanie sztucznej inteligencji jako rozwiązania wspierającego podejmowanie decyzji
Przenosząc punkt ciężkości z tego, jak sztuczna inteligencja zastąpi ludzi, na to, jak może nas wspierać, projekt HumanML zasadniczo zmienia postrzeganie modeli i algorytmów ML. „Ta zmiana perspektywy minimalizuje potencjalne szkody, ryzyko i obciążenia, jakie systemy uczenia maszynowego mogą mieć dla społeczeństwa, a zamiast tego maksymalizuje płynące z nich korzyści społeczne, szczególnie w kontekście wspomagania decyzji” — podsumowuje Gomez Rodriguez. Prace nad projektem były prezentowane na flagowych konferencjach i w wiodących publikacjach branżowych. Referat związany z projektem zdobył również nagrodę za najlepszy referat na warsztatach dotyczących AI i HCI(odnośnik otworzy się w nowym oknie),w ramach konferencji International Conference on Machine Learning 2023(odnośnik otworzy się w nowym oknie). Opierając się na wynikach osiągniętych podczas projektu HumanML, Gomez Rodriguez korzysta obecnie z grantu ERBN dla naukowców u progu samodzielności badawczej(odnośnik otworzy się w nowym oknie), aby zbadać rolę kontrfaktyczności w umysłach maszyn.
