Unvorhergesehenes meistern lernen: KI im Umgang mit Unsicherheit trainieren
Es ist allgemein anerkannt, dass KI in jedem Bereich des menschlichen Lebens Eingang findet. Als wirtschaftlicher Motor, der bereits unsere Wohnungen, Schulen und Arbeitsplätze revolutioniert, muss bei der KI der nächsten Generation die Fähigkeit verbessert werden, Vorhersagen in Situationen zu treffen, die sich von den Daten unterscheiden, anhand derer sie trainiert wurde. Im Rahmen des EU-finanzierten Projekts E-pi(öffnet in neuem Fenster) wurde ein Paradigma für epistemische KI entwickelt, das besser mit Unsicherheiten umgehen kann.
Epistemisches maschinelles Lernen
Die Erkenntnistheorie beschäftigt sich mit der philosophischen Erforschung des Wissens. Diese Definition setzt die Fähigkeit voraus, erkennen zu können, wann Wissen unzureichend ist. Dieses Bewusstsein ist fester Bestandteil der menschlichen Intelligenz, doch bei KI muss das Erkennen, wann es an Wissen mangelt, mithilfe theoretischer und mathematischer Rahmenkonzepte konstruiert werden. „Beim aktuellen maschinellen Lernen“, erklärt Projektkoordinator Fabio Cuzzolin, „ist der Lernprozess eher darauf ausgerichtet, einen relativ kleinen Trainingsdatensatz zu erklären, und nicht die Gesamtheit an Daten, die in der Welt anfallen können. Traditionelle KI-Modelle haben Schwierigkeiten damit, robuste Vorhersagen zu treffen, wenn sich die Wahrscheinlichkeitsverteilungen, aus denen die Daten stammen, von denen aus Trainingszeiten unterscheiden.“ Das E-pi-Konsortium vertritt die Ansicht, dass die Theorie der Unsicherheit zweiter Ordnung(öffnet in neuem Fenster) der vielversprechendste Ansatz zur Bewältigung der KI-Herausforderungen ist. Mit dem Ziel, ein internationales epistemisches KI-Ökosystem aufzubauen, fanden die Projektvorträge auf Fachkonferenzen großen Anklang, und Cuzzolin wurde gebeten, an mehreren damit verbundenen Horizont Europa-Vorschlägen mitzuwirken.
Erprobung mit autonomen Fahrzeugen
Die Validierung anhand autonomer Fahrzeuge(öffnet in neuem Fenster) erwies sich als perfekter Test für epistemische KI. Die Fahrbedingungen können sich aufgrund von Faktoren wie dem Verhalten von zu Fuß gehenden Personen, extremen Wetterbedingungen oder ungewöhnlichen Straßenverhältnissen jederzeit auf unvorhersehbare Weise ändern. Fehler, die von gegenwärtig eingesetzter KI begangen werden, können kostspielig sein und im schlimmsten Fall in tödlichen Verletzungen enden. Im Rahmen des Projekts wurde der Datensatz zur Erkennung von Straßenereignissen beim autonomen Fahren (The ROad event Awareness Dataset for Autonomous Driving; ROAD)(öffnet in neuem Fenster) zum KI-Training und zur Erprobung ihrer neuen epistemischen Objektdetektoren genutzt. ROAD wurde erstmals 2022 entwickelt und anschließend erweitert. Er umfasst Videos und Datensätze, die in Europa, Nordamerika und zuletzt auch in Dubai und Abu Dhabi erstellt wurden, und bietet damit wahrhaft globale Orientierungswerte.
Robotik und andere Anwendungsbereiche für epistemische KI
Epistemische KI wird autonome Fahrzeuge zwar sicherer werden lassen, doch selbstfahrende Autos sind nicht die einzige Anwendungsmöglichkeit dieser neuen Technologie. Industrie- und Chirurgieroboter, bei denen KI mit der Unberechenbarkeit menschlicher Akteure konfrontiert ist, werden von einer KI profitieren, die auf dem Umgang mit Unsicherheit trainiert ist. Eine weitere Anwendungsmöglichkeit betrifft die Kernfusion. „Wir arbeiten an der Entwicklung von unsicherheitsbewussten neuronalen Operatormodellen, um vorherzusagen, wie sich das Fusionsplasma in einem Tokamak(öffnet in neuem Fenster) ausbreiten wird und welche Bereiche des Reaktors davon stärker betroffen sein werden“, erklärt Cuzzolin. Die Zukunft des epistemischen Lernens gilt als völlig offen. Cuzzolin stellt sich Anwendungsbereiche vor, die die Theory of Mind, die Evolution durch kontinuierliches Lernen und die Entwicklung einer epistemisch generativen KI umfassen. „Die derzeitigen, auf dem neuesten Stand der Technik befindlichen großen Sprachmodelle sind dafür bekannt, falsche Aussagen zu generieren“, erläutert Cuzzolin. „Epistemische große Sprachmodelle können die übermäßige Selbstsicherheit dieser Modelle erheblich mindern.“ Mit dem Projekt E-pi wurde sichereren autonomen Fahrzeugen und Robotern, generativer KI ohne Halluzinationen und einem dynamischen Ökosystem aus Fachleuten für maschinelles Lernen der Weg bereitet. Langfristig besitzt das Potenzial der epistemischen KI die Macht, die Welt, in der wir leben, und unsere Lebensweise zu verändern.