Entwicklung selbstprogrammierbarer KI-Technik
Moderne Technologie ist in immer stärkerem Maße auf maschinelle Intelligenz angewiesen. Viele Fertigungsprozesse, intelligente Objekte und fortgeschrittene Roboter beruhen auf Mechanismen, die eine gewisse Programmierbarkeit zu bieten haben. Diese Programme sind jedoch begrenzt, da ihre Logik auf fest verdrahteten, von Menschen entwickelten Regeln basiert. Es können Probleme auftreten, wenn diese Technik mit neuen oder unbekannten Situationen konfrontiert wird, die über ihr ursprüngliches Design hinausgehen. „Programme werden oft unter unerwarteten Umständen ausgeführt“, erklärt Giuseppe De Giacomo(öffnet in neuem Fenster), Professor für Informatik an der Universität Oxford. „Bei vielen Anwendungsbereichen ist es schlicht zu kostspielig und fehleranfällig, die Auflistung und Bearbeitung aller möglichen Anpassungsaufgaben, die bei der Ausführung des Mechanismus auftreten können, an die Softwareentwicklung zu delegieren.“ Wenn Anwendungen mit völlig unerwarteten Umständen umgehen müssten – sei es durch Interaktionen mit der realen Welt oder durch Entscheidungen von Menschen auf der Basis nicht modellierter Umstände –, dann sei es unmöglich, alle möglicherweise erforderlichen Anpassungen von vornherein festzulegen, wie er erklärt. Generative künstliche Intelligenz (GenAI) gilt als leistungsfähiges Instrument zur Vermeidung vorprogrammierter zugunsten erlernter Lösungen und wird auf vielen Gebieten einschließlich der Medizin eingesetzt. Dennoch wissen wir noch immer nicht genau, wie und warum generative künstliche Intelligenz jene Entscheidungen trifft, die sie trifft, und ob diese für die jeweilige Aufgabe auch die richtigen sind. „Diese Lösungen weisen einen Black-Box-Charakter auf, der ihre Anwendung in sogenannten sicherheitskritischen Systemen einschränkt, bei denen Entscheidungen schwerwiegende Folgen, beispielsweise für Schutz und Sicherheit, nach sich ziehen können“, erläutert De Giacomo. Innerhalb des Projekts WhiteMech, das vom Europäischen Forschungsrat(öffnet in neuem Fenster) finanziert wurde, begannen De Giacomo und sein Team mit der Entwicklung von Instrumenten zur Erschaffung von White-Box-Selbstprogrammierungsmechanismen, die in der Lage sind, selbst Verhalten zu generieren, um bestimmte Ziele zu erreichen und – was wichtig ist – zu erklären, wie sie dorthin gelangt sind.
Transparente White-Box-Mechanismen erschaffen
Das Projekt WhiteMech schlug selbstprogrammierende Lösungen vor, die auf einem mathematischen Modell der Umgebung basieren, in der das System betrieben wird, und auf der Frage, wie sich Aktionen des Systems auf eine Umgebung dieser Art auswirken. Das Konzept der „Planung“ in der künstlichen Intelligenz bedeutet normalerweise, dass sie anhand eines Modells der Welt und eines gewünschten Ziels eine Reihe von Aktionen errechnet, um das Ziel zu erreichen. Im Rahmen des Projekts WhiteMech gingen die Forschenden jedoch einen differenzierteren Weg und erstellten Programme, die komplexe Aufgaben über einen längeren Zeitraum ausführen können, wie etwa das Durchlaufen bestimmter Schritte – möglicherweise abhängig von den während der Ausführung gesammelten Beobachtungen – und dabei immer in einem sicheren Bereich bleiben. Und während bei vielen IT-Unternehmen die Systeme erst nachträglich routinemäßig auf ihre Richtigkeit überprüft werden, zielte die Arbeit von WhiteMech darauf ab, Programme zu entwickeln, die Aufgaben automatisch ausführen können. Dieses Problem ist als „reaktive Synthese“ bekannt. „Bei WhiteMech möchten wir die reaktive Synthese innerhalb des laufenden Systems nutzen: Wenn ein außergewöhnlicher Umstand eintritt, berechnet und implementiert das System autonom eine entsprechende Reaktion mit formalen Garantien für die Richtigkeit“, fügt De Giacomo hinzu. Im Zuge von WhiteMech entwickelte das Team erfolgreich die wissenschaftlichen Grundlagen, Methoden, Algorithmen und Instrumente, um dieses grundlegende Problem anzugehen: den Aufbau von White-Box-Selbstprogrammierungsmechanismen.
Interesse der intelligenten Industrie wecken
Obwohl es sich bei WhiteMech um ein wissenschaftliches Grundlagenprojekt handelte, weckten die Ergebnisse bereits mehrfach Interesse, etwa in Bereichen der intelligenten Fabriken, der Robotik, der digitalen Zwillinge und des Geschäftsprozessmanagements. „Ein klarer Beweis für dieses Interesse ist die Anzahl der Zitate, die bei den wissenschaftlichen Arbeiten im Zusammenhang mit WhiteMech zu verzeichnen sind“, stellt De Giacomo fest. Das Team wird seine Forschung fortsetzen, die Werkzeuge und Verfahren erneut prüfen und sie aus dem Labor in reale Anwendungen überführen. Die Arbeit von WhiteMech eröffnete zudem neue Wege für die weitere Forschung. Dazu zählt der Einsatz generativer künstlicher Intelligenz zur mathematischen Modellierung eines Raums, beispielsweise eines Zimmers, und der anschließende Einsatz von WhiteMech-Verfahren zur automatischen Ausführung von Aufgaben.
