Projektbeschreibung
Ein intelligentes neues System zur Unterstützung der Luftverkehrskontrolle
Die zunehmende Automatisierung dank künstlicher Intelligenz (KI) und maschinellem Lernen ermöglichen bessere Leistungen, Ergebnisse, Effizienz bei der Problemlösung, Sicherheit und Prozesssteuerung. Allerdings können Technologien, die menschliche Aufgaben übernehmen, Probleme verursachen, wenn ihre Vorgehensweisen für die Menschen nicht mehr nachvollziehbar sind. Das EU-finanzierte Projekt MAHALO zielt darauf ab, ein erklärbares automatisiertes System auf Basis von KI, maschinellem Lernen und neuronalem Lernen zu entwickeln, das Kommunikationsschwierigkeiten zwischen Flugpersonal und der Luftverkehrskontrolle lösen soll. Die Maschine kann von einer einzigen Person geschult werden und dieser Person dann mitteilen, was sie gelernt hat. Damit wird die Kapazität, Leistungsfähigkeit und Sicherheit erhöht. MAHALO wird besonders die Auswirkungen der Transparenz (inwiefern die KI in der Lage ist, ihre Entscheidungen zu erläutern) und Konformität (inwiefern die von der KI getroffene Entscheidung dem ähnelt, wofür sich menschliche Fluglotsen oder Fluglotsinnen entscheiden würden) untersuchen. Das Projekt wird in Echtzeit-Simulationen auf den Umgang mit Verkehrsschwierigkeiten, Vertrauen, Akzeptanz und Verständnis seitens der Luftverkehrskontrolle überprüft. Die Rahmenumgebung von MAHALO wird als Modell für zukünftige KI-Systeme dienen.
Ziel
MAHALO asks a simple but profound question: in the emerging age of Machine Learning (ML), should we be developing automation that matches human behavior (i.e. conformal), or automation that is understandable to the human (i.e. transparent)? Further, what tradeoffs exist, in terms of controller trust, acceptance, and performance? To answer these questions, MAHALO will:
• Develop an individually-tuned ML system comprised of layered deep learning and reinforcement models, trained on controller performance (context-specific solutions), strategies (eye tracking), and physiological data, which learns to solve ATC conflicts;
• Couple this to an enhanced en-route CD&R prototype display to present machine rationale with regards to ML output;
• Evaluate in realtime simulations the relative impact of ML conformance, transparency, and traffic complexity, on controller understanding, trust, acceptance, workload, and performance; and
• Define a framework to guide design of future AI systems, including guidance on the effects of conformance, transparency, complexity, and non-nominal conditions.
Building on the collective experience within the team, past research, and recent advances in the areas of ML and ecological interface design (EID), MAHALO will take a bold step forward: to create a system that learns from the individual operator, but also provides the operator insight into what the machine has learnt. Several models will be trained and evaluated to reflect a continuum from individually-matched to group-average. Most recent work in areas of automation transparency, Explainable AI (XAI) and ML interpretability will be explored to afford understanding of ML advisories. The user interface will present ML outputs, in terms of: current and future (what-if) traffic patterns; intended resolution maneuvers; and rule-based rationale. The project’s output will add knowledge and design principles on how AI and transparency can be used to improve ATM performance, capacity, and safety.
Wissenschaftliches Gebiet
Schlüsselbegriffe
Programm/Programme
Aufforderung zur Vorschlagseinreichung
Andere Projekte für diesen Aufruf anzeigenFinanzierungsplan
RIA - Research and Innovation actionKoordinator
00185 Roma
Italien
Die Organisation definierte sich zum Zeitpunkt der Unterzeichnung der Finanzhilfevereinbarung selbst als KMU (Kleine und mittlere Unternehmen).