Descripción del proyecto
Un nuevo sistema inteligente para respaldar a los controladores del tráfico aéreo
Una mayor automatización de la inteligencia artificial (IA) y el aprendizaje automático permitirá mejorar el rendimiento, los resultados, la eficacia en la resolución de problemas, la seguridad y el control de procesos. Sin embargo, la tecnología que reemplaza la actividad humana podría causar problemas si los procesos no son comprensibles para los humanos. El proyecto MAHALO, financiado con fondos europeos, tiene por objeto diseñar un sistema explicable y automatizado basado en IA, aprendizaje automático y aprendizaje neuronal profundo para resolver problemas entre la tripulación aérea y los controladores de tráfico aéreo. La máquina, entrenada por el operario individual, podrá informar al operario de lo que ha aprendido. Esto mejorará la capacidad, el rendimiento y la seguridad. Más concretamente, MAHALO investigará el efecto de la transparencia (en qué medida la IA es capaz de explicar por qué tomó una decisión específica) y la conformidad (en qué medida la decisión tomada por la IA se parece a la que un controlador habría tomado). El proyecto se evaluará en simulaciones en tiempo real para verificar las dificultades del tráfico, la fiabilidad, la aceptación y la comprensión del controlador. El marco de MAHALO servirá de modelo para futuros modelos de IA.
Objetivo
MAHALO asks a simple but profound question: in the emerging age of Machine Learning (ML), should we be developing automation that matches human behavior (i.e. conformal), or automation that is understandable to the human (i.e. transparent)? Further, what tradeoffs exist, in terms of controller trust, acceptance, and performance? To answer these questions, MAHALO will:
• Develop an individually-tuned ML system comprised of layered deep learning and reinforcement models, trained on controller performance (context-specific solutions), strategies (eye tracking), and physiological data, which learns to solve ATC conflicts;
• Couple this to an enhanced en-route CD&R prototype display to present machine rationale with regards to ML output;
• Evaluate in realtime simulations the relative impact of ML conformance, transparency, and traffic complexity, on controller understanding, trust, acceptance, workload, and performance; and
• Define a framework to guide design of future AI systems, including guidance on the effects of conformance, transparency, complexity, and non-nominal conditions.
Building on the collective experience within the team, past research, and recent advances in the areas of ML and ecological interface design (EID), MAHALO will take a bold step forward: to create a system that learns from the individual operator, but also provides the operator insight into what the machine has learnt. Several models will be trained and evaluated to reflect a continuum from individually-matched to group-average. Most recent work in areas of automation transparency, Explainable AI (XAI) and ML interpretability will be explored to afford understanding of ML advisories. The user interface will present ML outputs, in terms of: current and future (what-if) traffic patterns; intended resolution maneuvers; and rule-based rationale. The project’s output will add knowledge and design principles on how AI and transparency can be used to improve ATM performance, capacity, and safety.
Ámbito científico
Palabras clave
Programa(s)
Régimen de financiación
RIA - Research and Innovation actionCoordinador
00185 Roma
Italia
Organización definida por ella misma como pequeña y mediana empresa (pyme) en el momento de la firma del acuerdo de subvención.