Projektbeschreibung
Wenn Software die Software überwacht
In Zeiten des Cloud-Computings und der cyber-physischen Systeme wie dem computergestützten Fahren nimmt die Komplexität der Software schneller zu, als es durch die Aktualisierungen der betreffenden Qualitätssicherungsverfahren abgedeckt wird. Das ERC-finanzierte Projekt VAMOS wird eine Überwachungssoftware entwickeln, die potenzielle Schwachstellen, Fehler und unfaire Entscheidungen zur Laufzeit erkennt. Im Einzelnen wird das Projekt eine quantitative Ressourcen- und Approximationstheorie für die Softwareüberwachung entwickeln, die Kompromisse zwischen Kosten und Genauigkeit zulässt. Mit ihr werden zum Beispiel die Sicherheit von Systemen sowie die Fairness von Algorithmen, Sicherheitsrichtlinien und statistische Softwareeigenschaften überwacht werden können. Besonderes Augenmerk gilt der automatisierten Überwachung von Software, deren Verifikation schwierig ist, wie etwa bei von neuronalen Netzen durchgeführten Berechnungen.
Ziel
We propose a theoretical basis and systems support needed to turn algorithmic monitoring from a runtime tool in the arsenal of formal methods into a pervasive and trusted engineering paradigm for the deployment of software. The ever-growing number of computational resources (many-core processors, data centers) allows software algorithms–decision makers–to be paired up with software monitors–decision checkers–where each monitor watches an algorithm in real time and provides warnings or intervenes when anything undesirable is observed. In order to be trusted, monitors are designed and linked independently of the monitored software. Monitoring is fundamentally a “best-effort” endeavor: it does not require complete specifications, nor perfect accuracy, but its widespread adoption requires a theory for the analysis of cost-precision trade-offs. Compared to the mature theories of computability and complexity (what can be computed? at what cost?), the theory of monitorability (what can be monitored, at what precision and cost?) is underdeveloped. We develop a quantitative, fine-grained resource and approximation theory for monitoring which supports the synthesis of monitors with desired cost-precision profiles. Our monitors can track the safety of systems as well as the fairness of algorithms (i.e. the absence of bias), security policies, and statistical properties of software. In addition, we facilitate the engineering paradigm of algorithmic monitoring by implementing systems support for the automated monitoring of software that is difficult to verify, such as algorithms that rely on neural networks, computations that happen in the cloud, and electronic systems that interface with the physical world (e.g. software for controlling medical and transportation devices). In all of these domains, the systematic and independent monitoring of critical requirements and sensitive statistics will significantly enhance trust in algorithmic decisions and digital systems.
Wissenschaftliches Gebiet (EuroSciVoc)
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: https://op.europa.eu/en/web/eu-vocabularies/euroscivoc.
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: https://op.europa.eu/en/web/eu-vocabularies/euroscivoc.
Sie müssen sich anmelden oder registrieren, um diese Funktion zu nutzen
Schlüsselbegriffe
Programm/Programme
Thema/Themen
Aufforderung zur Vorschlagseinreichung
(öffnet in neuem Fenster) ERC-2020-ADG
Andere Projekte für diesen Aufruf anzeigenFinanzierungsplan
ERC-ADG - Advanced GrantGastgebende Einrichtung
3400 Klosterneuburg
Österreich