Projektbeschreibung
Vertrauenswürdige intelligente Systeme
Von selbstfahrenden Autos bis hin zu robotergestützten medizinischen Geräten – immer häufiger trifft Software Entscheidungen über Leben und Tod. Da die Systeme jedoch immer komplexer werden, bringt das maschinelle Lernen neue Herausforderungen mit sich: Black-Box-Modelle, die zwar leistungsfähig, aber schwer zu verifizieren und zu erklären sind. In diesem Zusammenhang wird das ERC-finanzierte Projekt InOVationCS bahnbrechende Verifikationsverfahren mit lernbasierten Ansätzen kombinieren. Das Ziel ist die Bereitstellung von Steuerungen, die skalierbar, zuverlässig, korrekt und ausreichend transparent sind, um vertrauenswürdig zu sein. Das Ergebnis könnte einen Meilenstein auf dem Weg zu intelligenten, datengesteuerten Systemen darstellen, die gefahrlos in der realen Welt eingesetzt werden können.
Ziel
Software making decisions or controlling cyber-physical systems is ubiquitous, hence its correctness is of paramount importance. While the increasing complexity makes manual implementation extremely error-prone, verification can provide formal guarantees on correctness. Verification of hardware and software has seen many successes and industrialization, making systems safe and reliable and their development more efficient. Controller synthesis goes one step further and avoids the manual implementation, providing a correct-by-construction controller directly. Despite considerable advances, scalable solutions remain elusive here.
Artificial intelligence and machine learning (AI/ML) provide scalable solutions to decision making, but at the cost of their reliability, making their verification even more pressing. Besides, the use of AI/ML gives rise to fundamentally new challeges since models, properties and controllers are now often based on data rather than design. Due to their “black-box” nature, the resulting systems are (i) even harder to verify, and (ii) not explainable enough to be responsibly deployed.
The PI has been pioneering the use of learning in verification to bring together the best of both worlds, scalability and reliability. The main objective of InOVation&CS is to utilize the power of learning in verification and controller-synthesis to overcome both the traditional scalability challenges as well as the recent, data-driven ones. The key to bringing the two closer than ever is a paradigm shift towards explainability and utilizing structure stemming from the presence of intelligence (human or artificial) in the definition, analysis and solution of real problems, thus providing more information to the learning parts. InOVation&CS shall provide new, more applicable and more scalable methodology for producing guaranteed reliable controllers.
Keywords: verification, model checking, Markov decision processes, stochastic games, temporal logics
Wissenschaftliches Gebiet (EuroSciVoc)
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: Das European Science Vocabulary.
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: Das European Science Vocabulary.
Sie müssen sich anmelden oder registrieren, um diese Funktion zu nutzen
Schlüsselbegriffe
Schlüsselbegriffe des Projekts, wie vom Projektkoordinator angegeben. Nicht zu verwechseln mit der EuroSciVoc-Taxonomie (Wissenschaftliches Gebiet).
Schlüsselbegriffe des Projekts, wie vom Projektkoordinator angegeben. Nicht zu verwechseln mit der EuroSciVoc-Taxonomie (Wissenschaftliches Gebiet).
Programm/Programme
Mehrjährige Finanzierungsprogramme, in denen die Prioritäten der EU für Forschung und Innovation festgelegt sind.
Mehrjährige Finanzierungsprogramme, in denen die Prioritäten der EU für Forschung und Innovation festgelegt sind.
-
HORIZON.1.1 - European Research Council (ERC)
HAUPTPROGRAMM
Alle im Rahmen dieses Programms finanzierten Projekte anzeigen
Thema/Themen
Aufforderungen zur Einreichung von Vorschlägen sind nach Themen gegliedert. Ein Thema definiert einen bestimmten Bereich oder ein Gebiet, zu dem Vorschläge eingereicht werden können. Die Beschreibung eines Themas umfasst seinen spezifischen Umfang und die erwarteten Auswirkungen des finanzierten Projekts.
Aufforderungen zur Einreichung von Vorschlägen sind nach Themen gegliedert. Ein Thema definiert einen bestimmten Bereich oder ein Gebiet, zu dem Vorschläge eingereicht werden können. Die Beschreibung eines Themas umfasst seinen spezifischen Umfang und die erwarteten Auswirkungen des finanzierten Projekts.
Finanzierungsplan
Finanzierungsregelung (oder „Art der Maßnahme“) innerhalb eines Programms mit gemeinsamen Merkmalen. Sieht folgendes vor: den Umfang der finanzierten Maßnahmen, den Erstattungssatz, spezifische Bewertungskriterien für die Finanzierung und die Verwendung vereinfachter Kostenformen wie Pauschalbeträge.
Finanzierungsregelung (oder „Art der Maßnahme“) innerhalb eines Programms mit gemeinsamen Merkmalen. Sieht folgendes vor: den Umfang der finanzierten Maßnahmen, den Erstattungssatz, spezifische Bewertungskriterien für die Finanzierung und die Verwendung vereinfachter Kostenformen wie Pauschalbeträge.
HORIZON-ERC - HORIZON ERC Grants
Alle im Rahmen dieses Finanzierungsinstruments finanzierten Projekte anzeigen
Aufforderung zur Vorschlagseinreichung
Verfahren zur Aufforderung zur Einreichung von Projektvorschlägen mit dem Ziel, eine EU-Finanzierung zu erhalten.
Verfahren zur Aufforderung zur Einreichung von Projektvorschlägen mit dem Ziel, eine EU-Finanzierung zu erhalten.
(öffnet in neuem Fenster) ERC-2024-COG
Alle im Rahmen dieser Aufforderung zur Einreichung von Vorschlägen finanzierten Projekte anzeigenGastgebende Einrichtung
Finanzieller Nettobeitrag der EU. Der Geldbetrag, den der Beteiligte erhält, abzüglich des EU-Beitrags an mit ihm verbundene Dritte. Berücksichtigt die Aufteilung des EU-Finanzbeitrags zwischen den direkten Begünstigten des Projekts und anderen Arten von Beteiligten, wie z. B. Dritten.
601 77 Brno
Tschechien
Die Gesamtkosten, die dieser Organisation durch die Beteiligung am Projekt entstanden sind, einschließlich der direkten und indirekten Kosten. Dieser Betrag ist Teil des Gesamtbudgets des Projekts.