Projektbeschreibung
Eine wertebewusste KI für menschlich-moralische Entscheidungen
Der Begriff der wertebewussten künstlichen Intelligenz (KI) beschreibt eine KI, die menschlich-moralische Funktionen ausführen kann. Das umfasst zum Beispiel, dass sie ein Wertesystem erwirbt und aufrechterhält, moralisch akzeptable Handlungen beschließt, deren Absicht versteht und angemessen darauf eingeht. Das vom Europäischen Innovationsrat finanzierte Projekt VALAWAI wird einen Werkzeugkasten zur Schaffung einer wertebewussten KI entwickeln. Diese soll sich auf zwei wissenschaftlich fundierte Säulen stützen: eine Architektur für das Bewusstsein und einen grundlegenden Rahmen für die moralische Entscheidungsfindung. Die erste Säule (Architektur) wird sich am Modell des globalen neuronalen Arbeitsbereichs orientieren, das auf neurophysiologischen Belegen und psychologischen Daten aufbaut. Die zweite Säule (Entscheidungsrahmen) wird auf Psychologie, sozialer Kognition und der sozialen Neurowissenschaft basieren. Das Projekt konzentriert sich dabei auf drei Schwerpunkte: soziale Medien, die mit zahlreichen negativen Auswirkungen wie Desinformation und Polarisierung verbunden sind; soziale Roboter, die zur Manipulation missbraucht werden können; und medizinische Protokolle.
Ziel
By Value-Aware AI we mean AI that includes a component performing the same function as human moral consciousness, namely the capacity to acquire and maintain a value system, use this value system to decide whether certain actions are morally acceptable and be aware of the value systems of its users so as to understand the intent and motivation of their actions and to properly and correctly engage with them.
The VALAWAI project will develop a toolbox to build Value-Aware AI resting on two pillars both grounded in science: An architecture for consciousness inspired by the Global Neuronal Workspace model developed on the basis of neurophysiological evidence and psychological data, and a foundational framework for moral decision-making based on psychology, social cognition and social brain science.
The project will demonstrate the utility of Value-Aware AI in three application areas for which a moral dimension urgently needs to be included: (i) social media, where we see many negative side effects such as disinformation, polarisation, and the instigation of asocial and immoral behavior, (ii) social robots, which are designed to be helpful or influence human behavior in positive ways but potentially enable manipulation, deceit and harmful behavior, and (iii) medical protocols, where VALAWAI tries to ensure medical decision making is value aligned.
The project contributes to the general goal of making EU-based AI more competitive by being more reliable, robust, ethically-guided, explainable and hence trustworthy. It does not make new proposals for guidelines and regulations (for which there is already considerable effort) but advances the state of the art in core AI technology so that ethics is embedded inside applications making them grounded in universal, European and personal values.
Wissenschaftliches Gebiet
Schlüsselbegriffe
Programm/Programme
- HORIZON.3.1 - The European Innovation Council (EIC) Main Programme
Aufforderung zur Vorschlagseinreichung
HORIZON-EIC-2021-PATHFINDERCHALLENGES-01
Andere Projekte für diesen Aufruf anzeigenFinanzierungsplan
HORIZON-EIC - HORIZON EIC GrantsKoordinator
28006 Madrid
Spanien