Descrizione del progetto
IA consapevole dei valori per le decisioni morali umane
Per IA consapevole dei valori si intende un’intelligenza artificiale che esegua funzioni morali umane, quali l’acquisizione e il mantenimento di un sistema di valori e la decisione di compiere azioni moralmente accettabili, comprendendone l’intento e impegnandosi adeguatamente nella loro realizzazione. Basandosi su due pilastri scientifici che includono un’architettura per la coscienza e un quadro fondamentale per le decisioni morali, il progetto VALAWAI, finanziato dal CEI, svilupperà un pacchetto di strumenti per costruire IA consapevoli dei valori. Il primo pilastro si ispira al modello di spazio di lavoro neuronale globale sviluppato sulla base di prove neurofisiologiche e dati psicologici. Il secondo si basa sulla psicologia, sulla cognizione sociale e sulle neuroscienze sociali. Il progetto si concentrerà sui social media, che prevedono diversi effetti negativi (come la disinformazione e la polarizzazione), sui robot sociali, che possono consentire la manipolazione, e sui protocolli medici.
Obiettivo
By Value-Aware AI we mean AI that includes a component performing the same function as human moral consciousness, namely the capacity to acquire and maintain a value system, use this value system to decide whether certain actions are morally acceptable and be aware of the value systems of its users so as to understand the intent and motivation of their actions and to properly and correctly engage with them.
The VALAWAI project will develop a toolbox to build Value-Aware AI resting on two pillars both grounded in science: An architecture for consciousness inspired by the Global Neuronal Workspace model developed on the basis of neurophysiological evidence and psychological data, and a foundational framework for moral decision-making based on psychology, social cognition and social brain science.
The project will demonstrate the utility of Value-Aware AI in three application areas for which a moral dimension urgently needs to be included: (i) social media, where we see many negative side effects such as disinformation, polarisation, and the instigation of asocial and immoral behavior, (ii) social robots, which are designed to be helpful or influence human behavior in positive ways but potentially enable manipulation, deceit and harmful behavior, and (iii) medical protocols, where VALAWAI tries to ensure medical decision making is value aligned.
The project contributes to the general goal of making EU-based AI more competitive by being more reliable, robust, ethically-guided, explainable and hence trustworthy. It does not make new proposals for guidelines and regulations (for which there is already considerable effort) but advances the state of the art in core AI technology so that ethics is embedded inside applications making them grounded in universal, European and personal values.
Campo scientifico (EuroSciVoc)
CORDIS classifica i progetti con EuroSciVoc, una tassonomia multilingue dei campi scientifici, attraverso un processo semi-automatico basato su tecniche NLP. Cfr.: https://op.europa.eu/en/web/eu-vocabularies/euroscivoc.
CORDIS classifica i progetti con EuroSciVoc, una tassonomia multilingue dei campi scientifici, attraverso un processo semi-automatico basato su tecniche NLP. Cfr.: https://op.europa.eu/en/web/eu-vocabularies/euroscivoc.
È necessario effettuare l’accesso o registrarsi per utilizzare questa funzione
Siamo spiacenti… si è verificato un errore inatteso durante l’esecuzione.
È necessario essere autenticati. La sessione potrebbe essere scaduta.
Grazie per il tuo feedback. Riceverai presto un'e-mail di conferma dell'invio. Se hai scelto di ricevere una notifica sullo stato della segnalazione, sarai contattato anche quando lo stato della segnalazione cambierà.
Parole chiave
Programma(i)
- HORIZON.3.1 - The European Innovation Council (EIC) Main Programme
Invito a presentare proposte
(si apre in una nuova finestra) HORIZON-EIC-2021-PATHFINDERCHALLENGES-01
Vedi altri progetti per questo bandoMeccanismo di finanziamento
HORIZON-EIC -Coordinatore
28006 Madrid
Spagna