Description du projet
L’ingénierie de la conscience pour gérer l’«invisible»
Dans un monde régi par l’«invisible», depuis les environnements inexplorés à l’interaction sociale dépendant des états internes des agents et des normes morales, la conscience est essentielle à la survie. Le projet CAVAA appliquera une architecture de calcul intégrée pour expliquer la conscience dans des systèmes biologiques et la concevoir dans des systèmes technologiques. Ses volets comprendront la perception, la mémoire, la virtualisation, la simulation et l’intégration, qui seront ensuite intégrées dans des robots et des agents artificiels. Cette architecture sera validée dans une série d’interactions entre différents humains et agents artificiels afin de surmonter les problèmes comme les recherches menées par des robots, la robotique sociale, les repères pour jeux vidéo, etc. L’objectif est une meilleure expérience d’utilisateur dans un cadre éthique envers les utilisateurs humains et les objets conscients.
Objectif
The Counterfactual Assessment and Valuation for Awareness Architecture (CAVAA) project proposes that awareness serves survival in a world governed by hidden states, to deal with the “invisible”, from unexplored environments to social interaction that depends on the internal states of agents and moral norms. Awareness reflects a virtual world, a hybrid of perceptual evidence, memory states, and inferred “unobservables”, extended in space and time. The CAVAA project will realize a theory of awareness instantiated as an integrated computational architecture and its components to explain awareness in biological systems and engineer it in technological ones. It will realize underlying computational components of perception, memory, virtualization, simulation, and integration, embody the architecture in robots and artificial agents, validate it across a range of use-cases involving the interaction between multiple humans and artificial agents, using accepted measures and behavioural correlates of awareness. Use cases will address robot foraging, social robotics, computer game benchmarks and human-generated decision trees in a health coach. These benchmarks will focus on resolving trade-offs, e.g. between search efficiency and robustness, and assess the acceptance of human users of aware technology. CAVAA’s awareness engineering is accompanied by an ethics framework towards human users and aware artefacts in the broader spectrum of trustworthy AI, considering shared ontologies, intention complementarity, and behavioural matching, an empathy, relevance of outcomes, reciprocity, counterfactuals and projections towards new future scenarios, and to predict the impact of choices. CAVAA will deliver a better user experience because of its explainability, adaptability, and legibility. CAVAA’s integrated framework redefines how we look at the relationship between humans, other species and smart technologies because it makes the invisible visible.
Champ scientifique
Mots‑clés
Programme(s)
- HORIZON.3.1 - The European Innovation Council (EIC) Main Programme
Régime de financement
HORIZON-EIC - HORIZON EIC GrantsCoordinateur
6525 XZ Nijmegen
Pays-Bas