Description du projet
Décoder vos pensées à partir de votre activité cérébrale
De récentes découvertes révèlent que les données d’apprentissage des réseaux neuronaux profonds (RNP) peuvent être décodées directement à partir de leurs paramètres, ce qui soulève d’importantes préoccupations concernant la confidentialité des données. Cette avancée révolutionnaire remet en question l’hypothèse selon laquelle les données d’entraînement sont sûres, tout en mettant en lumière les performances des RNP. Dans ce contexte, le projet MindReading, financé par le CER, étudie une question connexe: peut-on décoder les expériences sensorielles ou les pensées d’une personne à partir de son activité cérébrale? Cela pourrait révolutionner la communication pour les patients qui souffrent du syndrome d’enfermement et faire progresser les interfaces cerveau-machine. Malgré leurs différences, les RNP et les cerveaux humains présentent de nombreuses similitudes. Le projet entend développer des outils permettant de faire le lien entre l’activité cérébrale et les activations des RNP, fournissant une vision approfondie des deux domaines et apportant des innovations prometteuses pour la protection de la vie privée et l’apprentissage automatique.
Objectif
Can we decode the training data of a Deep Neural Network (DNN) directly from its parameters?
Training data of DNNs are assumed safe. Recent findings by us and by others indicate that this is not the case, with severe implications on Data-Privacy. Yet, such findings shed light on why DNNs perform so well.
On a different front: Can we decode what a person saw/heard/thinks directly from their brain activity?
This may have huge benefits: communicate with “locked-in” patients, explore dreams, man-machine interfaces, enhance our understanding of the human brain. No risk of violating human privacy here, as thoughts do not “float” in the air and person’s collaboration is required.
Each of those 2 questions is intriguing on its own, with far-reaching implications. Despite the inherent differences between Human Brains & DNNs, they also have much in common. Exploring the two in-tandem can lead to significant breakthroughs in both fields. Recent advancements in both areas, with recent incorporation of Deep-Learning (DL) tools to analyze brain activity, opens the door to explore the two jointly. Our expertise in both domains will enable explicit Encoding/Decoding between Brain activity & DNN activations, allowing to directly learn/infer from one about the other. Initial explorations indicate that our proposed goals, although ambitious, are within reach. Our intermediate goals in each domain are worthwhile on their own, forming a strong safety net.
Expected outcomes include:
•Deep Data-Privacy
•Insights on DNNs, their Generalization & Vulnerabilities
•Insights on of “what is encoded where” in the brain
•New scientific tools for brain-scientists to explore the brain
•Allow “locked-in” (ALS) patients to communicate their thoughts/needs
•Use Brain scanning to improve DNNs & DNNs to improve Brain scanning
Our project requires no human subjects nor BrainScience expertise; only publicly available datasets. All methods lie in Computer-Vision & DL, with impact on both DL & BrainScience.
Mots‑clés
Les mots-clés du projet tels qu’indiqués par le coordinateur du projet. À ne pas confondre avec la taxonomie EuroSciVoc (champ scientifique).
Les mots-clés du projet tels qu’indiqués par le coordinateur du projet. À ne pas confondre avec la taxonomie EuroSciVoc (champ scientifique).
Programme(s)
Programmes de financement pluriannuels qui définissent les priorités de l’UE en matière de recherche et d’innovation.
Programmes de financement pluriannuels qui définissent les priorités de l’UE en matière de recherche et d’innovation.
-
HORIZON.1.1 - European Research Council (ERC)
PROGRAMME PRINCIPAL
Voir tous les projets financés dans le cadre de ce programme
Thème(s)
Les appels à propositions sont divisés en thèmes. Un thème définit un sujet ou un domaine spécifique dans le cadre duquel les candidats peuvent soumettre des propositions. La description d’un thème comprend sa portée spécifique et l’impact attendu du projet financé.
Les appels à propositions sont divisés en thèmes. Un thème définit un sujet ou un domaine spécifique dans le cadre duquel les candidats peuvent soumettre des propositions. La description d’un thème comprend sa portée spécifique et l’impact attendu du projet financé.
Régime de financement
Régime de financement (ou «type d’action») à l’intérieur d’un programme présentant des caractéristiques communes. Le régime de financement précise le champ d’application de ce qui est financé, le taux de remboursement, les critères d’évaluation spécifiques pour bénéficier du financement et les formes simplifiées de couverture des coûts, telles que les montants forfaitaires.
Régime de financement (ou «type d’action») à l’intérieur d’un programme présentant des caractéristiques communes. Le régime de financement précise le champ d’application de ce qui est financé, le taux de remboursement, les critères d’évaluation spécifiques pour bénéficier du financement et les formes simplifiées de couverture des coûts, telles que les montants forfaitaires.
HORIZON-ERC - HORIZON ERC Grants
Voir tous les projets financés dans le cadre de ce programme de financement
Appel à propositions
Procédure par laquelle les candidats sont invités à soumettre des propositions de projet en vue de bénéficier d’un financement de l’UE.
Procédure par laquelle les candidats sont invités à soumettre des propositions de projet en vue de bénéficier d’un financement de l’UE.
(s’ouvre dans une nouvelle fenêtre) ERC-2023-ADG
Voir tous les projets financés au titre de cet appelInstitution d’accueil
La contribution financière nette de l’UE est la somme d’argent que le participant reçoit, déduite de la contribution de l’UE versée à son tiers lié. Elle prend en compte la répartition de la contribution financière de l’UE entre les bénéficiaires directs du projet et d’autres types de participants, tels que les participants tiers.
7610001 Rehovot
Israël
Les coûts totaux encourus par l’organisation concernée pour participer au projet, y compris les coûts directs et indirects. Ce montant est un sous-ensemble du budget global du projet.