Opis projektu
Odczytywanie myśli na podstawie aktywności mózgu
Najnowsze odkrycia pokazują, że dane treningowe wykorzystywane przez głębokie sieci neuronowe mogą być odczytywane na podstawie ich parametrów, co rodzi poważne obawy dotyczące prywatności danych. Odkrycie to podważa powszechne przekonanie, według którego dane treningowe są bezpieczne, jednocześnie rzucając nowe światło na możliwości sieci neuronowych. Zespół finansowanego ze środków Europejskiej Rady ds. Badań Naukowych projektu MindReading poszukuje odpowiedzi na zbliżone pytanie - czy możemy dekodować doświadczenia sensoryczne lub myśli danej osoby na podstawie aktywności mózgu? Takie rozwiązanie może stanowić przełom w zakresie komunikacji z pacjentami z zespołem zamknięcia oraz przyczynić się do rozwoju interfejsów mózg-maszyna. Pomimo różnic, zarówno sieci neuronowe, jak i ludzkie mózgi łączy wiele cech wspólnych. Celem projektu jest opracowanie narzędzi przekładających aktywność mózgu na aktywacje sieci neuronowych, co przyczyni się do rozwoju obu dziedzin i doprowadzi do opracowania innowacji w zakresie prywatności oraz uczenia maszynowego.
Cel
Can we decode the training data of a Deep Neural Network (DNN) directly from its parameters?
Training data of DNNs are assumed safe. Recent findings by us and by others indicate that this is not the case, with severe implications on Data-Privacy. Yet, such findings shed light on why DNNs perform so well.
On a different front: Can we decode what a person saw/heard/thinks directly from their brain activity?
This may have huge benefits: communicate with “locked-in” patients, explore dreams, man-machine interfaces, enhance our understanding of the human brain. No risk of violating human privacy here, as thoughts do not “float” in the air and person’s collaboration is required.
Each of those 2 questions is intriguing on its own, with far-reaching implications. Despite the inherent differences between Human Brains & DNNs, they also have much in common. Exploring the two in-tandem can lead to significant breakthroughs in both fields. Recent advancements in both areas, with recent incorporation of Deep-Learning (DL) tools to analyze brain activity, opens the door to explore the two jointly. Our expertise in both domains will enable explicit Encoding/Decoding between Brain activity & DNN activations, allowing to directly learn/infer from one about the other. Initial explorations indicate that our proposed goals, although ambitious, are within reach. Our intermediate goals in each domain are worthwhile on their own, forming a strong safety net.
Expected outcomes include:
•Deep Data-Privacy
•Insights on DNNs, their Generalization & Vulnerabilities
•Insights on of “what is encoded where” in the brain
•New scientific tools for brain-scientists to explore the brain
•Allow “locked-in” (ALS) patients to communicate their thoughts/needs
•Use Brain scanning to improve DNNs & DNNs to improve Brain scanning
Our project requires no human subjects nor BrainScience expertise; only publicly available datasets. All methods lie in Computer-Vision & DL, with impact on both DL & BrainScience.
Słowa kluczowe
Słowa kluczowe dotyczące projektu wybrane przez koordynatora projektu. Nie należy mylić ich z pojęciami z taksonomii EuroSciVoc dotyczącymi dziedzin nauki.
Słowa kluczowe dotyczące projektu wybrane przez koordynatora projektu. Nie należy mylić ich z pojęciami z taksonomii EuroSciVoc dotyczącymi dziedzin nauki.
Program(-y)
Wieloletnie programy finansowania, które określają priorytety Unii Europejskiej w obszarach badań naukowych i innowacji.
Wieloletnie programy finansowania, które określają priorytety Unii Europejskiej w obszarach badań naukowych i innowacji.
-
HORIZON.1.1 - European Research Council (ERC)
GŁÓWNY PROGRAM
Wyświetl wszystkie projekty finansowane w ramach tego programu
Temat(-y)
Zaproszenia do składania wniosków dzielą się na tematy. Każdy temat określa wybrany obszar lub wybrane zagadnienie, których powinny dotyczyć wnioski składane przez wnioskodawców. Opis tematu obejmuje jego szczegółowy zakres i oczekiwane oddziaływanie finansowanego projektu.
Zaproszenia do składania wniosków dzielą się na tematy. Każdy temat określa wybrany obszar lub wybrane zagadnienie, których powinny dotyczyć wnioski składane przez wnioskodawców. Opis tematu obejmuje jego szczegółowy zakres i oczekiwane oddziaływanie finansowanego projektu.
System finansowania
Program finansowania (lub „rodzaj działania”) realizowany w ramach programu o wspólnych cechach. Określa zakres finansowania, stawkę zwrotu kosztów, szczegółowe kryteria oceny kwalifikowalności kosztów w celu ich finansowania oraz stosowanie uproszczonych form rozliczania kosztów, takich jak rozliczanie ryczałtowe.
Program finansowania (lub „rodzaj działania”) realizowany w ramach programu o wspólnych cechach. Określa zakres finansowania, stawkę zwrotu kosztów, szczegółowe kryteria oceny kwalifikowalności kosztów w celu ich finansowania oraz stosowanie uproszczonych form rozliczania kosztów, takich jak rozliczanie ryczałtowe.
HORIZON-ERC - HORIZON ERC Grants
Wyświetl wszystkie projekty finansowane w ramach tego programu finansowania
Zaproszenie do składania wniosków
Procedura zapraszania wnioskodawców do składania wniosków projektowych w celu uzyskania finansowania ze środków Unii Europejskiej.
Procedura zapraszania wnioskodawców do składania wniosków projektowych w celu uzyskania finansowania ze środków Unii Europejskiej.
(odnośnik otworzy się w nowym oknie) ERC-2023-ADG
Wyświetl wszystkie projekty finansowane w ramach tego zaproszeniaInstytucja przyjmująca
Kwota netto dofinansowania ze środków Unii Europejskiej. Suma środków otrzymanych przez uczestnika, pomniejszona o kwotę unijnego dofinansowania przekazanego powiązanym podmiotom zewnętrznym. Uwzględnia podział unijnego dofinansowania pomiędzy bezpośrednich beneficjentów projektu i pozostałych uczestników, w tym podmioty zewnętrzne.
7610001 Rehovot
Izrael
Ogół kosztów poniesionych przez organizację w związku z uczestnictwem w projekcie. Obejmuje koszty bezpośrednie i pośrednie. Kwota stanowi część całkowitego budżetu projektu.