Descrizione del progetto
Comprendere le decisioni umane e garantire soluzioni di IA più spiegabili
In un’epoca in cui l’intelligenza artificiale (IA) ha raggiunto risultati notevoli, persiste una sfida di cruciale importanza: la sua interpretabilità. Sebbene i sistemi di IA spesso consentano di ottenere migliori prestazioni di quelle offerte dagli esseri umani in vari compiti, i loro processi decisionali rimangono opachi. Al contrario, gli esseri umani possono articolare le proprie strategie decisionali, anche se con una precisione variabile, consentendo la condivisione delle conoscenze nella società. Con il sostegno del programma di azioni Marie Skłodowska-Curie, il progetto REPORT-IT esplorerà il modo in cui gli esseri umani generano conoscenze misurabili durante l’apprendimento esperienziale. Gli esperimenti del progetto modellano ambienti di apprendimento complessi monitorando lo sviluppo della metacognizione, delle emozioni e delle conoscenze misurabili nel corso del tempo. In particolare, REPORT-IT si prefigge di verificare se questi sistemi sono in grado di replicare modelli di metacognizione ed emozioni simili a quelli umani.
Obiettivo
Current artificial intelligence (AI) surpasses human-level performance in a vast range of tasks. However, its decisional processes are opaque, referred to as the AI interpretability problem. Humans, on the other hand, can verbally describe their decisional processes and strategies. The accuracy of these reports varies, especially in complex environments. Yet, people often come up with reasonably accurate explanations for their decisions, thereby allowing knowledge transfer in society. However, the mechanisms of accurate verbal report generation remain unclear. Therefore, the main research objective of the REPORT-IT project is to study how humans generate adequate reportable knowledge during learning through experience. Inspired by the recent findings from research on metacognition (i.e. insight into one's own cognition) and cognition-emotion interaction, I will test the novel hypothesis that metacognition and learning-related affect support the emergence of reportable knowledge. In two experiments modeling complex learning environments (implicit category learning and probabilistic reward learning tasks), I will track the development of metacognition, affect, and reportable knowledge over time. This will allow me to evaluate the temporal relationships between these components and predict the emergence of reportable knowledge. In the final step of the project, I will study the behavior of deep neural networks (DNNs) in the exact same tasks and test whether DNNs can generate temporal patterns of metacognition and affect, as observed in humans. Thereby, the REPORT-IT project combines my expertise in implicit learning and affective science with expertise in neuroscience of consciousness and DNNs at the host institute (University of Amsterdam). This way, REPORT-IT will contribute to understanding how people generate reportable knowledge and, at the same time, provide new approaches for explainable AI.
Campo scientifico (EuroSciVoc)
CORDIS classifica i progetti con EuroSciVoc, una tassonomia multilingue dei campi scientifici, attraverso un processo semi-automatico basato su tecniche NLP. Cfr.: https://op.europa.eu/en/web/eu-vocabularies/euroscivoc.
CORDIS classifica i progetti con EuroSciVoc, una tassonomia multilingue dei campi scientifici, attraverso un processo semi-automatico basato su tecniche NLP. Cfr.: https://op.europa.eu/en/web/eu-vocabularies/euroscivoc.
È necessario effettuare l’accesso o registrarsi per utilizzare questa funzione
Siamo spiacenti… si è verificato un errore inatteso durante l’esecuzione.
È necessario essere autenticati. La sessione potrebbe essere scaduta.
Grazie per il tuo feedback. Riceverai presto un'e-mail di conferma dell'invio. Se hai scelto di ricevere una notifica sullo stato della segnalazione, sarai contattato anche quando lo stato della segnalazione cambierà.
Parole chiave
Programma(i)
- HORIZON.1.2 - Marie Skłodowska-Curie Actions (MSCA) Main Programme
Invito a presentare proposte
(si apre in una nuova finestra) HORIZON-MSCA-2022-PF-01
Vedi altri progetti per questo bandoMeccanismo di finanziamento
HORIZON-TMA-MSCA-PF-EF -Coordinatore
1012WX Amsterdam
Paesi Bassi