Projektbeschreibung
Künstliche Akteure durch computergestützte Modellierung verstehen
Es ist enorm wichtig, zu verstehen, wie künstliche Akteure lernen, Schlüsse ziehen und Entscheidungen fällen. Finanziert über den Europäischen Forschungsrat werden daher im Projekt TACOS Mittel aus der kognitiven Psychologie eingesetzt, um das Verhalten undurchschaubarer künstlicher Akteure zu verbessern. Konkret geht es um KI-Modelle mit allgemeinem Verwendungszweck und große neuronale Netzwerke mit Milliarden Parametern. Über psychologische Paradigmen werden diese Modelle untersucht und ihr Verhalten mittels computergestützter Modellierung bewertet. Außerdem wird das Team das Verhalten mit Methoden der kognitiven Therapie verfeinern. Das Ergebnis sollen transparente und menschenähnliche Akteure sein. Gleichzeitig wird ein interdisziplinäres Forschungsgebiet gestärkt, das an der Schnittstelle zwischen kognitiver Psychologie und KI-Forschung liegt.
Ziel
With the advent of capable artificial agents comes the urgency to improve our understanding of how they learn, reason, and decide. This proposal aims to shape a new field of artificial cognitive science in which tools from cognitive psychology are used to understand and improve the behavior of the notoriously opaque artificial agents to which we increasingly delegate autonomy and authority. We will focus on the newly-emerged, disruptive, and increasingly powerful foundation models, huge neural networks with billion of parameters that are trained on hundreds of billions of words, and study them using tools from cognitive psychology. We will subject these models to experimental paradigms from the psychological literature and analyze their trial-by-trial behavior using detailed computational modeling. Psychological paradigms have been engineered to uncover precisely the mechanisms that underpin behavior. We will use cognitive psychology to study and improve prompt engineering, i.e. the design of textual inputs to these models that lead to a desired behavior. Afterward, we will build large cognitive benchmarks to assess foundation models' learning, decision-making, and reasoning abilities in both the pure language and the combined language and vision domains. Finally, we will attempt to improve these models' behavior using cognitive therapy. This proposal will help to create transparent and human-like agents and define an innovative and interdisciplinary research field in which cognitive psychologists and artificial intelligence researchers jointly examine and improve intelligent systems.
Wissenschaftliches Gebiet (EuroSciVoc)
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: Das European Science Vocabulary.
CORDIS klassifiziert Projekte mit EuroSciVoc, einer mehrsprachigen Taxonomie der Wissenschaftsbereiche, durch einen halbautomatischen Prozess, der auf Verfahren der Verarbeitung natürlicher Sprache beruht. Siehe: Das European Science Vocabulary.
Sie müssen sich anmelden oder registrieren, um diese Funktion zu nutzen
Wir bitten um Entschuldigung ... während der Ausführung ist ein unerwarteter Fehler aufgetreten.
Sie müssen sich authentifizieren. Ihre Sitzung ist möglicherweise abgelaufen.
Vielen Dank für Ihr Feedback. Sie erhalten in Kürze eine E-Mail zur Übermittlungsbestätigung. Wenn Sie sich für eine Benachrichtigung über den Berichtsstatus entschieden haben, werden Sie auch im Falle einer Änderung des Berichtsstatus benachrichtigt.
Schlüsselbegriffe
Schlüsselbegriffe des Projekts, wie vom Projektkoordinator angegeben. Nicht zu verwechseln mit der EuroSciVoc-Taxonomie (Wissenschaftliches Gebiet).
Schlüsselbegriffe des Projekts, wie vom Projektkoordinator angegeben. Nicht zu verwechseln mit der EuroSciVoc-Taxonomie (Wissenschaftliches Gebiet).
Programm/Programme
Mehrjährige Finanzierungsprogramme, in denen die Prioritäten der EU für Forschung und Innovation festgelegt sind.
Mehrjährige Finanzierungsprogramme, in denen die Prioritäten der EU für Forschung und Innovation festgelegt sind.
-
HORIZON.1.1 - European Research Council (ERC)
HAUPTPROGRAMM
Alle im Rahmen dieses Programms finanzierten Projekte anzeigen
Thema/Themen
Aufforderungen zur Einreichung von Vorschlägen sind nach Themen gegliedert. Ein Thema definiert einen bestimmten Bereich oder ein Gebiet, zu dem Vorschläge eingereicht werden können. Die Beschreibung eines Themas umfasst seinen spezifischen Umfang und die erwarteten Auswirkungen des finanzierten Projekts.
Aufforderungen zur Einreichung von Vorschlägen sind nach Themen gegliedert. Ein Thema definiert einen bestimmten Bereich oder ein Gebiet, zu dem Vorschläge eingereicht werden können. Die Beschreibung eines Themas umfasst seinen spezifischen Umfang und die erwarteten Auswirkungen des finanzierten Projekts.
Finanzierungsplan
Finanzierungsregelung (oder „Art der Maßnahme“) innerhalb eines Programms mit gemeinsamen Merkmalen. Sieht folgendes vor: den Umfang der finanzierten Maßnahmen, den Erstattungssatz, spezifische Bewertungskriterien für die Finanzierung und die Verwendung vereinfachter Kostenformen wie Pauschalbeträge.
Finanzierungsregelung (oder „Art der Maßnahme“) innerhalb eines Programms mit gemeinsamen Merkmalen. Sieht folgendes vor: den Umfang der finanzierten Maßnahmen, den Erstattungssatz, spezifische Bewertungskriterien für die Finanzierung und die Verwendung vereinfachter Kostenformen wie Pauschalbeträge.
HORIZON-ERC - HORIZON ERC Grants
Alle im Rahmen dieses Finanzierungsinstruments finanzierten Projekte anzeigen
Aufforderung zur Vorschlagseinreichung
Verfahren zur Aufforderung zur Einreichung von Projektvorschlägen mit dem Ziel, eine EU-Finanzierung zu erhalten.
Verfahren zur Aufforderung zur Einreichung von Projektvorschlägen mit dem Ziel, eine EU-Finanzierung zu erhalten.
(öffnet in neuem Fenster) ERC-2023-STG
Alle im Rahmen dieser Aufforderung zur Einreichung von Vorschlägen finanzierten Projekte anzeigenGastgebende Einrichtung
Finanzieller Nettobeitrag der EU. Der Geldbetrag, den der Beteiligte erhält, abzüglich des EU-Beitrags an mit ihm verbundene Dritte. Berücksichtigt die Aufteilung des EU-Finanzbeitrags zwischen den direkten Begünstigten des Projekts und anderen Arten von Beteiligten, wie z. B. Dritten.
85764 Neuherberg
Deutschland
Die Gesamtkosten, die dieser Organisation durch die Beteiligung am Projekt entstanden sind, einschließlich der direkten und indirekten Kosten. Dieser Betrag ist Teil des Gesamtbudgets des Projekts.