Skip to main content
Weiter zur Homepage der Europäischen Kommission (öffnet in neuem Fenster)
Deutsch de
CORDIS - Forschungsergebnisse der EU
CORDIS

Autonomous Linguistic Emergence in neural Networks

Projektbeschreibung

Kommunikation mit tiefen neuronalen Netzen nach dem Vorbild menschlicher Sprache

Tiefe neuronale Netze sind Algorithmen des maschinellen Lernens, die darauf abzielen, die Informationsverarbeitung des Gehirns zu nachzuahmen. Sie stellen eine vielversprechende Lösung für die Einführung von KI in unseren Alltag dar, vom selbstfahrenden Auto bis hin zu Smartphones und Spielen. Das EU-finanzierte Projekt ALiEN schlägt vor, die Schnittstelle zu tiefen neuronalen Netzen zu verbessern und eine universelle Sprache zu entwickeln, die leicht in unterschiedliche Anwendungen implementiert werden kann. Das Projekt orientiert sich an der menschlichen Sprache und zielt darauf ab, bestehende Schnittstellen durch allgemeine Kommunikationsprotokolle zu ersetzen. Die Forschenden werden eine Trainingsumgebung für die Interaktion mit tiefen neuronalen Netzen einrichten, die dazu beitragen wird, bestehende tiefe neuronale Netze zu optimieren und die mit realen Anwendungen verbundenen Komplexitäten zu bewältigen.

Ziel

Deep neural networks (DNNs) are specialized computational models lacking a standard interface. If a complex task requires different DNNs, an ad-hoc connection must be laboriously designed. Inspired by human language, ALiEN wants to replace such ad-hoc interfaces with generic communication protocols optimized for ease of learning by DNNs that might have different architectures and functions. ALiEN “languages” are not hand-crafted: they emerge by training DNNs to share information through communication, offering the scalability and robustness to noise that is an asset of learned systems.

A first set of experiments will study, in tightly controlled settings, the impact of input, training community size and communication channel on the expressiveness and ease of acquisition of emergent protocols. The emergence of general protocols will be encouraged by a training environment characterized by varied inputs and interaction among numerous DNNs. The best emerged protocols will also be taught in a supervised way to new DNNs, with the final aim of establishing a “universal” DNN language. Next, I will explore how emergent protocols can help interfacing out-of-the box, state-of-the-art DNNs, only requiring the addition of light input and output layers to existing pre-trained models. Finally, a simplified home automation use case will demonstrate the usefulness of emergent protocols in a scenario that features some of the complexities to be expected in real-life applications. The project will also thoroughly analyze the emerging protocols, with the concurrent aims of i) identifying and favoring features that make them more expressive and easier to learn; ii) enhancing interpretability; and iii) gathering scientific insights into communication emergence in a non-human “species”.

All in all, ALiEN will take a first bold step towards enabling autonomous DNN interaction, and thus genuinely adaptive AI systems.

Wissenschaftliches Gebiet (EuroSciVoc)

Schlüsselbegriffe

Programm/Programme

Thema/Themen

Finanzierungsplan

ERC-ADG - Advanced Grant

Alle im Rahmen dieses Finanzierungsinstruments finanzierten Projekte anzeigen

Aufforderung zur Vorschlagseinreichung

(öffnet in neuem Fenster) ERC-2020-ADG

Alle im Rahmen dieser Aufforderung zur Einreichung von Vorschlägen finanzierten Projekte anzeigen

Gastgebende Einrichtung

UNIVERSIDAD POMPEU FABRA
Netto-EU-Beitrag
€ 2 489 541,00
Adresse
PLACA DE LA MERCE, 10-12
08002 Barcelona
Spanien
Region
Este Cataluña Barcelona
Aktivitätstyp
Higher or Secondary Education Establishments
Links
Gesamtkosten
€ 2 489 541,00

Begünstigte (1)