Skip to main content
Aller à la page d’accueil de la Commission européenne (s’ouvre dans une nouvelle fenêtre)
français fr
CORDIS - Résultats de la recherche de l’UE
CORDIS

Autonomous Linguistic Emergence in neural Networks

Description du projet

Une communication par réseaux de neurones profonds inspirée du langage humain

Les réseaux neuronaux profonds (DNN) sont des algorithmes d’apprentissage automatique dont le propre est d’imiter le traitement de l’information par le cerveau. Les DNN constituent une solution prometteuse pour introduire l’IA dans notre vie quotidienne, des voitures à conduite autonome aux smartphones, en passant par les jeux. Le projet ALiEN, financé par l’UE, propose d’améliorer l’interface des DNN et de développer un langage universel susceptible d’être facilement mis en œuvre dans différentes applications. Le projet s’inspire du langage humain et vise à remplacer les interfaces existantes par des protocoles de communication génériques. Les chercheurs mettront en place un environnement d’entraînement à l’interaction pour les DNN, qui aidera à améliorer les DNN existants et à résoudre les complexités liées aux applications réelles.

Objectif

Deep neural networks (DNNs) are specialized computational models lacking a standard interface. If a complex task requires different DNNs, an ad-hoc connection must be laboriously designed. Inspired by human language, ALiEN wants to replace such ad-hoc interfaces with generic communication protocols optimized for ease of learning by DNNs that might have different architectures and functions. ALiEN “languages” are not hand-crafted: they emerge by training DNNs to share information through communication, offering the scalability and robustness to noise that is an asset of learned systems.

A first set of experiments will study, in tightly controlled settings, the impact of input, training community size and communication channel on the expressiveness and ease of acquisition of emergent protocols. The emergence of general protocols will be encouraged by a training environment characterized by varied inputs and interaction among numerous DNNs. The best emerged protocols will also be taught in a supervised way to new DNNs, with the final aim of establishing a “universal” DNN language. Next, I will explore how emergent protocols can help interfacing out-of-the box, state-of-the-art DNNs, only requiring the addition of light input and output layers to existing pre-trained models. Finally, a simplified home automation use case will demonstrate the usefulness of emergent protocols in a scenario that features some of the complexities to be expected in real-life applications. The project will also thoroughly analyze the emerging protocols, with the concurrent aims of i) identifying and favoring features that make them more expressive and easier to learn; ii) enhancing interpretability; and iii) gathering scientific insights into communication emergence in a non-human “species”.

All in all, ALiEN will take a first bold step towards enabling autonomous DNN interaction, and thus genuinely adaptive AI systems.

Champ scientifique (EuroSciVoc)

Mots‑clés

Programme(s)

Thème(s)

Régime de financement

ERC-ADG - Advanced Grant

Voir tous les projets financés dans le cadre de ce programme de financement

Appel à propositions

(s’ouvre dans une nouvelle fenêtre) ERC-2020-ADG

Voir tous les projets financés au titre de cet appel

Institution d’accueil

UNIVERSIDAD POMPEU FABRA
Contribution nette de l'UE
€ 2 489 541,00
Coût total
€ 2 489 541,00

Bénéficiaires (1)