Développer des dispositifs d’IA auto-programmables
La technologie moderne dépend toujours plus de l’intelligence des machines. De nombreux processus de fabrication, objets intelligents et robots avancés reposent sur des mécanismes qui offrent une certaine forme de programmabilité. Or, ces programmes sont limités par le fait que leur logique repose sur des règles établies par des humains. Des problèmes peuvent survenir lorsque ces dispositifs sont confrontés à des situations nouvelles ou inconnues au-delà de ce pour quoi ils ont été conçus. «Les programmes s’exécutent souvent dans des circonstances inattendues», explique Giuseppe De Giacomo(s’ouvre dans une nouvelle fenêtre), professeur d’informatique à l’université d’Oxford. «Dans de nombreux domaines d’application, il est tout simplement trop coûteux et sujet aux erreurs de déléguer à des ingénieurs logiciels la tâche de répertorier et de gérer toutes les possibles tâches d’adaptation qui peuvent survenir lors de l’exécution du mécanisme.» Lorsque les applications doivent gérer des circonstances inattendues, qu’elles proviennent d’interactions avec le monde réel ou d’humains prenant des décisions basées sur des circonstances non modélisées, il est impossible de déterminer a priori toutes les adaptations possibles qui pourraient être nécessaires, explique-t-il. L’intelligence artificielle générative (GenAI) est considérée comme un puissant outil pour éviter les solutions préprogrammées au profit de solutions apprises et a été largement adoptée dans divers domaines dont la médecine. Et pourtant, nous ne savons toujours pas exactement comment ni pourquoi l’IA générative prend certaines décisions, ni si elles sont adaptées à la tâche visée. «Ces solutions ont un caractère de boîte noire, ce qui limite leur adoption dans les systèmes dits critiques pour la sécurité, où les décisions peuvent avoir de graves conséquences, par exemple de sûreté ou de sécurité», explique Giuseppe De Giacomo. Dans le cadre du projet WhiteMech, financé par le Conseil européen de la recherche(s’ouvre dans une nouvelle fenêtre), Giuseppe De Giacomo et son équipe ont commencé le développement d’outils pour créer des mécanismes d’auto-programmation en boîte blanche capables de générer eux-mêmes des comportements pour atteindre certains objectifs et, surtout, d’expliquer comment ils y sont parvenus.
Créer des mécanismes en boîte blanche transparents
Le projet WhiteMech a proposé des solutions d’auto-programmation basées sur un modèle mathématique de l’environnement dans lequel le système fonctionne et de la manière dont les actions du système impactent cet environnement. Le concept de «planification» en IA signifie généralement que considérant un modèle du monde et un objectif, elle calcule une série d’actions pour atteindre l’objectif. Or, les chercheurs du projet WhiteMech ont emprunté une voie plus nuancée, en créant des programmes capables d’effectuer des tâches complexes qui s’étendent dans le temps, comme franchir certaines étapes – éventuellement en fonction des observations recueillies lors de l’exécution – tout en restant toujours dans une zone sûre. Et tandis que de nombreuses entreprises informatiques vérifient systématiquement l’exactitude de leurs systèmes après coup, WhiteMech entendait développer des programmes capables d’effectuer automatiquement des tâches, un processus connu sous le nom de «synthèse réactive». «Dans le cadre de WhiteMech, nous souhaitons utiliser la synthèse réactive pendant que le système est en fonctionnement, c’est à dire que lorsqu’une circonstance exceptionnelle se manifeste, le système calcule et met en œuvre de manière autonome une réaction appropriée avec des garanties formelles d’exactitude», ajoute Giuseppe De Giacomo. L’équipe de WhiteMech a développé la science, les méthodologies, les algorithmes et les outils nécessaires pour résoudre ce problème fondamental qui consiste à créer des mécanismes d’auto-programmation en boîte blanche.
Susciter l’intérêt des industries intelligentes
Bien que WhiteMech soit un projet scientifique de base, les résultats ont déjà suscité l’intérêt de plusieurs communautés, notamment celles des usines intelligentes, de la robotique, des jumeaux numériques et de la gestion des processus d’entreprise. «Le nombre de citations que suscitent les articles scientifiques liés à WhiteMech témoigne clairement de cet intérêt», confie Giuseppe De Giacomo. L’équipe va poursuivre ses recherches, et revisiter les outils et les techniques en vue de le faire passer du laboratoire aux applications concrètes. WhiteMech a également ouvert de nouvelles voies de recherches plus poussées. Cela inclut l’utilisation de l’IA générative pour modéliser mathématiquement un espace (une pièce, par exemple), puis utiliser les techniques WhiteMech pour exécuter automatiquement ses tâches.
