L’IA a besoin d’une petite touche d’humanité
La plupart des modèles d’apprentissage automatique (ML pour machine learning) sont conçus pour prendre des décisions de manière autonome sur la base de données collectées de manière passive. En ce sens, ils sont considérés comme un moyen de remplacer les humains dans certaines tâches. Mais cette approche reflète-t-elle la réalité? Pour Manuel Gomez Rodriguez, chercheur à l’Institut Max Planck pour les systèmes logiciels(s’ouvre dans une nouvelle fenêtre), la réponse est «non». «Dans la plupart des systèmes sociaux, informatiques et cyber-physiques, les décisions algorithmiques et humaines s’alimentent et s’influencent mutuellement», explique-t-il. Cela étant, il affirme que les modèles de ML doivent mieux refléter cette relation d’interdépendance. En d’autres termes, ce dont ces modèles et algorithmes ont besoin, c’est d’une touche d’humanité. Le projet HumanML(s’ouvre dans une nouvelle fenêtre), financé par l’UE, apporte cette touche.
Modèles d’apprentissage automatique centrés sur l’humain
Le projet, qui a reçu le soutien du Conseil européen de la recherche(s’ouvre dans une nouvelle fenêtre) (CER), a développé des modèles et des algorithmes de ML centrés sur l’humain, capables d’évaluer, de soutenir et d’améliorer le processus de prise de décision. «Nous voulions que nos modèles et nos algorithmes tiennent compte de la boucle de rétroaction entre les décisions algorithmiques et humaines et qu’ils apprennent à fonctionner à différents niveaux d’automatisation», explique Manuel Gomez Rodriguez, chercheur principal du projet. Les chercheurs ont également conçu des modèles capables à la fois d’anticiper la réaction des humains aux décisions des algorithmes et de fournir des informations exploitables sur la manière dont ils sont parvenus à ces décisions.
Deux têtes valent mieux qu’une, même si l’une d’entre elles est artificielle
Sur la base de ce plan, le projet a développé le tout premier algorithme de ML conçu spécifiquement pour soutenir la prise de décision humaine-IA. Il a également mené plusieurs grandes études sur des sujets humains qui ont démontré l’efficacité de ses modèles de ML centrés sur l’humain, une étape importante qui est souvent négligée par la communauté ML. «On dit que deux têtes valent mieux qu’une, et nos modèles fonctionnent essentiellement comme une tête supplémentaire, soutenant le processus de prise de décision humaine et, en fin de compte, fournissant une décision qui dépasse ce que pourrait produire un humain ou un algorithme agissant seul», souligne Manuel Gomez Rodriguez.
Positionner l’IA comme une solution d’aide à la décision
En mettant l’accent non plus sur la façon dont l’IA remplacera les humains, mais sur la façon dont elle peut nous aider, le projet HumanML modifie fondamentalement la façon dont les modèles et les algorithmes de ML sont évalués. «Ce changement de perspective minimise les dommages, les risques et les charges que les systèmes ML pourraient avoir sur le public et maximise au contraire leurs avantages sociétaux, en particulier dans le contexte de l’aide à la décision», conclut Manuel Gomez Rodriguez. Les travaux du projet ont été présentés lors de conférences de renom et publiés dans des revues spécialisées de premier plan. Le projet a également reçu le prix du meilleur article lors d’un séminaire sur l’IA et l’interaction humain-machine(s’ouvre dans une nouvelle fenêtre), dans le cadre de la conférence internationale 2023 sur l’apprentissage automatique(s’ouvre dans une nouvelle fenêtre). S’appuyant sur les résultats obtenus dans le cadre du projet HumanML, Manuel Gomez Rodriguez utilise à présent une subvention de consolidation du CER(s’ouvre dans une nouvelle fenêtre) pour étudier le rôle des contrefactuels dans l’esprit des machines.
