Rebooting AI: le livre indispensable pour repenser l’intelligence artificielle
Par Thomas Gouritin, fondateur de Regards Connectés
Dans le domaine de l’intelligence artificielle, l’avènement du machine learning et du deep learning ont polarisé les espoirs et les peurs irrationnels véhiculés par les apôtres du soulèvement des machines. Le vernis n’est pourtant pas très épais, et facile à gratter.
Des voix du monde académique et du secteur privé s’élèvent pourtant, de plus en plus fortement, contre certaines dérives qui peuvent virer à l’idéologie. Gary Marcus, professeur de psychologie spécialiste du cerveau humain et de l’apprentissage, également entrepreneur à succès dans le machine learning, écrit sur le sujet depuis longtemps. Il propose en cette rentrée un ouvrage de référence sur le sujet, co-écrit avec son collègue Ernest Davis: “Rebooting AI : building artificial intelligence we can trust” (sortie le 10 septembre).
Une vision très différente de ce que nous vendent DeepMind et Elon Musk, plus proche des capacités réelles de ces “intelligences” mathématiques. Des machines qui n’ont aucune idée de ce qu’elles font avec les données qui leur servent de référence. Un réquisitoire clair et puissant pour refonder complètement les orientations de la recherche en IA, pour passer du “deep learning” au “deep understanding”.
Le deep learning ne comprend rien, il calcule et applique, sans trop savoir pourquoi
Dans la première partie du livre, les auteurs s’attachent à démontrer remettre AlphaGo et les autres IA “stars” à leurs places. Oui ce sont de beaux projets, mais elles sont basées sur des techniques anciennes et éprouvées. C’est bien la puissance des GPUs disponibles aujourd’hui qui fait la différence pour calculer un grand nombre de probabilité de jeu pour maximiser des gains. Le tout dans un domaine fermé (un plateau de jeu ou un jeu vidéo), où les aléas sont prévisibles et les règles fixées par les humains ou déductibles en quelques parties. On est très loin d’applications dans le monde réel et ouvert.
La vision par ordinateur, l’application de l’IA aujourd’hui la plus avancée, est rendue possible par l’analyse de millions de pixels dans des milliards d’exemples. Des images annotées à la main par l’homme font fonctionner des algorithmes qui paraissent autonomes et intelligents. Mais l’algorithme n’a aucune idée de ce qu’il voit, il sait simplement dire (avec un intervalle de confiance parfois limité) si ça ressemble à un lot d’images qu’il a dans sa base de données.
Pour le traitement du langage aussi, le deep learning est très limité. S’il peut fonctionner pour des cas simples de reconnaissance d’intentions, c’est plus compliqué pour passer à la compréhension puis à la génération de texte en autonomie. L’IA n’est pas capable de comprendre un texte et d’en sortir des informations clés, car elle n’a aucun moyen de comprendre les imbrications entre les phrases et, surtout, parce qu’elle n’a pas les concepts nécessaires pour comprendre le fond.
Gary Marcus et Ernest Davis montrent très bien toutes ces limites avec des exemples concrets, leur marque de fabrique tout au long de l’ouvrage. Leur conclusion ne surprendra pas les initiés: les machines établissent des corrélations par rapport aux données sur lesquelles elles se sont entraînées, mais n’ont aucune idée de ce que tout cela veut dire. Elle apprend, à partir de milliards d’exemples, à classifier des informations. Trouver la bonne stratégie pour gagner au Go, différencier des photos de chats et des photos de chiens, reconnaître des associations de mots. Dans tous les cas il s’agit de représentations mathématiques abstraites, qui n’ont aucune idée de ce qui se joue réellement. C’est là que le bât blesse.
Pour des modèles d’IA “hybrides” dignes de confiance
“La seule solution pour sortir de ce bourbier est de construire des machines équipées de sens commun, de modèles cognitifs, et d’outils puissants pour raisonner”.
Pour les auteurs, le machine learning seul ne permettra pas de résoudre les grands défis que l’intelligence artificielle paraît en mesure de régler: de l’urgence climatique au cancer. Ils ne veulent pour autant pas tout jeter, mais plutôt proposer une autre voie pour construire des modèles hybrides dans lesquels on ajoute une dose de sens et de raisonnement bien humain. Les techniques d’apprentissage machine d’aujourd’hui ne permettent pas d’inclure ces connaissances primaires. Pourtant, une machine en a besoin si nous voulons qu’elle réagisse “comme un humain” de façon logique et explicable. Malgré plusieurs tentatives sur lesquelles les auteurs reviennent par le menu, il n’y a pas encore de formalisme ni de base de “prior knowledge” unifiée.
Les auteurs mettent en avant de nombreuses questions qui auraient dû secouer la communauté du machine learning depuis longtemps. Pourquoi s’acharne-t-on à vouloir concevoir systèmes qui partent de zéro? Le mythe de l’auto-apprentissage a la peau dure. Mais pourquoi vouloir absolument partir d’une feuille blanche? Est-ce plus valorisant pour les équipes de recherche? L’effet “wahou” est-il plus vendeur?
Comment faire confiance à un algorithme “auto-apprenant” sans savoir à partir de quelles données il a été entraîné? La confiance est indispensable pour le développement d’une intelligence artificielle toujours plus imbriquée dans nos sociétés. Comme le pointent les auteurs de “Rebooting AI”: “la confiance dans l’intelligence artificielle commence par des bonnes pratiques d’ingénierie, définies par des lois et des standards industriels, deux prérequis aujourd’hui largement inexistants”.
Les modèles de machine et deep learning sont difficiles à auditer. Pour les auteurs cela vient, notamment, de leur conception par essai-erreur, sans prendre le temps de se poser les bonnes questions sur leur fonctionnement et les biais qui peuvent apparaître. L’objectif? Lancer un projet rapidement, et adapter ensuite. Pour Gary Marcus et Ernest Davis, cela pose de gros problèmes de confiance et de maintenance, pour des projets qui devraient pourtant être gérés avec la même exigence de qualité que les projets informatiques classiques. La fuite en avant du machine et du deep learning n’est ni très responsable, ni souhaitable sur le long terme. Il est bien temps de changer de braquet, et de rebooter tout un champ de recherche et ses applications.
L’intelligence artificielle générale n’existera pas sans un changement de paradigme Avec de nombreuses références historiques et beaucoup d’exemples concrets, Gary Marcus et Ernest Davis livrent un ouvrage indispensable pour qui veut prendre un peu de hauteur sur un sujet aussi important que fantasmé. La critique est parfaitement construite: des envolées marketing d’aujourd’hui et de leurs limites à des sujets plus techniques. Au cours de la lecture nous apprenons beaucoup, aussi bien sur le fonctionnement de l’intelligence biologique que sur les différentes branches de l’intelligence artificielle. L’accent est mis sur des sujets passionnants mais moins médiatiques que le machine learning. Les pistes d’orientation qu’ils défrichent pour la recherche sont elles aussi passionnantes, et très bien vulgarisées pour les non initiés.
Les auteurs partagent une vision optimiste sur les gains de l’intelligence artificielle pour l’humanité quand cette dernière aura atteint son réel potentiel. Mais pour eux, en suivant les chemins de recherche actuels, l’intelligence artificielle générale n’existera pas. Pourtant, une intelligence artificielle capable de comprendre le monde qui l’entoure serait une véritable révolution. Cela passe, selon Marcus et Davis, par de nouvelles façons de penser et de concevoir les IA afin de leur inculquer des valeurs, du sens commun et une vraie compréhension du monde.
Rebooting AI: building artificial intelligence we can trust, de Gary Marcus et Ernest Davis, sortie le 10 septembre 2019.
Les citations en italique ont été traduites de l’anglais par l’auteur de ce billet.
Le contributeur:
Thomas Gouritin accompagne les PME et les grands comptes dans leurs transformations, avec le numérique en appui. Producteur de la série Regards Connectés (chaîne Youtube et podcasts), il explore notre avenir technologique pour vulgariser des sujets complexes comme l’intelligence artificielle et faire passer des messages de pragmatisme à appliquer en entreprise.
Le sujet des chatbots est aujourd’hui incontournable, Thomas l’aborde de manière pragmatique avec, en plus de l’accompagnement projet, des conférences visant à démystifier le sujet sans «bullshit» et avec des workshops permettant à chacun de mettre les mains dans la conception pour comprendre, apprendre et faire.
Les contributeurs sont des auteurs indépendants de la Rédaction de FrenchWeb. Leurs propos et positions leurs sont personnels.
Nous ne diffusons pas de tribunes produites à des objectifs de RP, ou de SEO.
Pour communiquer sur FrenchWeb ou le Journal des RH, devenez partenaire, cliquez ici.
Je pense que cet article pourrait faire référence à la startup française AnotherBrain de Bruno Maisonnier. Au moins histoire de montrer que les idées ne viennent pas toujours des Etats-Unis :)