Des intelligences TRÈS artificielles

Jean-Louis Dessalles

• Éditeur: Odile Jacob
• Année: 2019
• Imprimer l'ISBN: 9782738147141
• ISBN de l'eBook: 9782738147158
• Sujet: Informatique
• Sujet: Sciences générales de l'informatique

L'« IA » fait de plus en plus souvent la une des médias. Les mystérieux algorithmes de nos ordinateurs sont champions du monde d'échecs et de go, ils vont conduire nos voitures, traduire automatiquement en n'importe quelle langue, voire imiter nos modes de raisonnement. Hélas, ils ne savent même pas qu'ils sont intelligents. Pour le dire plus clairement, ils ne savent rien. Tout ce que peuvent manifester les ordinateurs dotés des techniques les plus récentes d'IA est une intelligence qui ne comprend rien – du réflexe sans réflexion. Certains de nos mécanismes cognitifs, patiemment mis au point par l'évolution biologique, comme la recherche de la simplification et de la structure des phénomènes, sont encore hors de portée des machines, contraintes d'approcher au plus près de nos modes de raisonnement sans jamais les reproduire vraiment. Le fantasme de la machine qui sait tout a donc de beaux jours devant lui, même si les progrès de l'IA posent avec toujours plus d'acuité la lancinante question de savoir si une véritable intelligence peut être produite par des circuits de silicium. Jean-Louis Dessalles est enseignant-chercheur à Télécom ParisTech. Il utilise l'intelligence artificielle pour démonter les mécanismes de l'intelligence humaine, notamment en ce qui concerne le langage et le raisonnement. 

CHAPITRE 1

Les promesses de l’intelligence artificielle

---

Les chercheurs en intelligence artificielle ont beaucoup promis. Certains paris sur l’avenir se sont révélés bien trop risqués. Nous le savons maintenant, mais pouvions-nous nous en douter à l’époque de leur formulation ? Peut-être les auteurs de ces prédictions folles ont-ils péché par naïveté, ou se sont-ils laissé griser par l’effet de leurs annonces sur les médias. Toujours est-il que ces moments d’euphorie ont été suivis de périodes beaucoup plus modestes, bien trop modestes à mon goût, où l’intelligence artificielle n’osait plus parler d’elle-même et où « IA » ne signifiait rien de plus qu’« informatique avancée ». Qu’en est-il de la période actuelle ? Ne retombons-nous pas dans ce même travers des promesses folles, qui risque de déclencher à nouveau un scepticisme lui aussi exagéré ?

Rêves fous

Le domaine de l’intelligence artificielle repose sur une utopie. Une étudiante typique qui révise son cours de résistance des matériaux et se destine à une carrière dans le génie civil rêve peut-être de réaliser des ponts plus beaux et plus longs que tous les ponts existants. Pour autant, elle ne décrira probablement pas son activité professionnelle comme orientée vers un but qui reste pour longtemps hors d’atteinte et qu’elle risque de ne pas voir de son vivant. De nombreux chercheurs et ingénieurs en intelligence artificielle, et j’en fais partie, conçoivent leur travail comme orienté vers un objectif mythique, celui de voir émerger une machine vraiment intelligente. Nous avons bien sûr des objectifs à plus court terme. Nous différons aussi sur la signification de ce « vraiment ». Mais le domaine de l’intelligence artificielle est indissociable d’une part de rêve.

En 1950, le mathématicien Alan Turing décrit son rêve dans un article devenu célèbre. Dans la vision de Turing, une machine doit être considérée comme intelligente si elle est capable de se montrer pertinente au cours d’une conversation1 où elle tente d’imiter un humain. Ce test, connu sous le nom de « jeu de l’imitation », a donné son titre à un célèbre film sur la vie de Turing. Son critère pour définir ce que serait une intelligence artificielle s’accompagne d’une prédiction :

Je crois que d’ici une cinquantaine d’années, il sera possible de programmer des ordinateurs avec une capacité de stockage d’environ 10⁹ [bits] pour leur faire jouer le jeu d’imitation tellement bien qu’un interrogateur moyen n’aura pas plus de 70 % de chances de faire la bonne identification après cinq minutes d’interrogatoire.

Turing est conscient qu’il se réfère à une utopie, et il se justifie :

L’opinion populaire selon laquelle les scientifiques procèdent inexorablement de faits bien établis en faits bien établis, sans jamais être influencés par des conjectures non prouvées, est tout à fait erronée. Tant que l’on précise quels sont les faits prouvés et quelles sont les conjectures, aucun mal ne peut en résulter. Les conjectures sont d’une grande importance puisqu’elles suggèrent des pistes de recherche utiles.

La prédiction de Turing se retrouve dans le célèbre film de Stanley Kubrick 2001 : l’Odyssée de l’espace. Le film, réalisé en 1968, met en scène un ordinateur prénommé HAL capable de soutenir une conversation parfaitement sensée avec les astronautes. À l’époque, l’« an 2000 » avait encore une résonance futuriste et il était tout à fait raisonnable d’imaginer qu’une telle machine pût être encore conçue et réalisée dans le délai imparti par Turing. Inutile de préciser à quel point cette anticipation a été déçue. Je me souviens d’avoir demandé à mes étudiants, en 2001, s’ils pensaient que HAL pourrait exister en 2051, soit à un horizon aussi éloigné que lorsque Turing émit sa conjecture. Je faisais moi-même partie des optimistes, mais j’étais accompagné par moins de la moitié de l’auditoire.

L’ordinateur pertinent imaginé par Turing n’est pas la seule prédiction ratée du monde de l’intelligence artificielle. Au milieu des années 1950, les États-Unis et l’URSS ont dépensé des millions de dollars pour réaliser des traductions automatiques. Engagés dans la guerre froide, chacun de ces deux pays avait un besoin pressant d’informations sur tout ce qui se publiait de l’autre côté. En 1962, le chercheur italien Silvio Ceccato pouvait écrire2 que le système réalisé par la société IBM

produit des résultats étonnamment excellents. La seule chose qui ralentit maintenant la production de traductions par cette machine est le problème de l’introduction des textes dans la machine, ce qui, en l’absence d’un dispositif de lecture automatique adéquat, doit reposer sur les productions d’un dactylographe hautement qualifié.

Ce type de constat n’a pas tardé à être reconnu comme illusoire. Certaines voix se sont élevées pour qualifier de déraisonnables les ambitions de la traduction automatique, entraînant des conséquences dramatiques pour ce domaine de recherche qui a vu ses subventions brusquement coupées3. Le chercheur Victor Yngve pouvait ainsi observer4 dès 1964 que :

le travail de traduction mécanique s’est heurté à une barrière sémantique… Nous nous sommes trouvés face au constat que nous n’aurons des traductions automatisées que lorsque la machine pourra « comprendre » ce qu’elle est en train de traduire, ce qui constitue une tâche très difficile.

Il est remarquable que plus d’un demi-siècle plus tard, à une époque où la traduction automatique réalise des progrès considérables, Yngve pourrait encore faire la même déclaration sans en modifier un seul mot.

D’autres prédictions erronées concernant l’avenir de l’intelligence artificielle ont été émises par des chercheurs de premier plan. Le grand psychologue Herbert Simon5 a ainsi pris des risques en prédisant en 1958 que, avant dix ans : un ordinateur serait champion du monde d’échecs (cela ne devint possible qu’à la fin des années 1990) ; un ordinateur découvrirait un important théorème mathématique (ce qui n’est encore jamais arrivé) ; un ordinateur composerait de la musique « qui serait acceptée par les critiques comme ayant une réelle valeur esthétique ». Simon n’est pourtant pas le premier venu. Il était connu pour avoir conçu avec son collègue Allen Newell, dès les années 1950, les premiers programmes capables de produire des théorèmes de logique et de résoudre des problèmes formulés sous forme logique. Il reçut le prix Nobel d’économie en 1978 pour ses travaux sur la psychologie de la décision. Comment quelqu’un qui, comme lui, était parfaitement au fait non seulement des capacités des machines de l’époque, mais également de la puissance du raisonnement humain, a-t-il pu à ce point se tromper sur l’avenir de l’IA ? D’autant que le même Herbert Simon a récidivé en 1965, annonçant que « les machines seront capables, d’ici vingt ans, de réaliser n’importe quelle tâche accessible à l’homme6 ». D’autres auteurs fameux ont eux aussi fait montre d’un optimisme exagéré. Marvin Minsky, un autre père fondateur de l’intelligence artificielle7, déclare en 1967 :

Je suis convaincu qu’en une génération peu de compétences intellectuelles resteront hors du domaine des machines – le problème de créer une « intelligence artificielle » sera pour l’essentiel résolu.

On peut se dire que ces chercheurs, grisés par leurs premiers succès et aveuglés par leur enthousiasme, étaient déconnectés des réalités. Mais que dire du projet visant à créer la « cinquième génération » d’ordinateurs ? Pendant la décennie 1980, le gouvernement japonais a injecté l’équivalent d’un demi-milliard en euros actuels8 pour tenter de créer une nouvelle forme d’informatique ancrée sur l’intelligence artificielle. Il s’agissait de construire des machines adaptées au traitement logique des connaissances, bien différentes des ordinateurs séquentiels de l’époque (qui représentent encore la quasi-totalité des ordinateurs actuels). L’espoir était de changer la manière de programmer les ordinateurs, passant d’un mode impératif où l’on donne à la machine la suite des opérations à effectuer, à un mode déclaratif où l’on se contente d’indiquer à la machine les contraintes du problème à résoudre. L’idée était belle. Elle reposait pour une part sur le choix d’un langage de programmation unique en son genre, Prolog. L’initiative nipponne a été commentée dans le monde entier, et particulièrement en France puisque c’est dans ce pays que Prolog était né une décennie plus tôt9. Prolog est un langage remarquable à bien des égards. Je l’affectionne particulièrement et je l’utilise encore à l’occasion dans ma recherche et mon enseignement. Mais, là encore, l’ambition du projet de cinquième génération d’ordinateurs s’est révélée démesurée. Les recherches qu’il a suscitées, quoique intéressantes, ont permis de constater la naïveté des objectifs affichés au départ.

Ces chercheurs ont consacré des années de recherche passionnée à l’avancement de l’IA. Mais, avec le recul, leurs rêves fous d’une intelligence artificielle prête à éclore m’évoquent, et je dis cela avec toute la déférence que je dois à ces grands pionniers, la charge d’un Don Quichotte s’imaginant que la tâche qui l’attend est à la mesure de ses armes et de son courage. Pour cela, et contre les sceptiques et les blasés, ma sympathie est du côté de ces chercheurs « qui y ont cru ». Le problème ne vient pas du travail qu’ils ont accompli, qui est remarquable et inspirant. Il ne vient pas non plus du fait qu’ils se sont trompés. Le point problématique est qu’ils ont utilisé leur position d’autorité pour présenter leurs souhaits et leurs conjectures comme des prédictions vraisemblables. L’analogie avec la situation que nous vivons en ce moment vient immédiatement à l’esprit. Les cauchemars de super-intelligences capables de prendre le contrôle de l’humanité ne sont-ils pas aussi fous que les rêves fous des pères fondateurs ?

Une machine qui sait tout

Les rêves des Simon, Minsky et autres ont donné lieu à des concrétisations bien plus raisonnables. Au départ, il s’agissait de fournir à la machine des connaissances sur un domaine très limité, par exemple les pathologies de la tomate10. C’est ainsi que sont nés les « systèmes experts ». Ces programmes intelligents ont eu un certain succès dans l’industrie et dans des domaines comme la médecine. Je me souviens d’un système expert utilisé par la compagnie ferroviaire nationale11 pour optimiser le routage des trains, notamment en banlieue parisienne, permettant ainsi aux aiguilleurs de s’adapter bien plus rapidement à la survenue d’événements imprévus comme des retards permutant les arrivées, ou des interventions neutralisant une voie. Les systèmes experts se sont banalisés sous le nom de « systèmes à base de connaissances ». Ils représentent le premier vrai succès de l’IA.

Avec les systèmes experts, l’IA se présentait sous un jour tout à fait paradoxal et inattendu. Les machines pouvaient faire jeu égal, dans un domaine spécialisé, avec les meilleurs spécialistes de ce domaine, autrement dit avec ce que l’intelligence humaine pouvait produire de mieux. Les programmes pouvaient produire des diagnostics médicaux susceptibles d’améliorer significativement les performances de médecins spécialisés12. En revanche, les systèmes à base de connaissances voyaient leur efficacité chuter dès lors qu’on les appliquait à des sujets plus quotidiens. Tous les humains sont des experts de la vie quotidienne : nous savons comment déplacer les objets sans les briser et passer l’aspirateur sans rien renverser ; nous avons l’idée de plier un papier en huit pour caler une table branlante. Nous avons cependant besoin d’années de formation pour acquérir une spécialité avancée, comme pianiste, avocat, ajusteur ou médecin. Pou...

Table des matières

• Couverture
• Titre
• Copyright
• INTRODUCTION - L'ultime invention de l'être humain ?
• CHAPITRE 1 - Les promesses de l'intelligence artificielle
• CHAPITRE 2 - Les prouesses de l'intelligence artificielle numérique
• CHAPITRE 3 - Dangers réels et dangers fantasmés
• CHAPITRE 4 - L'IA zombie : savoir faire sans rien savoir
• CHAPITRE 5 - Du réflexe à la réflexion
• CHAPITRE 6 - Ce que l'intelligence veut dire
• Notes
• Index
• Remerciements
• Table
• Du même auteur