C. Villani : des robots et des hommes, qui vaincra ?

Par 28 avril 2016
Villani C

Si les avancées en IA sont impressionnantes, l’arrivée d’une machine « généraliste » n’est pas tout à fait pour demain. Entretien avec Cédric Villani, mathématicien, directeur de l’Institut Poincaré.

Des robots et des hommes, qui gagnera ? Une interrogation « à la mode ». Les Coréens du Sud, et plusieurs millions de curieux à travers le monde se sont passionnés pour la question, à l'occasion du match qui a opposé un humain, Lee Se-Dol, maître du jeu de go, et l’AlphaGo, un programme développé par la filiale de Google, DeepMind.  Un match qui a signé la défaite à 4-1 d’un cador de la discipline, face à une machine. Une défaite qui traduit surtout les avancées conséquentes de l’apprentissage profond, le jeu de go étant l’un des bastions, des derniers jeux rétifs au doigté d’une machine.

Des robots et des hommes, qui vaincra. La question est-elle seulement pertinente ?

Des réponses nous ont été données par à un autre cador, roi en son pays, celui de la Mathématique : Cédric Villani.

Entretien.

L’Atelier : Il y a quelques semaines, s’est déroulée en Corée du Sud une bataille qui a particulièrement passionné les foules, celle entre le champion du monde du jeu de Go et l’AlphaGo, un programme informatique développé par Deep Mind, filiale de Google. Cet engouement raconte l’inquiétude d’une machine, qui pourra, au-delà de la simple réalisation de tâches manuelles basiques, s’attaquer demain aux tâches intellectuelles et à terme, nous remplacer. Est-ce pertinent de confronter ainsi cette notion d’intelligence artificielle à l’intelligence humaine ?

Cédric Villani : Oui, on parle beaucoup de l’intelligence artificielle. Nous sommes dans une période de progrès, d’une part, grâce à l’introduction de certains algorithmes efficaces, et d’autre part, au progrès considérable des capacités de mémoire et de rapidité. Avec ce progrès, on voit certains bastions historiques parmi les grands jeux, tels que le Go, tomber dans la compétition humain-machine.

Et évidemment, ça relance les spéculations, qui avaient lieu, dès les débuts de l’informatique, sur la possibilité de créer une intelligence artificielle perfectionnée. Perfectionnée, dans la mesure où elle serait, par exemple, capable d’écrire des romans, voire, d’inventer des théorèmes mathématiques, ou même capable d’éprouver des sentiments. Ces interrogations ont déjà été exprimées par Alan Turing, le père fondateur de l’informatique moderne dans les années 1950.

Certes, les performances de ces machines sont impressionnantes. Mais regardez la débauche de moyens, par rapport à ce qu’on peut faire avec un cerveau.

Pour l’instant, les intelligences humaines et artificielles sont de nature très différente, même si les techniques, dites d’apprentissage machine ont réintroduit une certaine part d’apprentissage naturel automatique par imprégnation, comme on le fait naturellement pour certaines tâches. Et ils ont introduit ça pour les algorithmes. Cependant, toutes les intelligences artificielles qui existent aujourd’hui, restent des intelligences artificielles très spécialisées. Même celle qui sait jouer au go mieux que n’importe qui, est incapable d’accomplir les tâches les plus banales de la vie courante. La question d’une intelligence artificielle généraliste, même pas très maline, mais qui serait capable de faire un peu tout, est encore grande ouverte. Certes, les performances de ces machines sont impressionnantes. Mais regardez la débauche de moyens, par rapport à ce qu’on peut faire avec un cerveau.

Finalement, ce que vous dites  est que la machine créative, ce n’est pas pour demain. Prenons, par exemple, les textes de Dostoïevski traduits par André Markowicz. Le jour où nos machines sauront faire preuve d’autant de sensibilité ou d’intuition qu’un André Markowicz n’est pas encore levé. 

Oui, ce n'est pas pour demain. Pour qu’une machine soit capable de réaliser une traduction en y mettant le style et l’émotion, il faudrait qu’elle ait une connaissance bien plus vaste que traduire. Il faut qu’elle soit capable de comprendre, ce qu'est une expérience de vie dans le cadre d’une vie humaine. C'est un problème de savoir comment faire une tâche créative sans commencer par apprendre à faire un peu tout, une intelligence généraliste.

Quand on se dirige, on se fie souvent à l’instinct, à l’intuition et à la notion d’esthétique. Instinctivement, on se laisse guider par la direction qui sonne le mieux. Et pouvoir faire sentir ça à une machine est une affaire considérable.

Si l’apport de la mathématique n’est plus à démontrer dans le domaine de l’informatique, quel est votre regard sur la possibilité de la résolution d’un problème mathématique par informatique ? Est-ce que demain, on pourra vérifier, dans un premier temps, un problème mathématique, voire le résoudre par la machine ?

Il faut bien distinguer les deux. Vérifier, c'est pour demain. La technologie est essentiellement là. Et une preuve mathématique est un objet suffisamment formalisé pour que ça puisse se vérifier. En revanche, le trouver est une autre paire de manches, parce qu’il naît dans un espace de possibles gigantesque. Et trouver la bonne stratégie parmi toutes celles possibles demande énormément de talent et d’ingrédients. On le sait très bien, nous, mathématiciens ; quand on se dirige, on se fie souvent à l’instinct, à l’intuition et à la notion d’esthétique. Intuitivement, instinctivement, on se laisse guider par la direction qui sonne le mieux. Et pouvoir faire sentir ça à une machine est une affaire considérable. La machine a l’avantage de pouvoir explorer les différentes combinaisons beaucoup plus rapidement que l’humain. Mais si elle n’est pas capable de trouver et d’avoir l’intuition de la direction vers où aller, elle va se retrouver piégée par cet océan de possibles, cette malédiction dimensionnelle comme on dit, parce qu’il y a tellement de choix possibles quand on veut faire une démonstration. En comparaison, le jeu d’échecs ou même le jeu de go sont des activités avec beaucoup moins de choix possibles.

Il est plus important de se concentrer sur tout ce qui nous reste à faire, et est à notre portée, que de commencer à sangloter, sur ce qui sera hors d’atteinte.

Est-ce qu’à contrario, le cerveau humain, face à ce progrès technologique exponentiel, sera capable, lui, de tout appréhender, d’appréhender certains résultats ou données en grande quantité ?

Il y a des choses qui resteront inaccessibles au cerveau humain. On peut parier que le cerveau va rester à peu près ce qu’il est. Sauf si on va dans le monde imaginé par les transhumanistes, où nous aurions des facultés cérébrales boostées, des mémoires raccordées, externes raccordées à notre cerveau. Ce n'est pas pour demain.

Sauf à se diriger dans cette direction-là, il y a des limitations au cerveau humain qu’on voit bien et dont on continue, et qu’on continuera à expérimenter. Ce qui est important est que même malgré ces limitations, il reste énormément de choses à découvrir, de choses parfois simples. Et chaque année qui passe le montre bien.

Il y a quantité de découvertes qui sont faites, encore appréhendables, et compréhensibles. Bien sûr, on ne peut jamais en comprendre les détails jusqu’au bout. Par exemple, on dit qu’il n'y a aucun humain sur terre capable de comprendre un smartphone dans ses moindres détails. Et chacun n’en a qu’une vue partielle. Mais il n’empêche qu’on peut comprendre le principe général. Et sur chacune des sous-parties, on peut comprendre comment ça fonctionne, quels sont les grands principes.

Il est plus important de se concentrer sur tout ce qui nous reste à faire, et est à notre portée, que de commencer à sangloter, sur ce qui sera hors d’atteinte.

La demande de data scientists est croissante. Est-on parés? Nos écoles fourmillent-elles de data scientists aspirants ?

Il y a plusieurs questions. L’une est si nous avons de bonnes filières de data scientists. La réponse est oui. Elles se sont montées dans les dernières années. Certaines grandes écoles, comme Télécom ou Mines et d’autres, se sont mises sur les rangs plus techniques. Les universités ont aussi commencé à construire leur filière. Nous avons des filières assez performantes, ici et là, en France.

Et la deuxième question est de savoir si nous en formons assez. Globalement, il en manque et on pourrait en former beaucoup plus. Les besoins de l’industrie sont considérables. De manière générale, nos effectifs sont très inférieurs à ce qu’ils pourraient être. Et s’il y a des jeunes qui me lisent, qui ont envie de se lancer dans la carrière en mathématique, il y a beaucoup plus de débouchés maintenant que par le passé. Le roi, en ce moment, est la data science - la science des grandes données avec la statistique. A tel point qu’on n’arrive pas à couvrir les besoins de l’industrie. Les domaines d’application sont considérables.

Dans le temps, on avait le problème de la mathématique financière qui avait pris un poids déraisonnable sur les filières mathématiques. Spécialiste de très grandes données est une compétence qui couvre beaucoup plus de domaines, que les mathématiques financières. Il ne faut pas oublier cependant les autres sujets. En particulier, nous avons toujours besoin plus que jamais de spécialistes de modélisations, de calculs scientifiques, de simulations d’équations et dérivées partielles.

Les troupes, - les jeunes étudiants sont le nerf de la guerre, et la ressource la plus précieuse d’un pays qui veut regarder vers l’avenir.

Il y aurait un manque de praticiens de la simulation ?

Dans toutes les branches mathématiques, les besoins exprimés par les applications sont énormes. Nous pouvons former beaucoup plus de gens que ce que nous avons actuellement. La question est l’enthousiasme des troupes. Et plus nous aurons de troupes enthousiastes, plus nous pourrons les former. Les troupes, - les jeunes étudiants sont le nerf de la guerre, et la ressource la plus précieuse d’un pays qui veut regarder vers l’avenir.

--

L’entretien est disponible dans son intégralité, en audio, ici (sur les accointances de l’art et de la mathématique) et encore . Initialement diffusée sur les ondes de BFM Business, dans l'émission "L'Atelier Numérique".

Les 3 et 30 mai 2016, Cédric Villani tiendra deux conférences, à la Maison des Métallos

En savoir plus

Et pour creuser le sujet de la créativité, en fort bonne compagnie, celle de Karol Beffa et Cédric Villani, leur recueil de conversations "Les coulisses de la création", paru chez Flammarion.

 

 

Mentions légales © L’Atelier BNP Paribas