Figurez-vous des dindes dans un enclos. Au début elles ont peur de l’éleveur qui leur apporte à manger. Puis elles s’habituent à lui. D’autant plus que ces derniers temps la nourriture se fait de plus en plus abondante. Ce monsieur est vraiment gentil. La situation des dindes n’a jamais été aussi bonne que… la veille de Noël, jour de leur abattage.
Nassim Nicolas Taleb nous conte cette histoire dans son livre sur le rôle du hasard, Le Cygne Noir, pour nous montrer le risque de projeter les données du passé pour avoir une vision du futur. C’est pourtant en dindes que nous transforme la vision scientiste d’une partie de la Silicon Valley, à coups de Big Data et d’Intelligence Artificielle (IA) !
Car si le Big Data n’existe pas – ou si peu, il en est de même pour l’IA.
S’il est évident qu’il est plus valorisant d’être « Big » que « Small » l’IA a, pour sa part, l’avantage denous faire frissonner. De peur (tous ces robots) et d’excitation (que de questions d’éthique enperspective). Or les IA ne sont « que » des algorithmes. La résultante du travail de l’hommecondamné, comme nous le savons depuis près d’un siècle grâce au théorème de Gödel, àl’incomplétude. Toute action humaine faillira, que ce soit en termes de sécurité nucléaire ou informatique ou de recréation de dinosaures – l’indétermination des systèmes complexes, commel’explique Ian à Ellis dans Jurassic Park. Algorithmes prédictifs, apprentissages profonds… c’est moins sexy que l’IA, les algorithmes ! Ce sont pourtant eux qui font le travail ! Mais s’ils s’avèrent moinsfantasmagoriques, ils restent malgré tout fascinants.
Tant qu’ils sont spécialisés, dans des environnements maîtrisés et des logiques linéaires, cesalgorithmes s’avèrent extrêmement performants (jeu de go), porteurs de bien des réalisations et des promesses (e-commerce, diagnostics médicaux). Mais quand il s’agit d’une IA générale, dont la vocation est de s’adapter au monde complexe qui nous entoure, au fait social, les résultats sont loin d’être probants. C’est le constat de Yann LeCun, l’un des pères de l’apprentissage profond : « Ce qui manque aux machines [pour dépasser l’homme], c’est l’intelligence générale ». De même, YoshuaBengio, l’un des autres pères déclare : « Nous nous battons pour rendre les machines un peu plus intelligentes mais elles sont si stupides ». D’ailleurs, qui avait prévu Trump ? La crise des subprimes ? Fukushima ? Facebook lui-même, le maître de l’IA, avait-il prédit ses malheurs ? Selon ses dires, il ne les avait même pas détectés !
Amazon, l’autre omniscient, s’acharne à me vendre les livres que j’ai écrit.
Alors, pourquoi cette histoire de dindes ?
Tout simplement parce que le concept de l’IA, adossé au Big Data, nous fait croire que nousmaîtrisons notre environnement, que nous pouvons prédire le futur, prendre des décisions en nous affranchissant de l’incertitude, tant au niveau des entreprises que des Etats.
Or, il s’agit d’un aveuglement qui, parce qu’il nous crée un monde de certitudes totalement fictif, peut nous être fatal – comme pour ces dindes.
Nous vivons dans un monde incertain où le hasard existe et continuera d’exister car cela lui est consubstantiel.
Que l’hubris de quelques-uns leur fasse se prendre pour des Dieux ou que la meute des offreurs de service en mal de valorisation et des startupers face à des investisseurs moutonniers utilisent ad nauseam, ce mot valise qu’est devenu l’IA, c’est là leur droit.
Ne soyons pas dupes, restons humains dans notre univers soumis au hasard.
L’IA dont on nous parle essaye de tirer parti d’un amalgame tendancieux entre une IA spécialiséequalifiée de « faible », celle que nous expérimentons aujourd’hui avec un certain succès (par exemple les algorithmes prédictifs et le machine learning), et une IA globale, dite « forte », autonome et transversale, dotée de conscience, qui tient du fantasme encore plus aujourd’hui qu’hier comme leprouve Gödel.
Alors la prochaine fois que vous sera asséné le pitch d’une entreprise vous présentant ses capacitésen IA, faites comme moi, pensez aux volatiles et lisez de la Science-Fiction car elle, au moins, aide à ouvrir notre esprit et ainsi à prendre à bras le corps l’incertitude de notre avenir.
PS : L’Etat Français veut faire de la France un champion de l’IA éthique, sur la base du rapport Villani.Nous ferait-il un nouveau Plan Calcul ? C’est en tout cas la preuve que nos élites raisonnent stratégieen jeu d’échec et non en jeu de go. Ces jeunes brillants pensent comme des vieux, confits de scientisme conformiste et bien-pensant. Descartes règne toujours en maître, laissant Montaignedans l’ombre. Dommage.