in

IA voté ! – Par Mélissa Périé, Responsable Conférences AI Paris 2020

L’intelligence artificielle est sur toutes les lèvres. De la santé au marketing, elle irait même se faufiler dans les parcours électoraux.

En France, comme Outre-Atlantique, l’année 2020 aurait dû connaître des matchs politiques mouvementés. C’est notamment ce que laissait penser les débuts des campagnes municipales et présidentielles en France et aux Etats-Unis. L’épidémie de Covid -19 en a décidé autrement et laisse place à des incertitudes sur le bon déroulé de ces élections. Cette traversée de crise sans précédent, est d’ailleurs une mise à l’épreuve supplémentaire pour les candidats.

Depuis quelques années, leaders d’opinions et médias ne sont plus les seuls à couvrir les campagnes électorales : les réseaux sociaux sont devenus le siège d’affrontements entre internautes, et un véritable terrain d’influence pour les élections.

Entre prédiction des résultats en 2016 et création de bots altérateurs d’opinions sur les réseaux sociaux, l’IA a-t-elle joué un rôle sur les résultats électoraux ? Qui tire les ficelles ? Quels sont les procédés pour déceler les malversations ?  Et quid d’une IA gouvernante ?

IA, dis-moi qui sera président

Depuis le début des années 30, médias et instituts de sondages détenaient seuls le pouvoir de prédiction des favoris lors d’élections. Entre temps, les algorithmes et le terrain d’expression qu’est devenu Internet, se sont unis pour le meilleur et pour le pire. A l’heure où les marques mettent les internautes sur écoute pour en savoir plus sur leurs centres d’intérêt, ou encore lorsqu’une intelligence artificielle prédit l’arrivée du coronavirus, certains en font de même avec la désignation des nouveaux dirigeants de ce monde.

Après l’élection 2016 de Donald Trump annoncée 15 jours avant les résultats par la start-up indienne Genic.ai, à l’aide de son outil de prédiction Mogai, Internet est plus que jamais devenu le livre ouvert des opinions. Entre 2016 et 2020, le taux de pénétration d’internet aux États-Unis est passé de 76% à 88%*. Face à cette hausse de fréquentation, et avec les capacités grandissantes des IA à pister nos recherches, analyser nos publications et interactions vocales, peut-on envisager une prédiction plus fine et plus précise ?

Le pouvoir de l’IA a pourtant ses limites. En 2017, une plateforme du même type que Mogaiprétendait un affrontement entre François Fillon et Marine Le Pen au second tour des présidentielles. En effet, quid des électeurs qui ne clament pas nécessairement leurs idées sur la toile ? Aussi, évoquer un candidat sur internet n’est pas systématiquement synonyme de soutien. Partant du principe que tout le monde n’exprime pas ses opinions, une prise de recul sur les résultats des IA s’impose.

IA propagande ?

Les GANS (Generative Adversarial Networks) sont un concept créé en 2014 par Ian Goodfellow, consistant en la reproduction d’images et de voix de façon réalistes. Cette technologie à base d’IA, a rapidement permis la création du tristement célèbre deepfake. Donald Trump annonçant la fin du SIDA, Obama injuriant ce dernier dans une vidéo… le réalisme est tel que le jeu de dupe et l’influence fonctionnent. Au-delà des deepfakes, les faux comptes automatisés et générés par des IA dits bots, catalyseurs de contenus, allant de la simple influence, à l’influence massive, voire à la calomnie.  Une prolifération de ce genre de comptes a été mise en évidence après l’élection de Trump en 2016, et aurait joué un rôle dans l’opinion publique.  En effet, l’aspiration des données de plus de 50 millions de personnes par la société Cambridge Analytica, auraient servi à créer un logiciel en mesure de prédire et d’influencer les votes des américains. Christopher Wylie, ancien employé avait d’ailleurs révélé : « Nous nous sommes servis de Facebook pour récupérer les profils de millions de personnes. Nous avons ainsi construit des modèles pour exploiter ces connaissances, et cibler leurs démons intérieurs ». La modique somme de 500 000 livres a été réclamée à Facebook et la société Cambridge Analytica a mis la clé sous la porte.

Conscients que les élections de 2016 ont été en partie influencées par ces procédés, le 3 février dernier, Youtube et Twitter se sont donc engagés à filtrer le maximum de contenus falsifiés ou manipulés. De fait, pour éviter de retomber dans les mêmes travers que 2016, les autorités ont donc serré les boulons aux GAFAM.

Maud Quessard, chercheuse sur les États-Unis à l’IRSEM (Institut de Recherche Stratégique de l’École Militaire) soulignait à l’antenne de France Culture en février dernier « c’est un travail de fourmi, puisqu’il faut filtrer les informations, les trier. On a recours à l’intelligence artificielle et à des algorithmes qui, au lieu de travailler sur le ciblage des utilisateurs, vont aussi travailler sur la vérification des informations. Et si une information fausse circule sur les réseaux et qu’un utilisateur clique dessus, il pourra se voir désormais proposer des contre-informations. On approche des procédés de fact checking. »  Qu’en est-il de la création d’une autorité régulatrice permanente à ce sujet ?

L’IA vs IA ? On dirait bien ! Sous couvert des élections à venir, il est également l’heure pour les GAFAM de « sécuriser leurs réseaux » ajoute Maud Quessard, pour maintenir une audience pérenne et plus saine. L’IA productrice de contenus falsifiés, mais également enquêtrice !

Haut les mains !

Durant la campagne 2019 des élections présidentielles canadiennes, Reihaneh Rabbany, enseignante en IA à McGill, et membre du MILA, Institut Québécois d’Intelligence Artificielle a mis au point avec son équipe un système d’exploration de données ayant le pouvoir de détecter anomalies et comportements suspicieux. Verdict : parmi le million de publications scannées, une multitude de bots sont découverts, avec pour dessein de proliférer des opinions malveillantes (#TrudeauMustGo ou encore #liberalsmustgo), ne faisant qu’intensifier les idées des électeurs connectés. La détection des personnes à l’origine de ces bots demeure d’une grande complexité. Les GAFAM ont récemment décidé d’unir leurs forces contre les deepfakes en créant tout bonnement le Deepfake challenge. Cette compétition qui a pris fin en mars et visant à lutter durablement contre les deepfakes via l’entraînement d’un algorithme, aurait eu tout intérêt à être prolongée jusqu’aux résultats des élections américaines… En quelques mois, l’algorithme gagnant a affiché un taux de détection de 65%. Pas suffisant selon Facebook qui ne compte pas arrêter d’entrainer cet algorithme aussi vite.

IA présidente !

IA manipulatrice, IA aux apparences trompeuses, mais IA candidate ! En 2018, au pays du soleil levant, un japonais a façonné une IA capable de se présenter aux élections municipales. Au centre de cette candidature pas des plus classiques, ce visionnaire souhaitait que toute décision politique soit prise par des algorithmes. Selon lui, impartialité et objection feraient la force de ses décisions. Cela peut paraître fou, pourtant selon le site The European Scientist qui met une lumière une étude réalisée en 2019 par le centre de recherche de l’université de IE Madrid auprès de 25 000 personnes dans 8 pays européens, 25% se laisseraient volontiers gouverner par des algorithmes, soit une personne sur 4.

Entre inquiétude et espoir d’un pouvoir de l’IA, la compréhension de sa prise de décision reste souvent opaque et présente un danger quant à la possibilité pour des algorithmes de gouverner ou d’influencer autrui. Cependant, malgré sa facilité à influencer l’opinion publique, l’élection d’une IA présidente est encore bien loin de voir le jour.

D’autres sont plus modérés quant à l’utilisation de l’IA en politique : Cédric Villani a récemment fait la promesse qu’une IA nettoiera les rues de Paris de façon intelligente en effectuant un tri des déchets efficace, s’il est élu maire de Paris. L’IA for good c’est possible !

L’intelligence artificielle aurait bien deux visages. Celui d’un militant invétéré au pouvoir proliférateur, et celui du justicier capable de détecter les malversations. IA vs IA ? Ou plus simplement, les acteurs de l’IA et les autorités ne devraient-ils tous pas s’investir durablement et encadrer ces dérives ? Et ainsi restaurer la démocratie qui semble s’être fragilisée ?

*Sondage réalisé par l’union internationale des télécommunications & Hootsuite pour les chiffres de 2020

Par Mélissa Périé, Responsable Conférences AI Paris 2020

Morgane
Morgane Palomo

Diplômée d'un master un brand management marketing, sa curiosité et sa soif de savoir ne sont étanchées. De nature créative, elle a su diversifier ses expériences. De la création graphique, à l'événementiel en passant par la communication interne et le marketing digital, elle s’est construit un savoir pluriel et avant tout polyvalent.

Written by Morgane Palomo

Diplômée d'un master un brand management marketing, sa curiosité et sa soif de savoir ne sont étanchées. De nature créative, elle a su diversifier ses expériences. De la création graphique, à l'événementiel en passant par la communication interne et le marketing digital, elle s’est construit un savoir pluriel et avant tout polyvalent.