top of page
Espace entreprises
Rechercher

Intelligence artificielle, opportunité ou danger ? Cédric Villani subjugue le public mexicain !

Masiosarey

Décloisonner les disciplines scientifiques, rapprocher les scientifiques du grand public et des preneurs de décisions... C’est en l’essence la feuille de route qu’est venu défendre Cédric Villani au Mexique. Lors de deux rencontres à l’Institut de mathématique et à la Faculté des sciences de l’UNAM, le célèbre mathématicien (et maintenant député) français a explicité la révolution en marche des « Big Data » mais aussi proposé un état des lieux des mathématiques. Un véritable « show man » qui réussirait (presque !) à nous réconcilier avec les maths.

Avec une maîtrise totale de l’espace euclidien et une bonne dose d’humour, Cédric Villani aime le public. Et le public le lui rend bien ! Les 420 spectateurs qui ont pu obtenir une place dans l’amphithéâtre de la Faculté des sciences de l’UNAM trépignent en attendant le jeune député français. Et, fidèle à son image, ce dernier arrive vêtu de son costume trois pièces, d’un chapeau et accompagné de sa célèbre araignée. Son propos est de démontrer que les mathématiques sont connectées, au cœur de la société, et que les statistiques et les algorithmes sont glamours ... surtout si on les confrontent à d’autres disciplines. Selon lui, les mathématiciens doivent sortir de leur tour d’ivoire et regarder au-delà de leur spécialité sous peine de passer à côté de l’innovation. Etre audacieux, curieux et ouvert, des qualités dont fait preuve sans conteste notre médaillé Fields de 2010, lorsque qu’il pose sur le bureau un sac de fritures bien mexicaines, arrosées de sauce piquante !

Les Mathématiques au XXIème siècle ?

Cédric Villani s’exprimera en anglais (et sans traduction simultanée). Surtout, il rappelle que c’est avec le siècle qu’il termine sa thèse et entre dans la vie professionnelle. Alors, les maths auraient-elles changé à cette époque justement ? Eh bien oui, plus ou moins. Pour Villani, les mathématiques du XXIème se jouent désormais autour des questions posées par l’informatique et notamment autour de ce qu’on appelle « Intelligence artificielle » (IA).

Pendant longtemps, les statistiques étaient un champ peu valorisé des mathématiques. Avec le développement des recherches sur l'IA, cette situation a largement été inversée. Désormais, ce sont justement les spécialistes de cette branche des statistiques qui sont les plus cotés et qui trouvent les meilleurs emplois.

Le développement des mathématiques dans le monde est toutefois inégal. Ainsi, l’Asie a-t-elle clairement investi ce champ, pour preuve la moitié des contributions acceptées dans les revues scientifiques viennent de ce continent. Mais attention, souligne Villani, si le volume des travaux asiatiques est imposant, l’originalité n’est pas forcément au rendez-vous. Côté européen, poursuit Cédric Villani, les temps académiques ont été un peu plus lents. L’université a certes investi depuis longtemps dans les statistiques, mais elle a quelque peu tardé à prendre le virage de l'IA. De très nombreux chercheurs potentiels européens sont donc aujourd’hui directement recrutés par les entreprises les plus innovatrices sur le marché... vous l’avez devinez, par les fameuses GAFA (Google, Amazon, Facebook, Apple).

Une société qui a besoin des maths…

La société (et les entreprises) ont de plus en plus besoin de mathématiques et donc de mathématiciens. Pourtant, la part d’étudiants qui s’orientent vers ces disciplines à tendance à baisser… Cédric Villani veut donc convaincre les jeunes de s’engager dans cette voie, réputée difficile. Prêt à tout, il rappellera à plusieurs reprises que les mathématiciens (il ne dira pas les "développeurs") sont de mieux en mieux rémunérés et que la profession se classe actuellement parmi les plus valorisées…

Qu’est-ce qui explique cet intérêt accru pour les mathématiques ? La mine d'or mise à jour par les GAFA justement. Et Villani de prendre l’exemple des moteurs de recherche sur internet. « Les fondateurs de Google ont compris qu’un moyen efficace de trouver de l’information sur internet était d’explorer l’ensemble du réseau web à partir de « cheminements aléatoires » pour y détecter l’information intéressante. Le genre de raisonnement issu de l’expertise mathématique, en particulier de la mathématique physique. » Ces cheminements aléatoires, poursuit le mathématicien français, apparaissent « par analogie avec la physique et la nécessité d’expliquer le mouvement des atomes ou des molécules. A une époque, il s’agissait d’un outil mathématique important pour prouver des théorèmes. Aujourd’hui, c’est un outil important pour faire de l’argent. Parce qu’avec les propriétés de ces « cheminements aléatoires », vous pouvez organiser l’information et par cette maîtrise vous avez accès à d’énormes applications pour le marché». En bref, nous ne pourrions plus nous passer des maths pour faire de l’argent... Mais les maths ne servent-ils qu'à faire fructifier les actions des GAFA ? Cédric Villani semble bien décidé à nous convaincre que non (et nous ne demandons pas mieux).

L'ère du Big Data et ses enjeux pour les mathématiques

Cédric Villani en vient naturellement à évoquer la question des Big Data. Une révolution qui fascine (ou inquiète) au-delà de la communauté des mathématiciens et autres statisticiens. Pour le profane, les Big Data ("données massives") désignent le contexte actuel de prolifération des données, disponibles et, par extension, les méthodes mises au point pour organiser l'information et, dans certains cas, pour expliquer certains phénomènes complexes. Car l’accumulation (exponentielle) du volume de données accessibles ne produit pas automatiquement du sens. Et c’est bien là tout le défi de notre époque. Comme l’explique, philosophe, Cédric Villani, « ce n’est pas facile de gagner la sagesse à partir du savoir ; ce n’est pas non plus facile de gagner du savoir à partir de l’information ; (…) il est déjà fou de voir le nombre de données rassemblées à partir de tout type de senseurs, et c’est l’un des grands défis auquel est confrontée la science au XXIème siècle, l’augmentation des données. ».

Les mathématiques du XXIème sont donc confrontées à des problèmes nouveaux de grande complexité, posés précisément par la recherche et le traitement d’informations au sein d’ensembles de données de plus en plus vastes (relevant de la santé, des transports ou de la compréhension des phénomènes sociaux). Et, pour avancer, les différents champs disciplinaires doivent collaborer entre eux, établir des ponts. En somme explique-t-il, il faut relier la géométrie, l’analyse et les probabilités.

Il faut surtout, insiste Cédric Villani, observer les différents champs disciplinaires avec les yeux d’un mathématicien. Car, il en est convaincu, l’avenir des mathématiques se joue dans la capacité à défricher de nouveaux espaces interdisciplinaires, à travailler sur les frontières, les interconnections entre disciplines. Or cette interface, cette interconnexion n’est pas encore complètement reflétée dans les publications scientifiques. D’autant que l’éducation et la formation universitaire préparent très maladroitement (en tout cas en France) à l’appréhender.

Voila donc l'esquisse du plan de bataille proposé par Cédric Villani pour les mathématiques fondamentales, dont la portée est bien plus importante et large que les applications mercantiles des GAFA...

IA, algorithmes et autres mythes...

Dans sa conférence magistrale à la Faculté des sciences de l’UNAM, Cédric Villani insiste particulièrement sur les enjeux de la recherche en IA, pour en démystifier les mécanismes tout en indiquant les limites des algorithmes et les dangers que font courir ceux qui les manipulent avec de mauvaises intentions.

« L’intelligence artificielle est née dans les années 50 autour des travaux de Claude Shanon, John von Neuman et Alan Turing ». Il s’agissait de simuler un raisonnement humain pour résoudre des problèmes à partir d'algorithmes (des suites d'opérations mathématiques). Ces algorithmes devaient notamment permettre de combiner intelligemment des données diverses et nombreuses. Cédric Villani illustre son propos avec le cas des araignées (un bel exemple d’utilisation des mathématiques en biologie et notamment en génétique des populations). En effet, ceux qui voudraient classifier ces arachnides se confrontent à un univers de plus de 37.000 espèces réparties en 109 familles. Pour l’esprit humain, il est tout simplement impossible de traiter efficacement un tel volume d'informations et de possibilités. L’algorithme « malin » sera celui qui apportera une « bonne solution » à ce problème.

Au sein d'un vaste ensemble d'informations (les Big Data), ces algorithmes identifient donc (via un cheminement aléatoire) les paramètres d’analyse les plus pertinents pour résoudre un problème donné. Et, pour un problème apparemment très complexe, ces paramètres se réduiront in fine à un très petit nombre (5 ou 10, mais sûrement pas 100). Pour expliciter son propos, Villani prend le cas des analyses récemment réalisées sur la personnalité. On pourrait imaginer que pour saisir la complexité de l’humain, la prise en compte de centaines de paramètres serait nécessaire. Que nenni ! Il semblerait que nos pauvres individualités se résument aux combinaisons de cinq paramètres essentiels, permettant ainsi à des algorithmes de saisir nos préférences et dans certains cas de nous manipuler !

Ce qui nous amène aux objectifs des développeurs d’algorithmes. Quels sont-ils ? C’est à ce stade de l’exposé que l’on perçoit le mieux les limites de l’intelligence artificielle. Les développeurs explique Cédric Villani, cherchent d’abord à « compresser » le flot d’informations, puis à « reconnaître » par des combinaisons ce qui est significatif. Ils veulent ensuite «réagir » (exemple de la voiture qui devrait éviter un obstacle) pour enfin « généraliser ». Tout cela afin de « comprendre »...

Et c’est là qu’il reste un espoir pour l’humain ! « Soyons clairs ! insiste Cédric Villani, il ne s’agit pas de donner un sens comme nous l'entendons (…) Les algorithmes peuvent produire une analyse, mais ils ne comprennent pas le contexte général. » Rien dans cette technique n’est intelligent nous dit encore le mathématicien français. Au final, l’IA manquerait-elle d’ « intelligence » ?... Effectivement, elle en est totalement dépourvue ! Pour preuve, le cas des programmes de traduction : « même lorsque la traduction paraît excellente, la machine n’a aucune compréhension du texte, elle ne lui attribue aucun sens ». En somme, tout est basé sur de la statistique ! Vous voilà donc prévenus contre toute explication trop rapide de la réalité, basée sur des statistiques, des corrélations et des probabilités....

« Nous avons ainsi découvert que finalement, les hommes n’étaient pas très bon au jeu de Go ».

Le clou du spectacle est la présentation d’une animation qui tente de montrer comment un algorithme (un algorithme de Google nous dit-il), trouve l’information pertinente dans un réseau de sites web. L’écran de la salle affiche alors une sorte de toile d’araignée, ou plutôt une structure en étoile de points représentant des pages web, à leur tour reliés entre eux par les traits, représentant les connexions entre ces pages. On fait « tourner » l’algorithme (c’est-à-dire qu’on simule une navigation à grande vitesse entre ces pages) et, après quelques secondes, certaines pages sont plus souvent pointées que d’autres. Dans le cas présenté, trois pages se distinguent. Ce sont celles-ci qui symbolisent les résultats de cette recherche.

L’idée clé que retient Villani, c’est que cet algorithme va lui-même trouver des données pertinentes dans un ensemble d’informations très étendu et peu organisé. Et le mathématicien explique de la même manière la victoire du programme AlphaGo sur les grands maîtres du jeu de Go. Il y a à peine 10 ans, une telle victoire paraissait impossible, rappelle-t-il, avant de nous expliquer la méthode qui a permis au logiciel de gagner contre les grands maîtres.

Le programme AlphaGo inclut deux approches complémentaires. La première est une pure mémorisation : l'enregistrement de toutes les parties gagnées par les grands maîtres de ce jeu. Si le joueur rejoue une partie connue, la machine pourra alors reproduire une stratégie gagnante. Toutefois elle perdra face à un excellent joueur qui pariera sur son imagination stratégique. La deuxième approche, la plus novatrice, est basée sur le même algorithme que celui décrit plus haut. Dans la période de préparation, la machine joue contre elle-même. Elle va jouer le plus grand nombre de parties possibles dont la plupart sont improbables. Puis comme dans l’exemple précédent, les chemins les plus pertinents vont apparaître d’eux-mêmes. Villani explique qu’AlphaGo, lors de son entrainement, avait joué plus de parties qu’il aurait été possible d'en jouer en 2,5 millions d’années… Et de cette manière, le programme a découvert des stratégies qui n’avaient jamais été envisagées par les grands maîtres du jeu de Go !

« Be sure algorithme will be use for good reason »

Pour terminer Cedric Villani met en garde : il ne faut pas avoir peur de l’intelligence artificielle. Par contre il faut se méfier des hommes qui produisent et utilisent les algorithmes. Tout le monde a alors en tête, l’utilisation scandaleuse des méthodes « d’Intelligence artificielle » lors de l’élection de Trump et du Brexit par la société Cambridge Analytica. Dans cette optique, le mathématicien recommande un livre de Cathy O’Neal au titre révélateur : Weapons of math destruction (armes de destruction mathématique, par analogie avec l'expression "armes de destruction massive"). En se focalisant sur le côté obscur des algorithmes et des Big Data, l’auteur analyse, cas par cas, leurs limites et leurs dangers. Un livre qui devrait figurer dans toute bibliothèque qui se respecte.

En conclusion, Cédric Villani précise enfin que tout n'est pas malveillance. Il existe aussi chez les développeurs une « utilisation maladroite et parfois incompétente » de ces techniques. « Il faut en avoir conscience » conclura-t-il.

Si pour un public d’experts ou de chercheurs en mathématiques, la conférence n’aura rien révélé de nouveau, le grand public aura eu le plaisir d'assister à de brillants exercices de divulgation. En pointant avec clarté les enjeux et les limites de l’intelligence artificielle, Cédric Villani aura tenté de rendre accessible les principes sous-jacents de méthodes d’analyses parfois bien mystérieuses. Des opérations mystérieuses et peu transparentes qui se veulent explicatives ? Voilà peut-être le véritable danger de l’IA.

© Pascal Renaud, Sophie Hvostoff, Stéphanie Ronda pour Masiosarey 2018

 
 

Villani, l'homme engagé

Trois conférences au Mexique (deux à Mexico, une à San Luis Potosí); trois conférences au cours desquelles, ce n'est pas seulement le mathématicien qui s'exprime mais aussi l'homme engagé. Engagé pour faire avancer les politiques de recherche, engagé en politique. Cédric Villani est député représentant du parti En Marche depuis 2017.

Politique et mathématiques

Dans tous les pays, le développement des mathématiques représente un enjeu stratégique.

Toutefois les politiciens sont encore lents à assimiler ces enjeux. Et si, comme l’admet Villani, de nombreux dirigeants réévaluent aujourd’hui leur perception des mathématiciens et de leur discipline, « la réponse institutionnelle aux besoins est habituellement pauvre ». Pour avoir participé à de nombreuses commissions consultatives, il est clair pour Villani que ces mécanismes –servant à relayer les préoccupations des scientifiques auprès des acteurs et instances politiques– sont relativement inefficients. D’où son conseil à la communauté scientifique mexicaine : influencer la politique scientifique, faire passer ses idées est beaucoup plus efficace depuis le terrain, en jouant la partie et en respectant les règles du jeu (politique).

Depuis un an qu’il est député au parlement français, Cedric Villani explique qu’il participe beaucoup plus directement à l’architecture des politiques scientifiques. Il a endossé le rôle d’un « passeur » dit-il. Cela fonctionne dans certains pays, comme la France, mais attention : c’est « not easy », précise-t-il encore. Bref, mathématiciens mexicains et du monde entier, endossez votre responsabilité de passeurs, allez vers les questions politiques : « we have to change, not to stay detached (Il faut changer, pas rester détachés) », sous peine de passer à côté de la prochaine révolution technologique. Sortir de sa bulle de chercheur, tout un défi, essentiel mais... «not easy».

Cédric Villani à San Luis Potosí

La coopération scientifique française ne s’est pas trompée en invitant Cédric Villani à participer à la formulation de l’agenda bilatéral en matière de science et innovation. Une nouvelle preuve de l’ouverture du mathématicien à discuter politique de recherche, valorisation de la recherche, coopérations concrètes. En effet, le troisième forum franco mexicain sur la science, la technologie et l’innovation se tenait à San Luis Potosí, réunissant les principaux acteurs du secteur.

Et sous les yeux, un peu ébahis il faut bien le dire, de notre médaillé et de toute la délégation française, quelques chercheurs mexicains ont manifesté leur ras-le-bol en déroulant banderole et en se levant silencieusement dans la salle. Ils médiatisaient ainsi la situation financière désastreuse de certaines institutions scientifiques tout comme l'opposition à leur direction (en l'occurence, la direction de l'IPICYT, l'Institut Potosino de recherche scientifique et technologique) .

Recherche

masiosarey_marron_edited.jpg
bottom of page