HM

Article 2 : Quelques enjeux modernes de l’intelligence artificielle

Herault Martin - 2021年04月9日 星期五 10:06
 

     Depuis 70 ans, l’intelligence artificielle est au cœur des innovations et des découvertes. Au cours de son évolution, la population et les chercheurs se sont rendus compte de son potentiel autant dans le domaine de la vie courante que dans des domaines plus spécifiques comme la santé, le droit ou encore l’industrie tant et si bien que l’intelligence artificielle fait maintenant partie de nos habitudes. Dans les années 1950, l’IA se développe avec l’arrivée des ordinateurs et l’ambition des scientifiques est de créer des machines dotées d’une véritable intelligence, des machines qui seront appelées plus tard des Intelligences Artificielles. Après les années 50, le développement de l’intelligence artificielle a connu plusieurs périodes de stagnation et de croissance[1]. Depuis les années 2000, les intelligences artificielles ont franchi un cap, elles sont désormais au centre des projets d’innovations des GAFAM, à tel point qu’innover dans l’IA et maîtriser cette science est signe de puissance technologique. [2]



                                                                                                                                          Image : geralt



      L’intelligence artificielle doit maintenant faire face à de nouveaux enjeux. En effet, les questions que se posaient les chercheurs il y a 20 ans et les questions qu’ils se posent actuellement ne sont plus les mêmes. Cela est dû aux nouvelles mentalités, aux nouvelles problématiques face auxquelles la population doit faire face et aux nouvelles perspectives qu’offre l’IA grâce à toutes les évolutions qu’elle a connues. Devant les innovations qui lui sont proposées, la population est aussi émerveillée qu’effrayée. En effet, les nouvelles technologies impressionnent car elles demandent de maîtriser des capacités de plus en plus compliquées à acquérir mais ces technologies peuvent aussi faire peur car elles sont développées alors que cela fait peu de temps qu’on les connaît, qu’on les maîtrise ou alors elles sont tout simplement utilisées à mauvais escient. On peut prendre l’exemple de la Chine qui utilise la reconnaissance faciale pour repérer les « bons » et les « mauvais » citoyens parmi sa population.[3]

      Premièrement, les chercheurs en intelligences artificielles vont devoir développer des machines qui auront une facette étique plus marquée car de nombreuses applications de l’IA questionnent du point de vue éthique.



[3] https://www.capital.fr/economie-politique/intelligence-artificielle-faut-il-en-avoir-peur-1307641



      Aujourd’hui, lorsque les machines s’associent aux humains, c’est pour les assister. Par exemple, une prothèse remplace un membre perdu ou un pacemaker permet au cœur de continuer à battre. Cependant, le transhumanisme est un courant intellectuel que l’on retrouve beaucoup dans les films de science-fiction tel que « Terminator » ou encore « Ghost in the shell », vise aussi à combiner machines et humains mais cette fois-ci pour améliorer les capacités humaines et le rendre plus fort[1]. Or cette philosophie pose des questions sur le plan éthique. Le transhumanise, s’il voit le jour, pourrait créer un écart de développement entre les personnes qui pourraient se combiner avec une machine et les personnes qui resteraient de « simples » humains[2]. En effet, à l’image d’une prothèse actuellement, le prix pour devenir un cyborg serait très élevé et seulement une partie de la population pourrait bénéficier de ces modifications corporelles ce qui amplifierait une ségrégation économique déjà très fortement visible entre les pays développés et les pays pauvres ou encore entre les personnes riches et puissantes d’un pays et le reste de la population. De plus, le transhumanise soulève la question de la cohabitation de plusieurs réalités. Ainsi, les transhumains pourraient avoir une réalité tout autre que les humains non modifiés puisque leurs capacités seraient décuplées et ainsi, ils seraient capables de faire plus de choses ou alors d’avoir accès à de nouvelles capacités qui les avantageraient.[3]

       Les IA encouragent une peur justifiée du piratage des différents systèmes intelligents qui nous entourent ou de données stockées sur internet. Lorsqu’on parle de piratage des intelligences artificielles, il ne faut pas seulement penser aux hackers qui prennent le contrôlent de machines mais aussi aux personnes qui arrivent à manipuler ces machines. Les hackers pourraient par exemple prendre le contrôle de  voitures autonomes pour s’en servir comme d’une arme mais ils pourraient aussi[4], comme cela a déjà été fait, manipuler des intelligences artificielles. Par exemple en 2016 Microsoft lance sur Twitter « Tay », un agent de conversation, qui devait analyser des tweets pour ensuite parler avec des utilisateurs. Cependant, des internautes ont compris l’algorithme de l’agent conversationnel et ont réussi à manipuler Tay pour le faire devenir raciste, misogyne, homophobe et négationniste.[5] [6]

     L’essor des IA a aussi développé l’hyper connexion des humains, à l’image des assistants vocaux comme Alexa de Microsoft, Google home ou Siri d’Apple. L’hyper connexion est un danger car elle entraîne une surveillance continue des individus pour que l’assistant vocal soit disponible à tout moment. Mais cette surveillance en continu permet de collecter un grand nombre des discussions privées ou intimes et créée donc un risque pour la confidentialité de nos propos. Elle représente donc un problème en soit mais elle l’est davantage que l’on ne sait pas qui stocke toutes ces discussions et quelle utilisation en est faite. De plus, rien ne nous garantit que ces machines ne nous espionnent pas.[7]


      Les IA entraînent un risque de déresponsabilisation des professionnels qui travaillent avec ces machines. En effet, il ne faut pas avoir une confiance aveugle dans l’intelligence artificielle car cette dernière peut générer des erreurs et  il faut être capable de détecter ces erreurs. Les humains doivent faire preuves de libre-arbitre. Par exemple, en 2020, un système de reconnaissance faciale a reconnu à tort un homme et cette reconnaissance a entraîné son arrestation, il a ensuite été libéré après que la police a reconnu son erreur[1] [2]. Bien que cette histoire se termine bien, elle montre que les IA ne sont pas parfaites et qu’il faut savoir prendre du recul par rapport à elles. Les humains doivent travailler avec les IA et ne pas se faire contrôler par celles-ci. Enfin, les intelligences artificielles peuvent s’avérer dangereuses lorsqu’elles sont imprécises ou qu’il y a des imprévus. En 2017, une équipe de chercheurs américains a collé sur des panneaux STOP des petits stickers noirs et blancs et 40% des voitures autonomes testées ont confondus les panneaux STOP avec des panneaux de limitation à 50 km/h.[3] [4]


                                                                                                        

                                                                                             Image: ashkhan2


     Les IA sont entraînées à réfléchir grâce aux données qui leur sont accessibles, stockées dans leurs bases de données. Or ce mécanisme pose un problème éthique car il peut entraîner des discriminations et en particulier à l’embauche. En effet, si une base de données est discriminante alors l’IA sera discriminante. C’est ce qui s’est passé en 2014 avec un algorithme de recrutement chez Amazon qui discriminait à l’embauche toutes les femmes. Un autre exemple serait un algorithme qui devrait faire une pré-sélection des potentiels candidats à un  poste dans une entreprise où tous les employés sont des hommes blancs ayant suivi des études dans de grandes écoles. Si l’algorithme se base sur tous les employés de l’entreprise pour faire sa sélection alors il va discriminer les minorités et les personnes qui ont eu un parcours universitaire différent. Il y aura alors une discrimination à l’embauche.[1]






      Au XXIème siècle, l’IA va devoir s’adapter aux questions écologiques. En effet, la fabrication et l’utilisation de l’intelligence artificielle ont un bilan énergétique conséquent. Ce bilan énergétique est élevé car pour fonctionner, l’intelligence artificielle a besoin de grandes capacités de stockage et de grandes capacités de calcul. Ces informations sont stockées dans des data center ou sur le cloud qui fonctionnent en permanence pour que l’intelligence artificielle ait accès à ces informations à tout moment. Cependant, ces centres de stockage sont très consommateurs d’énergie et de ce fait l’intelligence artificielle est très énergivore[1]. On peut ajouter qu’entraîner une IA qui apprend via le « machine learning », c’est-à-dire qu’une machine qui a besoin de s’exercer pour acquérir des compétences, produit autant de carbone que cinq voitures durant toute leur vie.[2] De plus, toutes les intelligences artificielles contiennent des terres rares, dont l’extraction est une cause importante de pollution des eaux[3]. Cependant, les machines intelligentes peuvent avoir aussi un rôle positif sur l’environnement et l’écologie. Un rapport rendu par le Capgemini Research Institute affirme que l’intelligence artificielle a permis de réduire de 13% les émissions de gaz à effet de serre et d’améliorer l’efficacité énergétique de 11% au sein des organisations interrogées dans le rapport[4]. De plus, à Pittsburgh aux Etats-Unis, une IA gère 50 intersections et ajuste les feux tricolore en fonction du trafic, elle permet de réduire les temps de trajet de 25% et les émissions de CO2 de 20%[5] [6].



 


      Par ailleurs, l’IA va devoir faire face à un enjeu de société. En effet, l’avènement de l’IA inquiète une partie de la population car elle représente une menace pour l’activité humaine au travail et un certain nombre d’emplois, il ne faut pas seulement penser que ce sont les métiers automatisables et qui souvent demandent le moins de qualifications qui sont en péril face aux innovations technologiques[7]. Ainsi, en 2017 des chercheurs ont fabriqués un logiciel capable de détecter aussi efficacement que des dermatologues des cancers de la peau. En 2016, une entreprise d’assurance japonaise s’est servie de Watson, une intelligence artificielle capable d’étudier le dossier des clients pour leur proposer un prix pour leur assurance. Chez cette société, Watson fait l’équivalent du travail de 30 salariés qui ont tous été licenciés[1]. Cette crainte est confirmée par des chercheurs de l’université d’Oxford qui ont montré qu’un quart des professions avaient 90% de chances d’être remplacées par des machines intelligentes[2]. Bien que l’IA menace la disparition de certains métiers, elle entraîne aussi la mutation ou la création de nouveaux métiers, elle est au cœur de la transition du marché du travail cependant, on estime que l’intelligence artificielle fera disparaître trois millions de postes alors qu’elle n’en créera que cinq cent mille. Enfin, l’IA aura surtout un rôle de soutien dans les métiers les plus complexes, qui nécessitent des prises de décisions, son rôle est de rendre certaines tâches de notre métier plus rapides ou plus précises.

 

     Les intelligences artificielles devront relever de nombreux défis au XXIème siècle. Non seulement, elles vont devoir faire face aux enjeux environnementaux, éthiques et sociaux mais elles vont aussi devoir s’adapter dans un monde où l’aide des machines deviendra de plus en plus indispensable.



[7] https://journals.openedition.org/activites/4941

[1] https://www.youtube.com/watch?v=tf4-_4IbXPs&ab_channel=LeMonde

[1] https://www.oxfordmartin.ox.ac.uk/downloads/academic/The_Future_of_Employment.pdf



» Intelligence Artificielle