Aux risques de l’intelligence artificielle

Paris, le mardi 26 décembre 2017 - La rubrique Flash de JIM évoquait récemment un rapport de la CNIL[1] sur l’intelligence artificielle (IA), ce grand « mythe » de notre époque, rapport affirmant l’intérêt pour l’homme de garder la main, alors que se profile l’émergence de machines intelligentes, avec ou sans guillemets... Or, dans un dossier de Perspectives Sanitaires et Sociales consacré précisément à l’IA, Jean-François Goglin (conseiller systèmes d’information de santé de la FEHAP, Fédération des établissements hospitaliers et d’aide à la personne privés) rappelle que, malgré toutes les promesses que cette technologie suscite « au cœur de la quatrième révolution industrielle », elle pourrait aussi représenter certaines menaces pour la survie même de l’Homme, ou du moins pour notre mode de civilisation plaçant l’humanité au sommet (provisoire ?) de l’évolution sur Terre. Schématiquement, l’essor de l’IA suscite ou aggrave plusieurs types de risques :

– Le risque de biais de sélection : le développement de l’IA partant surtout de certains pays et catégories sociaux (hommes jeunes, blancs, hétérosexuels...), on court le risque de ne pas prendre en compte les besoins ou caractéristiques d’autres parties de la population, et d’opérer ainsi une discrimination insidieuse, difficile à corriger une fois instaurée.

– L’impact socio-économique : rappelons que le terme « robot » (introduit en 1920 par Karel Čapek dans la pièce de théâtre Rossum’s Universal Robots) vient du tchèque « robota » signifiant « travail, besogne, corvée » ; par construction, les robots ont ainsi vocation à remplacer l’homme dans un nombre croissant de tâches, y compris les emplois dits tertiaires, longtemps épargnés par la mécanisation. Secrétaires, caissiers, guichetiers, conducteurs de cars ou de taxis reculent progressivement devant l’avancée de l’informatique : par exemple, les technologies de véhicules autonomes se perfectionnent régulièrement. On parle de mécanisme schumpetérien[2], selon lequel cette « destruction créatrice » d’emplois anciens serait contrebalancée en partie par l’émergence de nouveaux métiers. Mais ces activités récentes sont moins nombreuses que les vieux emplois détruits par ce changement de paradigme industriel, et exigent surtout des compétences (et donc des formations) largement supérieures aux professions devenues obsolètes. Selon l’auteur, même le secteur médical ne serait pas épargné.

En particulier, les spécialistes en imagerie médicale : un appareil de radiographie pourra un jour analyser tout seul l’image qu’il produit et rédiger un compte rendu. L’auteur nuance toutefois son (sombre ?) pronostic : « si les radiologues ne vont pas disparaître totalement, ceux qui utiliseront l’IA remplaceront très vite ceux qui n’en utiliseront pas ou tarderont à innover. » Le problème est donc moins la perspective future (prochaine ?) de la fin du travail que celui (immédiat) de la pénurie de (nouvelles) compétences. Le domaine de la santé est probablement l’un des secteurs qui va le plus se transformer, du fait du très grand nombre de métiers qu’il héberge. Et, contrairement à une idée courante, les professions risquant de disparaître (suite à une probable mécanisation) ne sont pas forcément à faible valeur ajoutée, mais celles où l’automatisation est la plus facile à être implantée. Par exemple, la tenue d’une comptabilité ou la réalisation d’un électrocardiogramme sont très simples à automatiser, au moyen de logiciels dédiés, alors que ces tâches exigeaient auparavant des interventions humaines, délivrées par des professionnels (comptables, médecins) aux formations ardues. En revanche, la multiplicité des tâches des infirmier(e)s ou des cuisinier(e)s rendent ces professions encore difficilement mécanisables, même si « un robot cuisinier d’une start-up anglaise réalise plus de 2 000 recettes pré-enregistrées et nettoie pour finir son plan de travail. » Formation initiale aux (rares) secteurs d’activité restants, plus adaptation permanente : à défaut de ces deux atouts, conclut l’auteur sur ce thème, « les gens risquent de devenir des naufragés du numérique. »

– Autre risque : celui de manipulation des foules par l’usage tendancieux des big data, c’est-à-dire l’utilisation partiale des flots de données pour promouvoir de faux contenus  suscitant des rumeurs et la désinformation du public, afin d’orienter ses choix économiques, politiques, religieux... Ce problème est d’autant plus insidieux que, loin de se cantonner aux ordinateurs, le réseau Internet s’invite désormais dans un nombre croissant d’objets connectés, à commencer par le smartphone, devenu pour les jeunes « une véritable prothèse s’ajoutant à leur corps pour l’augmenter. »

– Le recul de la vie privée constitue une autre menace. Sans même parler des cookies et des logiciels malveillants (malwares, adwares...), présents à l’insu de l’internaute-consommateur, en particulier pour mieux connaître et orienter ses choix en fonction de sa navigation sur un moteur de recherches : il faut rappeler que nous dévoilons souvent nous-mêmes, volontairement ou par mégarde, une large part de notre image (opinions, hobbies, photographies...) sur les réseaux sociaux.

– Enfin, le problème certainement le plus préoccupant, car il est susceptible de déboucher sur un holocauste nucléaire : celui de l’automatisation de la prise de décision militaire. Pour intégrer en temps réel une masse croissante de données stratégiques (informations des satellites, des systèmes d’alerte, etc.), la tentation est grande, pour les états-majors, de développer un système de réplique automatique en cas d’attaque. Si cela permettrait de réduire le délai de réponse, cette réplique automatique augmenterait parallèlement le danger de recours aux armes nucléaires, notamment si deux systèmes automatisés sont confrontés l’un à l’autre, dans deux camps opposés, sans parler du risque de déclenchement accidentel, au cas où la machine « intelligente » se méprendrait dans l’exploitation des données, en les interprétant dans le sens inexorable d’une ouverture des hostilités entre puissances nucléaires. Ce risque, dit des robots tueurs, est si grave qu’il a incité en 2017 un groupe mondial de 116 experts et leaders de l’IA et de la robotique (parmi lesquels les représentants de Google-DeepMind, Tesla et Space X) à lancer une alerte mondiale aux Nations-Unies. Ce problème des robots tueurs risque en effet d’entraîner une « disruption » (conjonction d’une nouvelle technologie, d’un nouveau modèle opérationnel et d’une propagation exponentielle, comme pour le téléphone portable) dans ce qu’il est convenu d’appeler l’art de la guerre, à l’image du remplacement des armes classiques (épées, flèches...) par les armes à feu (fusils, canons...) à la Renaissance, avec l’adoption massive de la poudre... Il est donc crucial que les prises de décision stratégiques demeurent systématiquement sous responsabilité humaine, pour éviter tout scénario de science-fiction où les machines joueraient à la guerre, au mépris de ses tragiques conséquences concrètes, comme dans la chanson de Guy Béart, Le grand chambardement (1968) [3]...
    
[1] https://www.cnil.fr/sites/default/files/atoms/files/cnil_rapport_garder_la_main_web.pdf
[2] https://fr.wikipedia.org/wiki/Joseph_Schumpeter
[3] http://www.ina.fr/video/I07085696

Dr Alain Cohen

Référence
Jean-François Goglin : Opportunité refondatrice ou menace pour nos emplois et pour l’humanité ? Perspectives Sanitaires et Sociales, 12-2017 (n°255) : 61–63.

Copyright © http://www.jim.fr

Réagir

Vos réactions

Soyez le premier à réagir !

Les réactions aux articles sont réservées aux professionnels de santé inscrits
Elles ne seront publiées sur le site qu’après modération par la rédaction (avec un délai de quelques heures à 48 heures). Sauf exception, les réactions sont publiées avec la signature de leur auteur.

Réagir à cet article