Docteur Google et Mr Hyde ?

Paris, le samedi 30 novembre 2019 – Dans un monde où les représentations mythologiques demeurent si importantes et où certains d’entre nous adorent se choisir des ennemis puissants à fustiger, Google et au-delà les GAFA (Google, Amazon, Facebook, Apple) sont des figures parfaites. Dans une tribune publiée cette semaine par Le Monde, Alexandre Templier, président et cofondateur de Quinten, cabinet de conseils en Intelligence Artificielle (IA) aux entreprises, réaffirme cette dimension mythologique de notre fascination pour les GAFA (avec ses aspects à la fois positifs et négatifs). Il relève ainsi que ces GAFA « se sont mués en personnages mythologiques. Tantôt Prométhée, tantôt panacée, ils prétendent guider l’humanité et la guérir. Dans leur récit, la maîtrise des données et l’intelligence artificielle ont remplacé la domestication du feu et le recours aux plantes médicinales » ironise-t-il.

Ascension d’une polémique

Mais derrière ces images, le recours constant aux « hyperboles », observe encore Alexandre Templier, les GAFA pourraient-ils n’être que des colosses aux pieds d’argile ? La peur qu’ils nous inspirent est-elle réellement fondée ou n’est-elle qu’une nouvelle manifestation de notre hantise pour le progrès, de notre peur d’un complot visant à violer nos identités ou intimités ou notre aversion pour les géants capitalistes ? La révélation du contrat signé entre Ascension groupe privé américain qui gère deux mille six cent établissements de soins dont cent cinquante hôpitaux et Google, dans l’objectif de développer des logiciels pour améliorer la prise en charge des patients a relancé ces interrogations.

Légal ou pas, telle est la question ?

Passée la surprise (bien que lors de communications publiques aux analystes financiers Google et Ascension n’aient jamais caché leur partenariat), les questions ont d’abord concerné les considérations éthiques et le caractère légal d’un tel pacte. En se référant au Health Insurance Portability And Accountability Act (HIPAA) qui permet le partage des données par les acteurs privés du système de santé américains, tant que l’objectif est de l’aider à « assurer ses missions », Google a voulu défendre le bien-fondé de son entreprise. Les suspicions ne sont pour autant pas toutes levées, concernant notamment la nécessité ou non de recueillir, explicitement, le consentement des patients. Dans un billet posté sur le site Droit et Technologie, Etienne Wery du groupe Ulys remarque : « Il n’empêche que selon plusieurs experts en droit américain, l’absence d’information d’une part, et l’absence de pseudonymisation d’autre part, sont deux violations graves de la loi. Selon eux, l’absence d’information aux personnes concernées les prive du droit d’exercer leur droit d’accès : comment exercer ce droit si l’on n’est informé ni de l’existence du traitement ni de son objectif ? Selon ces experts, la loi est formelle : l’obligation de "notice" exigeait, dans une hypothèse comme celle-ci, d’informer les patients. Quant à l’absence de pseudonymisation, elle serait contraire à la loi qui crée un système plus strict dans l’hypothèse d’un traitement réalisé par un "business associate". (…) La réponse juridique sera connue un jour, vu le nombre d’avocats spécialisés en class action qui se mobilisent … » analyse-t-il.

Pragmatisme

Mais d’autres cependant jugent que le scandale était plus certainement médiatique que réel et trahit principalement le désamour (relatif) dont pâtit Google. Ainsi, dans un billet intitulé « Le nouveau projet de Google dans la santé est-il vraiment si scandaleux ? », le journaliste François Manens remarque pour La Tribune qu’au-delà des manifestations outrées engendrées par le partenariat entre le géant de Moutain View et Ascension : « Ce genre de partenariat devrait se multiplier, notamment aux Etats-Unis, qui ne possède pas d'organisme centralisateur des données de santé comme la sécurité sociale française. Et pour cause : tous les acteurs du secteur perçoivent le potentiel des applications d'intelligence artificielle en santé : meilleurs diagnostics, découverte de nouveaux médicaments, amélioration des parcours de soin... Mais pour développer des algorithmes performants, il faudra beaucoup de données, qui se font aujourd'hui rares pour certaines maladies, et coûtent cher à produire... C'est pourquoi Google multiplie les partenariats, avec Ascension, l'Université de Chicago, ou encore avec la "Mayo Clinic" un centre médical situé dans le Minnesota, entre autres » observe-t-il pragmatique.

Big bluff ?

Une telle constatation repose cependant sur le postulat que les GAFA ont certainement le potentiel d’améliorer significativement notre santé. Certains en sont persuadés, comme le rappelle Alexandre Templier qui se souvient : « Dans son numéro du 20 septembre 2013, la une du Time faisait mine de s’interroger : "Google peut-il mettre un terme à la mort ? ". Et de répondre : "Le géant de la tech lance une entreprise pour allonger l’espérance de vie. Ça semblerait fou si ça n’était pas Google". En quelques mots à peine, ce numéro de l’hebdomadaire américain en dit long sur la façon dont les GAFA sont parvenus à modifier notre perception ». Cependant, le spécialiste invite à prendre ses distances en jugeant : « Rien ne permet d’exclure qu’à terme les GAFA influencent en profondeur tout ou partie des étapes de la chaîne de conception, de développement, de fabrication et de dispensation des médicaments. Mais rien ne permet non plus d’en être certain ». Au-delà de cette invitation rhétorique, toujours utile, à une remise en cause d’axiomes présentés comme des vérités révélées, certains indices concrets confirment que le rôle des GAFA ne doit pas être exagéré.

Rester humble

D’abord, les premières approches n’ont rien de spectaculaires, outre la force de calcul généré par des processeurs puissants : « Certes, Apple a accéléré la circulation des données médicales en ligne grâce à ses nombreux objets connectés portables ; Amazon a lancé Amazon Care, un service de télémédecine réservé à ses salariés ; et (…) Google vient de lancer Google Cloud Healthcare permettant aux acteurs de la santé d’agréger différents types de données médicales…Mais toutes ces initiatives (…) oscillent entre la parapharmacie, l’assistance technique et le flou » énumère Alexandre Templier. Il remarque encore que même si beaucoup de géants de la pharmacie ont noué des partenariats avec Google et consorts, ils n’omettent cependant pas de conserver une certaine prudence : « Conscient du risque de désillusion, certains, au sein des directions générales des grands laboratoires pharmaceutiques, tirent la sonnette d’alarme. En 2018, Kenneth Frazier, PDG de Merck & Co le reconnaissait dans une interview donnée à la presse française : "Il faut faire attention à ne pas surestimer la valeur des acteurs du numérique (…) Aucune amélioration d’un procédé, grâce au numérique, ne résoudra jamais un problème d’ordre biologique. Il faut rester humble dans ce domaine"».

Des ambitions grippées

De la même manière, Olivier Ezratty, consultant en nouvelles technologies et auteur d’Opinion Libres, blog dédié aux médias numériques invite sur French Web à se souvenir des quelques déboires de Google, qui pourraient être riches d’enseignement quand on considère aujourd’hui ses ambitions dans le domaine de la santé. Il rappelle ainsi les échecs de Google Flu Trends : « Google pensait pouvoir prédire ces épidémies (de grippe NDLR) plus rapidement que le CDC (Center for Diseases Control US) via les recherches en ligne sur le sujet. Mais il rata complètement la détection de la saison 2013. L’article [What we can learn from the epic failure of Google Flu Trends de David Lazer et Ryan Kennedy en octobre 2015] pointe le besoin de croiser des données et de les rendre ouvertes. En clair, de rendre celles de Google accessibles au CDC ! ». Il invite également à se remémorer l’enthousiasme qu’avaient suscité les annonces d’investissements de Google dans le domaine de la robotique : « Pour prendre un peu de recul, rappelez-vous ce que les médias et analystes disaient des efforts de Google dans la robotique en 2013 et 2014. A l’époque, leur acquisition de huit startups dont Boston Dynamics avait fait grand bruit. Ils allaient devenir les rois de la robotique, c’était fichu pour tous les autres acteurs ! Depuis, en quelques années, Google a quasiment abandonné le secteur en cédant Boston Dynamics à Softbank Robotics et en mettant la clé sous la porte d’une autre acquisition de l’époque, Schaft ».

Google sait que vous avez acheté une machine à café et Apple marché 1 500 pas, so what ?

Outre les limites de Google et le rappel que comme toute firme capitaliste audacieuse, elle n’hésite pas à sur investir dans certains domaines, exagérant peut-être ses capacités, tout en risquant parfois quelques déconvenues, Olivier Ezratty veut également déconstruire les mythes qui existent aujourd’hui autour de l’Intelligence artificielle. Il relève ainsi en introduction que pour l’heure le machine learning est d’abord mis au service de publicités, des publicités dont le manque de finesse n’échappe à personne. « Vous avez cherché et acheté un produit en ligne, et hop, vous serez bombardé de publicité ciblée sur ce que vous avez déjà acheté » remarque-t-il par exemple. Surtout, il insiste sur le fait que les « gros volumes de données peuvent certainement être croisées, mais, en temps normal, ils sont naturellement disséminés sur un grand nombre d’acteurs et de bases de données. Cela ne permet pas de faire n’importe quoi. Le deep learning n’est pas une potion magique qui permet de jouer à madame Irma » assène-t-il. Il fait ensuite la longue liste de toutes les données auxquelles en dépit de leur omniprésence les GAFA n’ont pas accès : « ils ne savent pas tout sur vous et n’ont pas accès aux données métiers de nombre de marchés verticaux » résume-t-il citant par exemple les données de consommation d’énergie ou d’eau, les flux et stocks financiers ou encore les informations qui relèvent de l’Etat. « Et c’est encore moins reluisant pour les BATX, les leaders de l’Internet chinois qui ont beaucoup de données sur les comportements d’Internautes chinois mais, en général, rien de ceux des pays occidentaux. Leurs données ne servent pas à grand-chose dans nos marchés aussi bien que les nôtres ou celles des GAFA ne servent à rien pour attaquer le marché chinois ».

Des algorithmes sans doute, des thérapies moins sûr

Concernant plus précisément le rôle pouvant être joué par Google et ses compères dans le domaine de la santé, il tempère encore : « Un mythe voudrait que Apple et Google vont immanquablement devenir des “pharma”. Les données de santé qu’ils cherchent à accumuler leur donneraient le sésame à ce marché très différent du leur. Ces affirmations témoignent d’une grande méconnaissance du monde des biotechs. Leurs cycles de recherche sont très longs par rapport à ceux du numérique et de l’Internet. Certes, les biotechs font de plus en plus appel à des outils numériques, en particulier pour le drug retargeting et la simulation moléculaire (en IA ou plus tard, avec des algorithmes quantiques). Mais c’est un métier bien à part. Les études de corrélation entre génotype et phénotype souvent mises en avant (…) ne permettent que de découvrir des facteurs de risques, pas de créer des thérapies ! Et Verily, la filiale santé de Google ? Voir Que cache Verily, la filiale de Google dédiée aux sciences de la vie ? de Patrick Randall de Frenchweb qui décrit bien la situation et conclue que la société se focalise surtout sur la gestion des données et sur les capteurs. Moins sur les thérapies elles-mêmes » développe-t-il.

Bête comme le machine learning

Il remarque enfin que les failles de l’intelligence artificielle ne sont pas triviales : « La vision que l’on peut avoir de l’intelligence artificielle est souvent erronée. On imagine un gros système avec plein de données qui est capable de les utiliser de manière omnipotente et omnisciente d’un coup de click. Bref, l’entrepôt de données universel qui sert à tout prédire. L’oracle ultime. La mise en œuvre de l’IA dans le monde réel est bien plus ingrate et laborieuse. On entraîne des modèles de machine learning au cas par cas. Ces modèles permettent de labelliser des situations (…), des images (…), des émotions (…) et de faire diverses prédictions. L’entraînement des modèles de machine learning exploite généralement des données anonymisées. (…) Ces modèles adoptent une vision probabiliste des problèmes à résoudre. Ils ont besoin d’échantillons importants pour bien fonctionner. Ils prédisent des valeurs futures en fonction des données du passé. Si le passé n’est pas satisfaisant pour une raison ou une autre, les modèles de machine learning vont reproduire bêtement ces insatisfactions On peut aussi créer des modèles de machine learning en croisant des données disparates. Cela permet éventuellement de découvrir des corrélations entre données, mais pas forcément les explications associées. Il faut toujours compléter cette approche par du bon sens métier » souligne-t-il.

Et la France dans tout ça ?

Ainsi, de nombreux experts invitent à relativiser la surpuissance des GAFA et certains font valoir qu’au-delà de ces géants américains, d’autres ont également des ressources importantes à utiliser. Outre la Chine qui connait ses propres champions qui seraient selon certains « en train de bâtir à marche forcée un nouveau système de santé national numériquement intégré » selon l’expression de Jean-Dominique Séval, directeur fondateur du cabinet de conseil Soon Consulting, qui signe une tribune sur le sujet dans Le Monde, la France ne peut oublier qu’elle a fait (comme souvent) figure de pionnière. Ainsi, toujours dans Le Monde, Lydia Morlet, maître de conférences en droit privé à l’université Paris-Descartes et codirectrice de l’Institut droit et santé et Alexandre Templier reviennent sur « l’avant-gardisme de la France » qui lui a dicté d’adopter en janvier 1978, une loi qui « créait un référentiel déterminé par cinq principes structurants – le recueil d’un consentement préalable à la collecte des données, l’information de la personne concernée, le respect de la finalité du traitement, la sécurité et l’anonymisation des données – qui seront repris par le Réglement général de protection des données (RGPD) européen ». Parallèlement, la France a également mis en place des « des dispositifs – uniques en Europe et dans le monde – comme le système national d’information interrégimes de l’Assurance-maladie (Sniiram), le programme de médicalisation des systèmes d’information (PMSI), le système national de données de santé (SNDS) ou plus récemment le Health Data Hub. Parallèlement à la constitution de ces structures ad hoc, l’accès aux données de santé a été simplifié » relèvent les deux experts qui estiment que ces différents éléments devraient constituer « un avantage compétitif pour nos entreprises », même si bien sûr rien n’est « parfait ». Dans un monde où les GAFA ne sont néanmoins pas rois.

Pour une vision moins automatique des logiciels qui ne régissent pas si certainement que cela nos vies et notre santé, on pourra relire (sur Apple ou via Google) :
La tribune d’Alexandre Templier : https://www.lemonde.fr/idees/article/2019/11/26/sante-et-numerique-sans-les-gafa-point-d-innovation-cet-axiome-doit-etre-discute_6020517_3232.html
Le billet d’Etienne Wery : https://www.droit-technologie.org/actualites/nightingale-le-nouveau-scandale-made-in-google/
Celui de François Manens : https://www.latribune.fr/technos-medias/internet/le-nouveau-projet-de-google-dans-la-sante-est-il-vraiment-si-scandaleux-832931.html
Celui d’Olivier Ezratty : https://www.frenchweb.fr/les-gafa-les-entreprises-et-les-donnees-de-lia/369171
La tribune de Jean-Dominique Séval : https://www.lemonde.fr/idees/article/2019/11/26/sante-et-numerique-l-ambition-de-la-chine-est-de-mettre-en-place-une-offre-globale-et-integree_6020516_3232.html

Aurélie Haroche

Copyright © http://www.jim.fr

Réagir

Vos réactions (2)

  • Excellent

    Le 30 novembre 2019

    Oui encore un excellent article et sans surprise d’Aurélie Laroche très bien étayé qui donne envie comme c’est mon cas de lire les références jointes.
    Il y aura toujours de la place pour l’humain et son humanité dans les relations humaines. On est encore très loin de HAL de l’odyssée de l’espace.

    Dr Frédéric Langinier

  • Des nouvelles du complot

    Le 30 novembre 2019

    Je cite : "La peur qu’ils nous inspirent est-elle réellement fondée ou n’est-elle qu’une nouvelle manifestation de notre hantise pour le progrès, de notre peur d’un complot visant à violer nos identités ou intimités ou notre aversion pour les géants capitalistes ?"
    Ca y est, le mot est lâché :"complot". Si on n'aime pas quelque chose ou quelqu'un, on est forcément complotiste donc paranoïaque, donc fou et passéiste de surcroît.

    Il n'empêche que les gafa emmagasinent beaucoup d'argent sans quasiment payer d'impôt et cela suffit déjà à nous les rendre antipathiques.
    De plus, Amazon détruit le petit commerce. Uber esclavagise ses employés. Apple fait extraire des terres rares dans des conditions de sécurité inhumaines et fait fabriquer ses iPhone par des employés chinois dans des conditions très critiquées.

    Toutes ces entreprises sont très riches et ont donc beaucoup de pouvoir, parfois plus de pouvoir que certains états.
    Mais s'en méfier serait du domaine de la folie!

    Dr Joël Delannoy

Réagir à cet article