Intelligence artificielle : jamais sans la clinique ?

Paris, le samedi 9 novembre 2019 – L’homme est constamment en train de s’interroger sur les progrès techniques dont il est pourtant à l’origine. Ces questionnements sont d’ordre éthiques et moraux. Ces évolutions offrent-elles un réel bénéfice aux hommes ? Risquent-elles de les mettre en danger ? Compromettent-elles les fondements et les fonctionnements les plus profonds de nos sociétés et de nos relations les uns aux autres ? Quels que soient les progrès envisagés, les clivages sont souvent similaires : face aux enthousiastes qui refusent que la marche du progrès soit entravée par des peurs souvent irrationnelles se dressent des conservateurs qui ne sont pas toujours uniquement animés par le souci de protéger le bien-être des populations mais également par une certaine idée de la morale et de l’être humain.

Le pouvoir médical de demain dans les mains des concepteurs de l’IA ?

L’intelligence artificielle appliquée à la médecine n’échappe pas à cette loi. Les études se multiplient pour signaler les performances des algorithmes pour le repérage et le diagnostic de différentes pathologies. Grâce à l’apprentissage automatique, en se référant à des bases de données très complètes, les ordinateurs parviennent, souvent avec plus de précision que le médecin à reconnaître des rétinopathies diabétiques, des cancers cutanés, des arythmies ou encore des polypes colorectaux pour ne citer que quelques-uns des domaines récents où les mérites de l’intelligence artificielle ont pu être mis en évidence.

Pour certains, nous assistons aux prémices d’une révolution qui révèle les contours de la médecine de demain : une discipline pleinement numérisée qui ne laissera plus de place à l’incertitude. Dans ce contexte, le rôle du médecin sera (s’il n’a pas disparu) pleinement modifié : devenant le responsable des annonces et des orientations, mais plus celui des examens et des diagnostics. Ainsi, dans un texte publié il y a quelques mois, le docteur Laurent Alexandre dessinait : « De semaine en semaine, les territoires où l'IA surpasse les meilleurs médecins se multiplient : Google a publié des résultats spectaculaires en cancérologie, dermatologie, ophtalmologie, biologie moléculaire et cardiologie. L'IA devient peu à peu capable de performances que les meilleurs humains ne peuvent égaler (…). La dernière IA médicale de Google dépiste beaucoup mieux les micrométastases d'un cancer du sein que les médecins (99 % versus 62 %). Avec de tels différentiels - qui vont encore augmenter -, s'opposer à l'IA de Google ferait prendre un risque immense au patient » jugeait-il, assurant encore : « il sera bientôt interdit aux médecins de soigner un malade et de signer une ordonnance sans son autorisation ». Face à cette suprématie des machines et à cette « douloureuse blessure narcissique » pour les médecins, Laurent Alexandre évoquait les précisions du « meilleur économiste de l'IA, Kai-Fu Lee, [qui] imagine le médecin de 2030 : un tiers assistant social, un tiers infirmier et un tiers technicien. Ainsi, le médecin de demain sera accompagnateur et interprète des oracles de l'IA plus que dieu médical (…).  Il sera auxiliaire plus que centre d'un système qui tournera essentiellement autour de l'IA. Le pouvoir et l'éthique médicale seront aux mains des concepteurs des IA et non le fruit du cerveau des médecins ».

Boîte noire

D’autres sont très loin de partager cet enthousiasme. Ils dénoncent tout d’abord les limites de l’IA, citant les travaux où cette dernière n’a pas su manifester sa supériorité sur l’homme. Ils relèvent ses limites. Ainsi, dans un long article publié par Médecine Sciences, le professeur Claude Matuchansky, ancien chef de service en gastroentérologie et assistance nutritive, rappelle : « Diverses faiblesses et limites de l’IA connexionniste (analogique) actuelle sont régulièrement relevées. (a) L’IA analogique nécessite des données parfaitement propres, qualifiées- bien annotées cliniquement - et non-biaisées. Or nombre de données médicales sont biaisées, notamment par des préjugés lors de leur recueil - préjugés qui ne sont pas toujours pris en compte par les concepteurs de logiciels (…). (b) L’apprentissage automatique profond souffre d’un manque d’explication de ses décisions (« d’explicabilité ») et de transparence (distincte de « l’explicabilité » et consistant à rendre public le code-source d’un algorithme) qui le fait régulièrement identifier à une boîte noire (…). (c) Les réseaux de neurones artificiels de l’IA peuvent être abusés, en analyse d’images, par de petites modifications de l’orientation ou le positionnement même d’un petit nombre de pixels (…).(d) Les modèles de prédiction - notamment diagnostique, thérapeutique ou pronostique - créés par l’IA et désignés comme un de ses principaux apports en santé ont fait l’objet d’importantes réserves : ils reposent, en effet, davantage sur la seule informatique que sur des modèles statistiques scientifiquement bien établis ».

Par ailleurs, ceux qui se montrent plus réservés vis-à-vis de l’IA insistent sur les conséquences néfastes de l’arrivée de ces algorithmes (et au-delà du monde virtuel) dans la relation médecin malade : une déshumanisation rampante, qui voit les médecins plus souvent figés devant leur écran que face aux patients pour les écouter. La critique de l’IA invite enfin à en désacraliser la portée, en faisant remarquer qu’elle demeure aujourd’hui la prisonnière d’une logique arithmétique, certes complexe, mais qui ne jouit pas de la faculté d’adaptation de l’esprit humain. Ainsi, plutôt que de lui prêter le nom prestigieux et peut-être trop ambitieux d’intelligence, certains, y compris même chez les concepteurs de logiciels informatiques préfèrent parler d’ « apprentissage statistique, apprentissage automatique, englobant l’apprentissage profond, supervisé (annoté ou étiqueté par l’homme) ou non supervisé » rappelle Claude Matuchansky.

Eloge de la nuance

Sans doute, la voie à suivre incite-t-elle comme souvent à privilégier la nuance. C’est vers-celle-ci que nous convie le professeur Matuchansky. Ce praticien dont nous avions publié il y a quelques années un « éloge de la clinique » ne cessera jamais de rappeler le rôle fondamental de cette dernière et sa capacité d’adaptation au fil des siècles et des décennies. « Tout à la fois ancienne et moderne, elle n’est pas, loin s’en faut, une vieille dame, celle des Diafoirus père et fils, du « Malade imaginaire » de Molière. L’intelligence clinique a su, en effet, s’adapter, avec ses valeurs propres, aux nouvelles techniques et aux progrès médicaux : elle a notamment su les intégrer dans des arbres de décisions et des algorithmes cliniques, alimentés depuis les années 1990 par la "médecine fondée sur des données probantes" et conformes aux données contemporaines de la science médicale. Si nécessaire, la pratique clinique intègre des dispositifs techniques au contact du patient, telle l’échographie abdominale ou cardiaque. Ni sacro-sainte ni dépositaire d’une vérité éternelle, mais méthode médicale incarnée, fondée sur le discernement et, par essence, personnalisée, la clinique ne s’oppose donc pas aux investigations les plus récentes : elle est un filtre de leurs indications, les sélectionnant et les hiérarchisant selon l’individualité du patient ». Ainsi, loin des prévisions futuristes d’un Laurent Alexandre, Claude Matuchansky dessine une médecine de demain où intelligence clinique et intelligence artificielle seront indispensables l’une à l’autre, indissociables et où l’homme demeurera incontournable. Ainsi, écrit-il : « Ainsi l’intelligence clinique pourrait-elle être la garantie humaine de l’IA en médecine, leur complémentarité devant conduire à une qualité des décisions et, finalement, des soins, largement supérieure à celle que peut fournir séparément chacune d’elles », avant de conclure : « La médecine, au moins pour ce qui est de la clinique (…) n’est pas - pas encore (?) – soluble dans l’IA, ni réductible au traitement des données. « Il semble encore trop tôt pour que des preuves scientifiques orientent définitivement la part du numérique dans la santé », soulignait Antoine Bril et coll. dans médecine/ sciences. La recherche en santé numérique ne peut préjuger trop tôt de ses résultats, comme elle ne peut échapper au chemin toujours long et à l’esprit critique et de nuance des sciences ».

Voilà qui permet mieux que quelques digressions de science fiction de préjuger de la médecine en 2059.

On pourra relire les écrits de :
Laurent Alexandre : https://www.lexpress.fr/actualite/sciences/le-luxe-des-elites-de-2040-desobeir-a-l-intelligence-artificielle_2082036.html
Claude Matuchansky : https://www.medecinesciences.org/en/articles/medsci/full_html/2019/09/msc190227/msc190227.html

Aurélie Haroche

Copyright © http://www.jim.fr

Réagir

Vos réactions (2)

  • Du mal à admirer les propos de Mr Alexandre

    Le 09 novembre 2019

    Merci Mme Haroche encore un article remarquable, précis synthétique et objectif. J'ai plus de mal à admirer les propos de Mr Alexandre (l'homme est exceptionnel d'intelligence) qui subit les effets pervers de sa propre vulgarisation scientifique.

    Dr Pierre Castaing

  • Intelligence, vraiment ?

    Le 14 novembre 2019

    Soyons réalistes : ce qui est aujourd'hui décrit comme des performances dépassant celles de l'homme, ce ne sont que des analyses fines d'images (ou de tracés).

    Evidemment, un logiciel peut acquérir en quelques heures l'expérience de centaines de vies de praticiens. Nul doute que c'est un progrès insurpassable, mais il n'y a là nulle intelligence (si ce n'est celle de ceux qui ont conçu la machine et son programme). On aura bientôt, sans difficulté, des logiciels capables d'indiquer des probabilités diagnostiques en fonction d'un ensemble de données qu'on lui aura fournies. Là encore, rien de bien intelligent, seulement le travail d'un étudiant qui aurait bachoté et retenu sans erreur toutes ses questions d'internat.

    Tout ça améliore fortement la médecine et réduit le taux d'erreurs évitables, mais ne se substitue en rien à l'exercice médical.
    La conduite automobile automatisée est bien plus sûre et plus reposante que le pilotage artisanal. Mais elle ne nous dit pas où aller, ni pourquoi, ni avec qui.

    Dr Pierre Rimbaud

Réagir à cet article