Quand les erreurs de l'IA réhabilitent la faculté de papa

Bilbao, le samedi 14 octobre 2023 - Les outils d'intelligence artificielle (IA) souffrent de biais, essentiellement parce qu'ils sont programmés par des êtres humains. Si les algorithmes utilisés recèlent des erreurs, ils évolueront en les reproduisant. Selon un article publié dans la revue Scientific Reports, l'inverse semble également vrai : à long terme l'IA peut induire en erreur les êtres humains. Une étude menée par Lucia Vicente et Helena Matute, du département de psychologie de l'Université de Deusto (Bilbao, Espagne) met ainsi en lumière cet état de fait préoccupant à une époque où l'IA semble devoir s'installer partout.

Ces scientifiques ont émis l'hypothèse que les personnes effectuant une tâche de diagnostic médical (simulée), assistées par un système d'IA erroné, reproduiront le biais du modèle dans leurs propres décisions, même lorsque l'IA n'est plus présente pour les épauler. Pour vérifier cette hypothèse, l'équipe a demandé à des étudiants en psychologie de faire un diagnostic médical : ils devaient identifier, à partir d'échantillons tissulaires et de leurs colorations, les patients potentiellement atteints d'une maladie fictive spécifique.

Un groupe de participants était assisté par une IA contenant une erreur (dont les sujets n'étaient pas informés), tandis que le groupe témoin n'avait aucune assistance par IA. Sans surprise, le groupe assisté par l'IA défectueuse a commis les mêmes erreurs que son assistant informatique, contrairement au groupe témoin qui n'a pas fait d'erreurs.

Dans un second temps, les chercheuses ont désactivé l'IA et demandé aux deux groupes de poursuivre les tests. Le résultat est inquiétant : le groupe désormais sans assistance a continué à perpétrer les mêmes erreurs, ayant visiblement « hérité » du biais introduit par l'IA précédemment. Cette expérience a été répétée trois fois avec des groupes différents et a à chaque reprise abouti aux mêmes conclusions troublantes.

Pour les chercheuses, ces résultats prouvent que les humains héritent des biais de l'IA et que des informations biaisées provenant de l'IA peuvent avoir un impact négatif sur les décisions humaines dans des secteurs critiques tels que la médecine. De plus, cette influence pourrait persister à long terme, même en l'absence de toute recommandation de l'intelligence artificielle.

Il semble donc que l'apprentissage à l’ancienne de la médecine (et d’autres disciplines) demeure une voie d’avenir !

F.H.

Copyright © 2023 JIM SA. Tous droits réservés.

Réagir

Vos réactions (1)

  • Errare humanum est...

    Le 14 octobre 2023

    ...perseverare mechanicum ?
    Mais perpétuer des erreurs, est-ce vraiment "perpétrer" des crimes ?

    Dr. P. Rimbaud

Réagir à cet article