Jolie fille hors des clous ou bouledogue bien élevé : et vous qui sauveriez-vous, en priorité ?

Paris, le samedi 10 novembre 2018 – Tandis que l’ancien monde continue à s’interroger sur les voitures les plus écologiques et alors que l’arbitrage entre les énergies diesel, électrique et essence n’est pas aussi simple qu’il paraît, le nouveau monde n’a d’yeux que pour la voiture autonome. C’est elle qui, alimentée par la meilleure des énergies, sera la monture de demain. L’un des principaux objectifs de ces véhicules autonomes est de limiter significativement les accidents. Pourtant, même dans le futur, tout ne sera pas parfait et la voiture intelligente pourrait, comme le conducteur humain, être confrontée à des dilemmes cornéliens.

Comment conseiller l’algorithme ?

Pour ceux que le développement de l’intelligence artificielle alarme et qui ne se résolvent pas à l’idée de voir cette construction (humaine) potentiellement dépasser son maître, la voiture intelligente est un exemple type de situation périlleuse. Comment accepter de laisser à une machine le soin de trancher entre des choix éthiques d’aussi grande importance que d’opter entre écraser un oiseau ou briser un étalage ? En réalité, comme toujours avec l’intelligence artificielle, elle ne sera que le fruit des directives émises par l’homme. Encore faut-il déterminer, quels sont-elles ?

Pas d’antispécisme

Cette question majeure en psychologie sociale a déjà conduit à différentes études reposant sur des schémas expérimentaux divers. Par son ampleur, le dispositif mis en place par des équipes de chercheurs français (Ecole d’économie de Toulouse) américains (MIT) et canadiens (Colombie-Britannique) est inédit. Jean-François Bonnefon, Edmond Awad et Azim Shariff et leurs collaborateurs ont conçu une plateforme internet (intitulé Moral Machine, toujours accessible à l’adresse : http://moralmachine.mit.edu/) et invité les internautes du monde entier à donner leur opinion sur différents scénarios routiers. En jeu, la décision de sacrifier tels ou tels individus aux dépens d’autres lors d'une menace d'accident. Treize scénarios sont en ligne avec à chaque fois deux possibilités de réponse et toujours la même faille à l’origine : une défaillance de frein de la voiture autonome. Dès lors, l’internaute doit déterminer si la voiture doit poursuivre sa route ou tourner, ce qui entraînera à chaque fois des conséquences différentes. Les victimes peuvent être soit des piétons (humains ou animaux), soit les passagers de la voiture. Cependant, à aucun moment l’internaute n’est désigné comme étant le conducteur ou un passager de la voiture (l’impact de l’implication personnelle a été mesuré par d’autres études et il est certain !). Les chercheurs ont ainsi pu récolter 40 millions de réponses, tandis que 492 921 personnes vivant dans 13 pays ont accepté de donner des informations personnelles.

Les résultats, qui ont été l’objet d’une publication fin octobre dans la revue Nature, laissent tout d’abord apparaître trois tendances majeures : « Sans surprise, trois positions se détachent : épargner le plus grand nombre, privilégier les humains sur les animaux et sauver les enfants » résume Jean-François Bonnefon interrogé par Le Monde.

Gare à celui qui roule en dehors des clous

Au-delà de cette tendance générale, les chercheurs ont pu déterminer que le fait de respecter le code de la route (pour les victimes potentielles) et le statut social ont une influence sur les choix. Avoir enfreint le code de la route expose ainsi à un plus grand risque d’être victime d’un accident, tandis que les professions qui jouissent d’une forte reconnaissance sociale pourraient être moins menacées (si tant est que l’on puisse si facilement déterminer le métier du piéton en face de soi). Moins fortement, l’apparence physique et le sexe peuvent influencer le jugement. Le statut de passager ou de piéton et la nécessité ou non d’une action sont les éléments qui ont le moins d’impact.

On dirait le sud… en France !

Jean-François Bonnefon et ses collègues signalent par ailleurs que si l’âge, le sexe ou encore la religion du répondeur n’auraient pas d’influence sur ses choix éthiques, la zone géographique aurait un impact. On observe ainsi que vivre au Sud favorise la "bienveillance" à l’égard des jeunes (par rapport à ceux qui résident à l’est), tandis qu’en Occident et dans le Sud on n’est guère tendre avec ceux qui grillent les feux rouges ! A noter, la France dans cette répartition se rapproche bien plus souvent des pays du Sud et non états occidentaux! D’une manière générale, la France se distingue régulièrement de ses voisins. Ainsi, « Il y a une forte préférence pour sauver les femmes plutôt que les hommes » note Jean-François Bonnefon.

Asimov, reviens !

Ces résultats ont été l’objet de nombreux commentaires. Outre le fait que la représentativité des répondeurs n’est pas parfaite (ils étaient à 70 % des hommes âgés de 20 à 30 ans), beaucoup ont signalé la difficulté de construire des scénarios reflétant la réalité des situations, qui se résument rarement en un choix aussi manichéen que la mort ou la vie. Il n’empêche que 75 ans après l’édiction des trois règles de la robotique par l’écrivain Isaac Asimov (auquel les auteurs de l’étude font référence dans leur introduction), on constate combien ses réflexions n’ont jamais autant d’actualité, si ce n’est qu’Asimov avait peut-être sous-estimé la complexité de l’affaire !

Les lois d’Asimov sont :
1. un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu'un être humain soit exposé au danger ;
2. un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi ;
3. un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi.

Aurélie Haroche

Copyright © http://www.jim.fr

Réagir

Vos réactions

Soyez le premier à réagir !

Les réactions aux articles sont réservées aux professionnels de santé inscrits
Elles ne seront publiées sur le site qu’après modération par la rédaction (avec un délai de quelques heures à 48 heures). Sauf exception, les réactions sont publiées avec la signature de leur auteur.

Réagir à cet article