Serons-nous des animaux pour l’intelligence artificielle ?

San Francisco, le samedi 11 novembre 2023 – L’apparition il y a un an de ChatGPT a été source d’émerveillement et d’angoisse. Désormais, l'avancée rapide de l'intelligence artificielle (IA) soulève des questions cruciales sur son impact sur la société.

Ilya Sutskever, cofondateur d’OpenAI et de ChatGPT partage ses réflexions sur le Graal ultime : l'intelligence artificielle générale (IAG).

Le concept d'IAG décrit le stade où l'intelligence humaine devient obsolète, laissant l'IA capable d'agir et d'apprendre de manière autonome. Sutskever compare notre relation future avec l'IA à celle que nous avons avec les animaux. Il évoque une relation où l'IAG agirait selon ses propres objectifs. Il explique : « je pense qu'une bonne analogie serait la façon dont les humains traitent les animaux. Ce n'est pas que nous détestons les animaux. Je pense que les humains aiment les animaux et ont beaucoup d'affection pour eux. Mais lorsqu'il s'agit de construire une autoroute entre deux villes, nous ne demandons pas la permission aux animaux. Nous le faisons simplement parce que c'est important pour nous. Je pense que, par défaut, c'est le type de relation qui s'établira entre nous et l’intelligence artificielle générale (IAG) », souligne-t-il dans ce documentaire.

Débrancher l’IAG

La question de l'alignement des objectifs de l'IAG et de l'humanité se posera donc avec force.

Le Français Yann Le Cun, récipiendaire du prix Turing (sorte de prix Nobel de l’informatique) minimise, lui, les craintes d'une IA maléfique et plaide pour la transparence dans le développement de l'IA via l'open source, soulignant qu’une réglementation prématurée pourrait entraver l'innovation. D'autres chercheurs en IA comme Michael Osborne d'Oxford, mettent en garde contre le risque que l'IAG se retourne contre l'humanité.

Bill Gates semble également abonder en ce sens : « une machine pourrait-elle décider que les humains constituent une menace, conclure que ses intérêts sont différents des nôtres ou simplement cesser de se préoccuper de nous ? C'est possible ». Il tempère néanmoins : « ce problème n'est pas plus urgent aujourd'hui qu'il ne l'était avant les développements de l'IA de ces derniers mois ».

On peut toujours se rassurer en se rappelant que contrairement à l’homme, l’IA aura toujours besoin d’une énergie extérieure pour la faire fonctionner…

F.H.

Copyright © 2023 JIM SA. Tous droits réservés.

Réagir

Vos réactions (1)

  • Quelle question !

    Le 14 novembre 2023

    Les humains sont une espèce animale, et les robots algorithmiques sont des machines.
    Vraiment rien de nouveau sous le soleil. Y compris le fait que nos descendants riront de nos fantasmes.

    Dr P. Rimbaud

Réagir à cet article