Trois lois de la robotique - Définition

Les applications technologiques à venir

De la possibilité d'appliquer des lois à une intelligence

ASIMO, un robot humanoïde bipède, en développement par Honda.

Les mouvances technophile et transhumaniste voient parfois les trois lois comme un idéal à venir. Des avancées significatives en matière d'intelligence artificielle seraient nécessaires pour que les robots obtiennent une intelligence. Toutefois, comme la complexité des robots a augmenté, et l'avancée de la technologie suit une courbe exponentielle selon la singularité technologique. L'humanité a donc intérêt à élaborer des directives et des garanties pour leur fonctionnement . Mais est-ce seulement possible ?

Roger Clarke a écrit des analyses sur les complications dans l'application de ces lois, dans l'hypothèse que les systèmes soient un jour capables de les employer. Il a fait valoir, "les lois de la robotique d'Asimov ont été un procédé littéraire très réussi. Peut-être ironiquement, ou peut-être parce que c'était approprié dans le domaine artistique, la somme des récits d'Asimov réfutent eux-mêmes l'affirmation avec laquelle il commence ces récits, c'est pourquoi Clarke conclut : Il n'est pas possible de limiter de manière fiable le comportement des robots en concevant et en appliquant un ensemble de règles ».

En 2004, l'Institut Singularity a lancé une campagne Internet appelée 3 Lois dangereuses : "3 Laws Unsafe" (les 3 lois d'Asimov) pour sensibiliser aux questions de la problématique de l'intelligence artificielle et l'insuffisance des lois d'Asimov en particulier. (Singularity Institute for Artificial Intelligence 2004).

L'auteur de science fiction Robert Sawyer déclare quant à lui  :

« Le développement de l'IA est un business, et les business ne s'intéressent notoirement pas à des garanties fondamentales - en particulier philosophique, mais également sécuritaire et sanitaire. (Quelques exemples rapides: l'industrie du tabac, l'industrie automobile, l'industrie nucléaire. Pas une seule d'entre elles a dit dès le départ que les garanties fondamentales sont nécessaires, chacun d'eux a résisté aux garanties imposées de l'extérieur, les gouvernements, et aucun n'a accepté la loi absolue qui est de ne jamais causer de dommages aux humains.) »

Il convient de noter que L'Essai de Sawyer néglige les questions de dommage involontaire ou inconscient, sujet traité dans des livres comme Face aux feux du soleil.

Autre conséquence découlant du texte même des lois, au niveau Sémantique et au niveau logique. La première loi est fondamentalement erronée en ce qu'elle stipule qu'un robot ne peut pas «par son inaction, permettre qu'un humain soit en danger», cela pourrait signifier qu'un robot est hors-la-loi en permettant à des humains, par exemple, de partir en guerre. En d'autres termes, les 3 Lois conduiraient inévitablement à ce que des robots tentent de prendre le contrôle de l'humanité pour l'empêcher de se porter préjudice à elle-même. La seconde loi ne pouvait pas annuler ce danger, car si un humain donnait l'ordre aux robots de s'arrêter, ce serait un ordre en contradiction avec la première loi, et ainsi les robots ne pourraient pas l'exécuter.

D'autre part, des romans suivants d'Asimov (Les Robots de l'aube, Les Robots et l'Empire, Terre et Fondation) montrent que les robots infligent leurs pires méfaits sur le long terme tout en obéissant à la lettre aux lois, privant ainsi l'humanité de l'activité inventive ou de ces comportements à risque.

Mise en place de ces lois

• Pour des actualités généralistes aller sur la page intelligence artificielle.

• En mars 2007, le gouvernement sud-coréen a annoncé que plus tard dans l'année, il émettrait une Charte sur l'éthique des robots, afin de fixer des normes pour les utilisateurs et les fabricants. Selon Park Hye-Young, du ministère de l'Information et de la communication, la Charte reflète les trois lois d'Asimov : La tentative de définition des règles de base pour le développement futur de la robotique.