Les lois de la robotique d'Asimov doivent elles évoluer ?

Pourquoi le XXIe siècle exige de mettre à jour les lois de la robotique formulées par Asimov

De nombreux projets financés par l'UE cherchent à faire progresser la robotique pour aider les individus à surmonter des défis de société, par exemple en apportant des soins aux personnes âgées ou des secours aux sinistrés. Un universitaire qui a travaillé sur un de ces projets estime que les lois de la robotique formulées par l'écrivain Isaac Asimov ne sont pas moralement adaptées et qu'elles devraient être mises à jour.

Isaac Asimov est l'un des écrivains de science-fiction les plus célèbres et ses "Trois lois de la robotique" sont sans doute sa création la plus connue. Voici ces lois: un robot ne peut porter atteinte à un humain, ni, en restant passif, permettre qu'un humain soit exposé au danger; un robot doit obéir aux ordres qui lui sont donnés par les êtres humains, sauf si ces ordres entrent en conflit avec la première loi; et un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la deuxième loi.

Appliquer les lois d'Asimov aujourd'hui

Le professeur Tom Sorell de l'Université de Warwick au Royaume-Uni a récemment soutenu que les trois lois d'Asimov semblent être une réponse naturelle à l'idée que les robots seront un jour répandus et qu'ils nécessitent une programmation interne pour éviter qu'ils ne portent atteinte aux humains. Il estime cependant que si les lois d'Asimov s'organisent autour de la valeur morale consistant à préserver les humains des dangers, elles ne sont pas faciles à interpréter. Expert en éthique des robots, le professeur Sorell a travaillé sur le projet ACCOMPANY, financé par l'UE, qui a développé un robot compagnon pour aider les personnes âgées à mener une vie indépendante.

M. Sorell écrit que les lois d'Asimov semblent encore d'actualité, car il existe des craintes légitimes concernant le mal que peuvent causer les robots aux humains, comme le montrent les décès récents aux États-Unis causés par le mauvais fonctionnement de voitures autonomes. Mais nous vivons également à une époque où des robots de plus en plus sophistiqués sont utilisés pour exécuter des tâches de plus en plus complexes, conçues pour protéger et prendre soin des humains.

Il ne s'agit pas seulement de robots conçus pour prendre soin des personnes âgées, comme dans ACCOMPANY (pour plus d'informations sur les projets financés par l'UE utilisant des robots pour aider les personnes âgées, voir Results Pack CORDIS sur les TIC pour une vie autonome, mais aussi des robots destinés à porter secours en cas de catastrophe. À titre d'exemple, le robot utilisé par un projet financé par l'UE évalue les dégâts occasionnés aux bâtiments historiques par le séisme qui a frappé la ville italienne d'Amatrice.

Nouveaux robots, nouveaux paradoxes... nouvelles lois ?

Les lois d'Asimov tiennent moins bien la route si l'on considère le développement de drones militaires pilotés par des humains et conçus pour tuer à distance d'autres humains. Si un robot est dirigé par un humain pour sauver les vies de ses concitoyens en tuant les humains qui les attaquent, on peut paradoxalement dire qu'il respecte et viole à la fois la première loi d'Asimov.

De plus, si le drone est piloté par un humain, on peut affirmer que c'est l'homme qui est responsable de la perte de vies humaines dans des situations de combat, et non le drone. En effet, les armées équipées de drones réduiront considérablement les pertes humaines – et peut-être est-il préférable d'utiliser des robots comme chair à canon, plutôt que des humains.

À l'autre extrême, les lois d'Asimov sont appropriées si le principal objectif du robot est d'assurer la sécurité d'une personne âgée. Mais la robotique s'inscrit souvent dans une série de technologies d'assistance qui aident les personnes âgées à conserver leur indépendance, ce qui est l'objectif du projet ACCOMPANY. Il faut donc leur permettre de prendre leurs propres décisions, y compris celles qui pourraient leur occasionner des blessures, dues par exemple à une chute. Un robot qui a laissé son humain prendre des décisions indépendantes susceptibles de lui causer des blessures dues à une chute enfreindrait la première loi, car il n'est pas intervenu pour empêcher ces blessures.

Le professeur Sorell soutient pourtant que l'autonomie de l'humain doit être respectée, aussi bien par les autres humains que par les robots. Les personnes âgées dont les choix sont les garants de leur autonomie, mais qui peuvent les exposer à des blessures, doivent également être respectées.

Depuis des décennies, les lois d'Asimov ont influencé les développeurs en robotique, mais il est maintenant peut-être temps de réévaluer leur efficacité et d'envisager de nouvelles lois compatibles avec les formidables avancées que connaissent actuellement la robotique et l'intelligence artificielle, que ce soit en Europe ou ailleurs.

Pour plus d'informations voir: site web du projet ACCOMPANY