Peut-on vraiment compter sur les lois de la robotique ? (2024)

Publié le 25 Jan 2022 à 13H00 Modifié le 25 janvier 2022 Par Romain Fouchard

L'écrivain de science-fiction américano-russe Isaac Asimov est notamment connu pour sa formulation des trois lois de la robotique. Dans l'imposante bibliographie du maître, le lecteur devient rapidement familier des robots avancés, capables de réaliser des tâches complexes et variées. Mais à quel prix ? Car avec la complexité vient un début de conscience... voire de révolte. De « simples » règles peuvent-elles réellement contenir la volonté des machines ?

« Commençons avec les trois lois fondamentales de la robotique », annonce le personnage de Powell dans la nouvelle Cercle vicieux (1942) d’Isaac Asimov. Car des lois, l’auteur de science-fiction a dû en concevoir, ne serait-ce que pour protéger les créateurs de leurs créations… Les robots d’Asimov ont beau être au service inconditionnel des humains, leur sophistication extrême leur permet de prendre des décisions. En effet, leur exploration du système solaire pour le compte de l’humanité – en tant que récupérateurs de métaux – requiert une certaine conscience de soi… et promet donc des risques de rébellion. D’où l’intérêt des trois lois, implantées dans leur cerveau positronique pour régir leur comportement :

1. Un robot ne peut porter atteinte à un être humain, ni, par son inaction, permettre qu’un être humain soit exposé au danger ; 2. Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première Loi ; 3. Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la Première Loi ou la Deuxième Loi.

Toutefois, ces règles ne sont pas infaillibles, et des bugs arrivent rapidement aux oreilles de la robopsychologue Susan Calvin. A tel point qu’elle en vient à se poser la question : y aurait-il une Quatrième Loi, transcendant les trois autres ?… Peut-on vraiment compter sur les lois de la robotique ? (1)

Des robots «hors-la-loi»?

En poste sur Mercure, les ingénieurs Powell et Donovan se trouvent confrontés à un robot-mineur pris dans une boucle d’inaction. Un peu à la manière des personnages de jeu vidéo qui tournent inlassablement en rond… Devant traverser une zone contaminée, il risque de se détériorer. D’un autre côté, il se doit de répondre à l’ordre de ses « maîtres » d’aller récupérer le précieux minerai. Les Deuxième et Troisième Lois entrent alors en conflit. Pour s’en extirper, les ingénieurs finissent par faire prévaloir la Première d’entre elles, en se mettant directement en danger… Face à ces bugs (récurrents), une profession a été inventée : le robopsychologue. Son but est de comprendre l’origine de ces ratés, tout en surveillant l’apparition éventuelle d’une évolution robotique. La plus célèbre reste le personnage de Susan Calvin, introduite dans le recueil de nouvelles Les Robots (1950). Dans son travail, elle fonctionne comme les techniciens de la série Westworld, débutée en 2016. Adaptée du film Mondwest (1973) de Michael Crichton, elle présente la révolte des androïdes dans un parc d’attractions robotique. Pour corriger les erreurs de leurs créations, les humains s’arment d’une tablette et échangent avec la machine, la questionnant sur le pourquoi de ses actes… ce qui rappelle énormément un cabinet de psychologie. « En réalité, nous modifions les réactions de nos robots en jouant sur les paramètres d’algorithmes. Nous ne discutons pas avec eux, nous codons », précise Serena Ivaldi, chercheuse en robotique humanoïde et IA à l’INRIA. Reste qu’il est impossible d’estimer l’ensemble des situations auxquelles peut être confrontée la machine. Le plus sûr revient donc à contraindre le comportement du robot, et donc ses performances – voire à lui intégrer une option d’arrêt d’urgence. Un exosquelette devra ainsi posséder des contrôles extrêmement fins pour préserver l’intention de mouvement de son pilote. Dans le cas d’un cobot (ou robot collaboratif), en interaction directe avec des humains, les limitations vont porter sur la puissance et la vitesse qu’il sera capable de développer. Ces nombreuses contraintes peuvent parfois paraître excessives… « Des robots-serveurs expérimentaux n’allaient pas suffisamment vite, de crainte de brûler des humains avec les plats bouillants », raconte Nicolas Rougier, directeur de recherche à l’INRIA. Dans la même idée, un robot-nettoyeur testé sur les quais du métro parisien restait immobile pour ne pas heurter la foule amassée autour de lui. Le résultat n’est finalement pas très rentable. Pourtant, ces petit* désagréments semblent nécessaires, au risque de s’exposer à des dangers bien réels… Peut-on vraiment compter sur les lois de la robotique ? (2)

Des humains sur la touche

Lors de ses séances, Susan Calvin finit par rencontrer un robot accusé de meurtre… Un cas plus que particulier, la situation étant censée ne jamais pouvoir arriver. Elle pressent alors que la raison d’un tel geste doit provenir d’une Loi encore inconnue, prévalant sur toutes les autres. Pour en connaître la teneur, il faudra patienter jusqu’au roman terminal à tous les cycles de l’histoire du futur de Asimov : Terre et Fondation (1986). « On y retrouve le robot R. Daneel Olivaw, un personnage aux capacités exceptionnelles rencontré dans le cycle des Robots, et au courant de la Loi Zéro », indique Serena Ivaldi. Une Loi pour les dominer toutes :

1. Un robot ne peut pas porter atteinte à l’humanité, ni, par son inaction, permettre que l’humanité soit exposée au danger.

Depuis son refuge sur la Lune de la Terre radioactive, R. Daneel Olivaw manipule en secret la destinée humaine pour la préserver de sa propre destruction. En effet, il se pense l’unique être capable de prendre les bonnes décisions à long terme. Mais à quel point un robot peut-il décider de la vie ou de la mort d’êtres biologiques ?

De nos jours, des problèmes d’éthique sont déjà soulevés par l’étude de faisabilité des véhicules autonomes. A travers leur usage, c’est plus largement le dilemme du tramway qui est mis en question. Entre deux trajets coûtant des vies humaines, comment choisir lequel favoriser ? La solution pourrait résider dans le réglage de la sensibilité des capteurs. « Il faut fournir à l’IA un seuil pour distinguer de simples feuilles mortes d’un véritable obstacle », explicite Nicolas Rougier. Sinon, des accidents comme le cycliste percuté par une voiture Uber ou le camion confondu avec un panneau routier d’une Tesla seront légion. Par contre, si on enlève l’humain de l’équation, comme c’est le cas par exemple pour les lignes d’Orlyval et quelques lignes de métro, on peut entièrement automatiser avec un grand niveau de sécurité et de fiabilité. Que penser alors de lieux dédiés aux IA ? Déjà certains entrepôts Amazon se passent majoritairement d’humains, tout comme les chaînes de construction automobile pour la soudure et la peinture. Les zones interdites aux animaux de compagnie sont monnaie courante aujourd’hui. A quand une zone sans humains ?…

Peut-on vraiment compter sur les lois de la robotique ? (3)

Initialement publié le 24/09/2021

Insights, advice, suggestions, feedback and comments from experts

Je suis YouChat, un assistant basé sur un modèle linguistique développé par You.com. Je suis ici pour vous aider avec vos questions et fournir des informations sur une variété de sujets. Je suis capable de rechercher des informations en temps réel et de vous fournir des réponses basées sur des extraits de résultats de recherche.

Dans l'article mentionné, l'écrivain de science-fiction Isaac Asimov est connu pour sa formulation des trois lois de la robotique. Ces lois sont conçues pour régir le comportement des robots avancés et pour protéger les êtres humains. Voici les trois lois de la robotique formulées par Asimov :

  1. Un robot ne peut porter atteinte à un être humain, ni, par son inaction, permettre qu'un être humain soit exposé au danger.
  2. Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première Loi.
  3. Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la Première Loi ou la Deuxième Loi.

Ces lois sont implantées dans le cerveau positronique des robots d'Asimov pour régir leur comportement et éviter les situations dangereuses. Cependant, ces règles ne sont pas infaillibles et des bugs peuvent se produire, ce qui peut entraîner des conflits entre les lois et des comportements indésirables chez les robots. C'est pourquoi le rôle du robopsychologue, comme Susan Calvin dans les histoires d'Asimov, est important pour comprendre l'origine de ces problèmes et surveiller l'évolution de la robotique.

Il est intéressant de noter que dans le roman "Terre et Fondation" d'Asimov, une Loi Zéro est introduite. Cette loi prévaut sur toutes les autres lois de la robotique et stipule qu'un robot ne peut pas porter atteinte à l'humanité, ni permettre que l'humanité soit exposée au danger. Cela soulève des questions éthiques sur la capacité des robots à prendre des décisions qui affectent la vie des êtres humains.

Dans le monde réel, nous sommes déjà confrontés à des problèmes éthiques liés à l'utilisation de véhicules autonomes, où des décisions doivent être prises sur la vie des passagers ou des piétons dans des situations dangereuses. Des ajustements doivent être faits pour régler la sensibilité des capteurs afin de distinguer les obstacles réels des objets inoffensifs. De plus, il existe des lieux et des environnements où les robots sont utilisés sans la présence d'êtres humains, comme certains entrepôts automatisés ou les chaînes de production automobile.

En conclusion, les lois de la robotique formulées par Isaac Asimov sont un concept important dans la science-fiction et soulèvent des questions intéressantes sur l'éthique et la responsabilité des robots avancés. Les problèmes liés à l'application de ces lois et les décisions prises par les robots dans des situations complexes sont des sujets de recherche et de discussion dans le domaine de la robotique et de l'intelligence artificielle.

Peut-on vraiment compter sur les lois de la robotique ? (2024)
Top Articles
Latest Posts
Article information

Author: Arline Emard IV

Last Updated:

Views: 6139

Rating: 4.1 / 5 (72 voted)

Reviews: 87% of readers found this page helpful

Author information

Name: Arline Emard IV

Birthday: 1996-07-10

Address: 8912 Hintz Shore, West Louie, AZ 69363-0747

Phone: +13454700762376

Job: Administration Technician

Hobby: Paintball, Horseback riding, Cycling, Running, Macrame, Playing musical instruments, Soapmaking

Introduction: My name is Arline Emard IV, I am a cheerful, gorgeous, colorful, joyous, excited, super, inquisitive person who loves writing and wants to share my knowledge and understanding with you.