Trois lois de la robotique

Un article de Wikipédia, l'encyclopédie libre.

Cet article fait partie de la série

Science-fiction

La SF à l’écran

autre-A-B-C-D-E-F-G

H-I-J-K-L-M

N-O-P-Q-R-S-T

U-V-W-X-Y-Z

Le monde de la SF

Auteurs - BD de SF

Fandom - Prix littéraires

Thèmes et genres

Catégorie:science-fiction

Les trois lois de la robotique sont une invention de l’écrivain de science-fiction Isaac Asimov. Ces lois visent à rendre le comportement des robots inoffensif pour les humains.

Sommaire 1 Les trois Lois de la Robotique 2 Histoire des Lois de la Robotique 3 La Loi Zéro 4 Aspect juridique 5 Voir aussi 6 Notes et références

[modifier] Les trois Lois de la Robotique

Dans un futur imaginé, des robots humanoïdes capables de raisonner et de faire presque toutes les tâches propres à l’Homme seraient construits. Pour contrer la peur du « syndrome de Frankenstein » (qui remonte en réalité à la légende du Golem) des créations se retournant contre leur créateur, les robots seraient construits à partir de trois axiomes, appelés Lois de la robotique :

• Première Loi : Un robot ne doit pas porter atteinte à un être humain ni, en restant passif, laisser cet être humain exposé au danger.
• Deuxième Loi : Un robot doit obéir aux ordres donnés par un être humain sauf si de tels ordres entrent en contradiction avec la Première Loi.
• Troisième Loi : Un robot doit chercher à protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la Première Loi ou la Deuxième Loi.

Malgré ces trois lois qui rendent un robot inoffensif (contrairement aux êtres humains), dans l’œuvre d’Asimov le syndrome de Frankenstein et surtout la peur des humains de se voir remplacer par des machines est plus forte. Les robots sont donc interdits sur Terre, leur usage étant réservé aux colonies spatiales.

Ces lois sont codées au plus profond du cerveau positronique des robots et ne peuvent en aucun cas être modifiées. Les nombreuses nouvelles et romans d’Asimov mettant en scène les robots sont pour la quasi-totalité organisés autour des failles d’interprétations par les robots de ces lois.

Selon the Oxford English Dictionary, la nouvelle menteur qui mentionne la première loi est le premier passage dans lequel le mot robotique est utilisé. Asimov lui même n’en était pas conscient, considérant que le mot existait déjà, par analogie avec mécanique, hydraulique et autres termes similaires se référant à des sciences appliquées.

Les trois lois forment un principe organisé et un thème unificateur pour la fiction d'Asimov. Elles apparaissent dans les séries sur les Robots et autres histoires liées à ce thème, mais également dans ses séries « Lucky starr » de science-fiction orientée vers un public de jeunes adultes. D’autres auteurs utilisant l’univers fictif d'Asimov les ont adoptées et des références (souvent parodiques) apparaissent dans la science-fiction mais aussi dans d’autres genres. Les chercheurs dans le domaine de l’intelligence artificielle, travaillant dans la création de machines réelles avec certaines des propriétés des robots d’Asimov, spéculent sur le rôle que ces lois pourraient avoir à l’avenir.

[modifier] Histoire des Lois de la Robotique

Avant Asimov, la plupart des intelligences artificielles étaient soumises au complexe de Frankenstein, qu'Asimov trouvait insupportablement ennuyeux : « Les Robots sont créés puis détruits par leurs créateurs, les robots étaient créés et détruisaient leurs créateurs »^[1]. En réalité, cela n’était pas une règle inviolable. En décembre 1938, Lester del Rey publie Elen O’loy l'histoire d’un robot si proche de l’humain qu’elle tombe amoureuse de son créateur et devient sa femme idéale (comparable au mythe de Pygmalion et Galatée). Le mois suivant Otto Binder publie une nouvelle I, Robot (moi Robot), décrivant un robot sympathique du nom de Adam Link, créature incomprise motivée par l’amour et l’honneur. Ce fut le début d’une série de dix nouvelles ; l’année suivante, Adam Link's Vengeance (1940) décrit Adam pensant, « Un robot ne doit jamais tuer un humain de sa propre volonté ».

Le 7 mai 1939, Asimov assiste à un colloque de la Queens Science Fiction Society, où il rencontre Binder, dont il admirait les nouvelles. Trois jours plus tard, Asimov commence la rédaction de sa « propre version d’un robot sympathique et noble », sa 14^e nouvelle. Treize jours plus tard il présente Robbie à John W. Campbell, éditeur de Astounding Science-fiction. Campbell le refuse, sous prétexte de sa trop grande ressemblance avec "Elen O’Loy" de El Rey. Frederik Pohl, éditeur de l’Astonishing magazine, publie Robbie dans son magazine l’année suivante.

[modifier] La Loi Zéro

Dans l’œuvre d’Asimov apparaissent deux robots particuliers, R. Daneel Olivaw et R. Giskard Reventlov. Par leurs réflexions, ils arrivent à la conclusion que les Trois Lois sont incomplètes, et que les robots doivent aussi considérer la protection de l’humanité dans son ensemble. Ces robots formulent la Loi Zéro de la robotique ainsi :

• Loi Zéro : Un robot ne peut nuire à l’humanité ni, restant passif, permettre que l’humanité souffre d’un mal.

Les Trois Lois sont donc modifiées ainsi :

• Première Loi : Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger, sauf en cas de contradiction avec la Loi Zéro.
• Deuxième Loi : Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Loi Zéro ou la Première Loi.
• Troisième Loi : Un robot doit protéger son existence dans la mesure où cette protection n’est pas en contradiction avec la Loi Zéro, la Première ou la Deuxième Loi.

Les conséquences de la Loi Zéro sont considérables : elle donne le droit aux robots de s’attaquer à des Hommes, si ces Hommes mettent l’humanité en danger. C'est justement le thème principal dans le film I, robot, ou l'I.A VIKI (mémoire centrale de la firme robotique) arrive à la conclusion logique que la plus grande menace pour l'Homme est l'Homme lui même et décide d'enfreindre la 1ere loi pour protéger l'Humanité.

[modifier] Aspect juridique

Asimov a fait preuve, en rédigeant ses trois lois, d'un remarquable esprit juridique : concision, logique, clarté. Cet aspect de sa pensée mérite d'être analysée.

Les trois lois posent une série de questions très intéressantes, aux frontières des sciences du droit et des technologies futures.

Tout d'abord sont-ce véritablement des lois, au sens classique du mot, ou une simple sécurité logicielle garantissant que le comportement d'une machine, douée de volonté, sera conforme aux lois ? Les trois lois visent-t-elle à empêcher un acte de volonté (le robot est alors considéré comme une personne) ou un accident ? (le robot est alors un meuble). Le rédacteur de ces trois lois, le texte en fait une évidente priorité, vise à encadrer l'activité d'un produit a priori considéré comme dangereux, par son aptitude à agir de manière autonome. Il envisage un risque spécifique d'atteinte aux personnes physiques afférents aux seuls robots.

Les trois lois reprennent des règles classique du droit pénal, applicables aux personnes humaines: il est en effet interdit de porter atteinte à quelqu'un, de donner l'ordre de le faire et d'assister passivement à une telle atteinte. Or en l'état actuel du droit, le robot est un meuble et n'est doué d'aucun discernement, condition essentielle de la responsabilité pénale.

Le robot pourrait-il un jour devenir sujet de droit ? Dans une telle perspective, l'extrême ambigüité que soulève une notion encore inconnue, à savoir le discernement dont pourrait être dotée une machine consciente, ou du moins " intelligente ", ne pourrait trouver qu'une solution prétorienne. En effet, qui sait s'il n'appartiendra pas un jour à la Cour de Cassation de se prononcer sur la responsabilité d'un robot, si un constructeur, ou le gardien d'un robot, soulève qu'il ne peut être responsable du dommage causé par la machine décisionnaire, écartant les règles des articles 1384, et 1386-1 à 1386-17 du Code civil, au motif que le robot serait apte à générer de manière autonome des effets juridiques ? À première vue, le moyen, qui ferait sortir le robot du domaine de la chose, pour lui donner le statut de la personne, ou d'une nouvelle catégorie de personne, n'a aucune base légale, car en tant que sujet de la responsabilité civile ou pénale, le robot n'existe évidemment pas. Mais comment statueront nos juges dans une espèce analogue, par exemple, à l'assassinat de l'astronaute Frank Poole par l'ordinateur HAL 9000 dans 2001 : l'odyssée de l'espace ? L'aptitude d'une machine consciente à prendre des décisions, c'est à dire, en langage juridique, sa capacité et donc sa responsabilité pénale, contractuelle et civile délictuelle, amènera tôt ou tard la doctrine à se prononcer. Dans le film, l'autre astronaute survivant, Dave Bowman, n'a qu'un moyen de s'opposer aux agissements de la machine dont, en droit français, il est le gardien: paradoxalement, ce n'est qu'en le débranchant qu'il engage rétroactivement sa responsabilité.

Qui est en l'espèce le responsable: le gardien de la machine, ou la machine ayant, de manière analogue à un sujet de droit classique, "décidé" de commettre un dommage ? Actuellement la doctrine, la loi et la jurisprudence affirment sans équivoque que les choses ne sont douées d'aucune aptitude à agir (on parle tout au plus de choses ayant leur "dynamisme propre": animaux, machines en mouvement...). Une machine n'est pas l'auteur d'un acte juridique, si elle " agit " avec des conséquences dommageables, le responsable ne peut être que le constructeur ou le gardien de la chose. Il n'y a aucun élément d'expression de la volonté, donc aucune imputabilité du fait dommageable à la machine, qui n'est pas l'auteur du fait.

Mais qu'en sera-t-il d'une machine ayant antérieurement fait toute les preuves de sa capacité, au sens juridique du mot ? Les robots d'Isaac Asimov sont des êtres intelligents, donc responsables de leurs actes. Est-on si loin de cette situation ? Rien, au rythme où vont les progrès, n'est moins sûr. Au XIX ème siècle, ce sont les première machines, qui, présumées dangereuses, ont amené les juges à dégager la notion jurisprudentielle de responsabilité sans faute, qui était une innovation (doctrine de Saleilles et Josserand). Plus près de nous, la loi du 19 mai 1998 à créé la notion de responsabilité du fait des produits défectueux (art. 1386 et suivants du C. civ.). Sur ce fondement, la responsabilité, et par conséquent l'obligation, quant à l'observation par le robot des trois lois, pèseraient sur le constructeur du robot et non sur le robot lui même. Quoiqu'il en soit, les progrès techniques ont déjà, on le voit, fait évoluer la notion de responsabilité du fait des choses, la jurisprudence tendant à interpréter de plus en plus largement la notion de "choses que l'on a sous sa garde". La question est: les robots d'Isaac asimov ou l'ordinateur de 2001 sont-ils encore des choses au sens du droit civil ? La réponse n'est pas aisée à dégager.

Un artifice, dans un premier temps, serait d'emprunter aux incapacités: les dispositions régissant la responsabilité des majeurs protégés sera peut-être la voie intermédiaire entre robot " personne " et " chose " que choisira le législateur. En cas d'absence, par exemple, les biens de l'absent sont gérés comme en cas " d'administration légale sous contrôle judiciaire telle qu'elle est prévue pour les mineurs " (art. 113) du C. civ.). Un tel emprunt au droit existant pourrait être une première solution. Mais on reste proche des notions voisines de responsabilité des commettants à l'égard de leurs préposés, des instituteurs à l'égard de leurs élèves, ou des père et mère du fait de leurs enfants mineurs.

[modifier] Voir aussi

• Les trois lois de la sexualité robotique : pastiche de ces trois lois écrit par Roland C. Wagner
• Nouvelles Lois de la robotique : dérivées des Trois Lois, elles apparaissent dans la trilogie de Caliban de Roger MacBride Allen

[modifier] Notes et références

• Portail de la science-fiction
• Portail de la robotique