Les droits du robot

La détresse d’un robot

Mon four micro-ondes m’inquiète. Jusqu’à présent, il chantait joyeusement, comme la poule qui vient de pondre, pour m’annoncer que ma tasse de thé était bien réchauffée. À vrai dire, il s’agissait plus d’un sifflement aigu que d’un chant mélodieux. Toujours le même cri désagréable : même fréquence, même durée, même intensité, même timbre. J’avais même fini par redouter cette sirène inopportune, surtout au plein milieu d’un concert de Rachmaninov ou de Salieri. Le hurlement vulgaire d’une machine couvrant la subtilité humaine d’un premier violon ou d’une soprano! Il m’arrivait même de surveiller la minuterie de l’odieux appareil, pour lui couper le sifflet une seconde avant la sonnerie.

Aujourd’hui, cependant, la voix de mon four micro-onde m’a parue quelque peu enrouée. Étant moi-même légèrement grippé, j’éprouvai une brève compassion pour ce pauvre esclave mécanique. Si j’avais été Américain, j’en aurais conclu, à l’instar de Kate Darling du MIT, que le temps est venu pour l’humanité de se pencher sur le droit des robots. Dire que j’ai bien failli devenir Américain dans ma jeunesse! Toutefois, bien que soumis pendant un an à un lavage en règle dans mon école de l’Iowa, mon cerveau français, depuis longtemps conditionné par la pensée cartésienne (concept totalement étranger à l’Amérique), avait victorieusement résisté. Là où l’Américain aurait pris la voix hésitante de la machine pour un cri de détresse, je n’ai vu qu’une simple conséquence de l’usure normale de mes oreilles. Avant d’analyser le message de l’émetteur, n’est-il pas essentiel de vérifier le bon fonctionnement du récepteur?

Ce four micro-ondes, pour lequel je n’éprouve aucune empathie, malgré les nombreux services rendus, connaîtra-t-il bientôt le destin tragique de son malheureux prédécesseur? Car je fus, il y a quelques années, le témoin d’une scène dramatique qui se déroula dans ma propre cuisine. Mon four micro-ondes d’alors, dont je ne me rappelle d’ailleurs ni la forme ni la couleur (éternelle ingratitude de l’homme face à son serviteur cybernétique!), s’était mis à grincer de façon désordonnée, avant d’émettre des gémissements désespérés. Je m’empressai d’éloigner les enfants pour qu’ils n’assistent pas au spectacle inhumain que ma grande expérience de la vie me faisait pressentir. Bientôt, la machine commença à se tordre, son plastique se mit à fondre, les gémissements laissèrent place à un sanglot, puis à un dernier soupir. Le four micro-onde s’était cuit lui-même, jusqu’à ce que mort s’ensuive. Je m’apprêtai à couper le fusible, mais ce fut inutile. Mon four micro-onde s’était tout bonnement suicidé. Désormais, il était bien incapable de s’infliger la moindre souffrance supplémentaire. Un silence religieux régnait à présent dans mon humble cuisine.

 

Qu’est-ce qu’un être humain?

• 1945 : L’homme n’est pas un animal. L’homme n’est pas une machine. (Procès de Nuremberg)
• 1978 : L’animal a des droits. (UNESCO)
• 2013 : Les robots devraient avoir des droits. (Kate Darling, chercheuse au MIT)

 

Le droit des robots

Dans une entrevue publiée par le journal Le Monde le 17 février 2012, Kate Darling affirme notamment :

« En décourageant la maltraitance des robots sociaux, on promeut des valeurs que l'on juge bonnes pour notre société, comme bien traiter toutes les choses et tous les êtres.
Si un enfant donne des coups de pied dans son jouet robotique, il le fera peut-être aussi à un chat ou à un autre enfant. Dans certains pays, lorsqu'un cas de maltraitance d'animaux est découvert, cela déclenche automatiquement une enquête sur d'éventuelles maltraitances envers les enfants. Parce que ce genre de comportement a tendance à se transférer. »

Ce soi-disant raisonnement, qui est en fait un préjugé bien ancré, est fondé sur une erreur méthodologique classique qui consiste à renverser la relation entre variables :
• Si les gens maltraitent les robots, ils finiront par maltraiter les animaux, puis leurs propres congénères.
• La plupart des batteurs d’enfants ont eux-mêmes été des enfants battus, donc la plupart des enfants battus battront un jour leurs propres enfants (cf. Un sophisme qui a la cote).
• La plupart des colonels sont des hommes, donc la plupart des hommes sont des colonels.

Ce genre de sophisme constitue d’ailleurs l’un des fondements de la chasse aux sorcières.

 

L’intelligence artificielle

En quelques décennies, on a ainsi renversé la définition du tribunal de Nuremberg servant à juger les crimes contre l’humanité. Même si rien n’empêche de remettre en cause les principes énoncés en 1945, il ne s’agit pas d’une chose banale. Cependant, il faut l’admettre, le sujet dépasse nos capacités de simple citoyen. Alors, revenons à nos machines. Si certains les traitent avec déférence, il en est d’autres qui les craignent.

Un jour, les machines seront dotées d’intelligence artificielle, et alors attention les dégâts! Nos fours micro-ondes se mettront en grève (perlée), nos serrures électroniques refuseront de s’ouvrir (à certaines heures), et nos haut-parleurs sans fil nous interdiront d’écouter du Rachmaninov et du Salieri (dont nous ne soupçonnerons d’ailleurs même plus l’existence).
(Le prophète de malheur Bái Lìdé)

Eh bien, rassurons-nous. L’intelligence artificielle n’est pas pour demain. L’anecdote (récente et absolument véridique) qui suit le confirmera. Mais avant tout, précisons que nous sommes particulièrement qualifiés pour nous prononcer sur le sujet. Pendant notre carrière en informatique (entre 1985 et 1995), nous avons souvent été confrontés à des chercheurs en intelligence artificielle. Notre premier spécimen, avec ses lunettes démodées, son chandail de laine fripé et ses espadrilles usées, nous confia qu’il avait élaboré une méthode révolutionnaire pour faire débloquer la recherche dans le domaine ardu de l’intelligence artificielle : il étudiait les savantes processions de fourmis, qui ajustent, renforcent ou modifient leurs sentiers au fil des découvertes de nourriture. Avec de tels arguments vestimentaires et ésotériques, ce personnage n’avait pas manqué de fasciner les bureaucrates de l’État, qui l’avaient noyé sous les subventions. Où en êtes-vous de vos recherches, Monsieur le savant? Ça avance, ça avance, je travaille dessus depuis cinq ans, mais ça va être très long… Ça va être très long, mais on y arrivera, il n’y a aucun doute. (NB. retenez bien cette dernière phrase, phénoménalement utile dans l’administration : Obama l’emploiera mot pour mot à propos de la lutte à l’État islamique, avant qu’un bataillon iranien ne vienne inopinément mettre l’ennemi en déroute).

Un excellent sujet d’étude dans le domaine de l’I.A.
 

Il nous est arrivé, dix ans plus tard, de rencontrer plusieurs autres pionniers en intelligence artificielle (toujours au service de l’État). La moitié d’entre eux travaillaient toujours sur l’organisation des fourmilières, et tous portaient encore des espadrilles (à l’exception de celui qui planchait sur les mystères de la ruche, et qui chaussait des soquettes dans des sandales). J’imagine que, depuis 1995, les recherches subventionnées portant sur l’intelligence présumée de ces fascinantes fourmis, abeilles et autres hyménoptères se poursuivent avec assiduité.

Ne vous faites pas de bile, ce n’est pas demain la veille que les machines prendront le contrôle de notre vie!
(Le sage Bái Lìdé)

Mais revenons à nos moutons (autre sujet d’étude intéressant et digne de subventions) et à l’expérience vécue qui nous a enfin rassurés sur l’avenir de nos amis les robots.

Il s’agissait pour nous d’inscrire notre nouveau-né à l’état civil de l’Ontario. On n’arrête pas le progrès, l’inscription se fait en ligne. Il suffit de remplir les champs du formulaire. Or, le petit se prénommera Jules, Joseph, Marie TARTEMPION (NB. prénoms et patronyme fictifs, conformément à la loi sur la vie privée entérinée par la GRC et la NSA réunies). J’inscris donc « Jules » dans le champ Prénom usuel, et « Joseph, Marie » dans le champ Autres prénoms.

Deux semaines plus tard, le certificat de naissance nous revient avec le nom
« Jules Joseph, Marie TARTEMPION ».
Notez bien la présence de l’unique virgule dans l’énumération. Personnellement, je trouve la coquille cocasse. Une simple erreur de l’ordinateur, après tout. Aucun être humain n’aurait commis une telle faute, mais on ne peut pas demander à une machine d’être intelligente, n’est-ce pas?

Encore un sujet digne d’étude dans le domaine de l’I.A.
 

Cependant, ma femme se montre inquiète pour l’avenir de son rejeton. Qui sait, cette erreur de virgule pourrait lui porter préjudice un jour, lorsqu’il devra affronter une bureaucratie encore plus féroce que celle que nous connaissons aujourd’hui. Je consens donc à téléphoner au service de l’état civil de l’Ontario (section francophone) pour procéder à l'ablation de la virgule intempestive.

Un jeune homme me répond, de façon fort courtoise comme c’est souvent le cas chez les indigènes de cette province travaillant dans les services publics et hospitaliers. Toutefois, le jeune homme ne parvient pas à comprendre l’objet de ma requête, et ne semble pas saisir tout à fait le sens du mot « virgule ». Je demande à parler au supérieur hiérarchique du jeune homme, qui ne s’en offusque pas.

Quelques instants plus tard, une dame me demande, d’un ton impatient et très peu ontarien, la raison de mon appel. En gros, elle veut savoir pourquoi je l’ai dérangée. J’apprends d’emblée que l’administration publique n’a rien à se reprocher dans mon dossier, et que je suis responsable de mon propre malheur. Il ne fallait pas mettre de virgule entre les deux prénoms supplémentaires, mon cher Monsieur. J’essaie de lui expliquer la différence entre le prénom unique « Marco Polo », en vogue dans certaines communautés, et la paire de prénoms « Marco, Polo ». La gestionnaire est bien d’accord avec moi, mais elle ne peut rien faire. Elle me confirme quand même que la virgule fera bien partie du prénom officiel : mon fils s’appellera « Joseph, » (prononcer « Joseph-virgule ») et non « Joseph » tout court. Je lui suggère d’effacer la virgule dans son ordinateur. Il n’en est pas question, Monsieur. Pour ce faire, vous devez remplir le formulaire de changement de nom et payer les frais afférents (authentique!). J’ai beau lui signaler que l’Ontario se fera ainsi connaître comme le premier État dans l’histoire à accepter une virgule dans un prénom, en plus des lettres ou caractères habituels, la fonctionnaire reste inflexible — et se fiche complètement de la réputation de sa patrie d’adoption.

Un candidat à rejeter pour les chercheurs en I.A.?
(Dessins de Renaud Bouret)
 

Un mois plus tard, l’état civil du nouveau-né est transféré au Québec. Cette fois, notre bébé s’appelle bien
« Jules, Joseph, Marie TARTEMPION ».
L’être humain responsable du dossier aura eu l’intelligence, et pris l’initiative, de réparer de lui-même l’erreur commise par la machine.

À la lumière de cette aventure ontarienne, nous osons émettre l’hypothèse suivante :
« De toute évidence, les machines ne pourront jamais égaler l’intelligence d’un être humain. Cependant, un être humain, dûment instruit par l’école moderne, peut facilement se montrer plus con qu’une machine. »

Malheureusement, cette hypothèse, si elle devait être avérée, n’est pas de nature à faciliter le travail des spécialistes en éthique qui se penchent actuellement sur les droits fondamentaux du robot.