S’attacher à un robot, ce n’est pas sans danger

La pre­mière séquence est la plus intéres­sante. Une jeune femme ren­tre seule dans son apparte­ment après une dis­pute avec son amoureux. Le Pep­per a gardé la mai­son. Il com­prend tout de suite la tristesse de sa maîtresse et essaye de la con­sol­er en l’a­mu­sant. Le vis­age du Pep­per présente en toutes cir­con­stances une expres­sion iden­tique, mais c’est avec le corps et les gestes qu’il essaye de dis­traire la jeune femme. Celle-ci refuse sa bien­veil­lance en lui dis­ant “Laisse-moi toute seule!”. Mais Pep­per reçoit un mes­sage élec­tron­ique de l’amoureux. Il mon­tre aus­sitôt le mes­sage à la jeune femme qui retrou­ve son sourire et tombe dans les bras de son Pep­per…

Pren­dre des vessies pour des lanternes

Les trois autres séquences mon­trent le robot suc­ces­sive­ment avec des enfants, un homme et une femme âgée. A chaque fois, il rem­plit son rôle, au besoin en pal­liant l’ab­sence de quelqu’un. Ce film nous mon­tre une vie future, apparem­ment heureuse, avec un Pep­per. Il veut nous con­va­in­cre que le car­ac­tère inat­ten­du du robot ne doit pas nous inquiéter, mais plutôt nous ras­sur­er. La dernière scène dit quelque chose comme : “Notre futur arrive avec ce robot inespéré”. Il y a cinquante ans, chaque famille attendait d’avoir la télévi­sion, et il y a trente ans, le télé­phone. Ce film veut don­ner à chaque famille japon­aise le désir d’avoir un Pep­per. Est-ce que les Japon­ais croient vrai­ment que ce robot sait faire autant de choses qu’on en voit sur la pub­lic­ité? Espérons que non! Mais cette pub­lic­ité est conçue pour les ren­dre curieux de ce qu’un Pep­per pour­rait faire avec eux. Les psy­cho­logues ont cou­tume de dire que pour guérir, se dévelop­per et vivre heureux, il faut être au moins deux. Cette pub­lic­ité veut con­va­in­cre qu’on peut être deux, se dévelop­per ensem­ble et être heureux avec un robot!

Hélas, sous pré­texte de dop­er les ventes, cette con­fu­sion encour­agée risque de créer chez les usagers des illu­sions grossières sur ce que sont en réal­ité les robots. C’est ce que le lan­gage com­mun désigne vul­gaire­ment sous l’ex­pres­sion “faire pren­dre des vessies pour des lanternes”. Avec le dan­ger de nous faire oubli­er trois repères essen­tiels à garder à l’e­sprit dans nos rela­tions aux robots : ils nous imposent les solu­tions de leurs pro­gram­meurs et peu­vent être con­nec­tés en per­ma­nence à eux ; ils seront encore longtemps des machines à simuler inca­pables de toute émo­tion et de toute souf­france ; et il serait très dan­gereux de les con­sid­ér­er comme un mod­èle pos­si­ble pour les rela­tions humaines, notam­ment pour leurs qual­ités d’at­ten­tion et d’af­fec­tion…

Atten­dre des robots ce que l’on attend d’un humain

Les robots ayant une apparence humanoïde, voire androïde, vont inévitable­ment con­stituer un sup­port de pro­jec­tions intens­es de la part de leurs usagers. Les psy­cho­logues de l’ar­mée améri­caine ont été bien éton­nés lorsqu’ils ont décou­vert que des sol­dats en charge de robots démineurs pou­vaient s’at­tach­er à leurs machines comme à des ani­maux, voire comme des êtres humains. Bien sûr, ces sol­dats ne con­fondaient pas leurs robots avec des créa­tures vivantes! Mais ils ne pou­vaient pas s’empêcher d’éprou­ver pour eux des sen­ti­ments et de se sen­tir affec­tés par la manière dont ces machines pou­vaient être endom­magées au cours des opéra­tions de démi­nage. De la même façon que des mil­i­taires améri­cains ont pu met­tre leur vie en péril pour sauver leur robot, il n’est donc pas absurde d’imag­in­er que des per­son­nes âgées puis­sent met­tre en dan­ger la leur pour ten­ter d’é­pargn­er à leur robot des risques évidem­ment sans com­mune mesure avec ceux qu’elles cour­ront elle-même pour leur venir en aide. Et de façon générale, c’est la bar­rière entre monde humain et monde non humain autour de laque­lle toute cul­ture s’or­gan­ise qui serait men­acée.

Des garde-fous lég­is­lat­ifs, tech­nologiques et édu­cat­ifs

Le lég­is­la­teur devrait bien enten­du com­mencer par inter­dire comme men­songères les pub­lic­ités qui ten­tent de nous faire croire que les robots ont des émo­tions. L’af­fir­ma­tion du patron de Soft­Bank lors de sa présen­ta­tion du robot Pep­per aux médias, selon laque­lle ce robot “aurait du cœur” relève évidem­ment d’une intox­i­ca­tion dan­gereuse!

Les roboti­ciens, quant à eux, devraient envis­ager de recou­vrir une par­tie du corps de leurs robots d’une pro­tec­tion trans­par­ente afin que les câbles et moteurs qui les con­stituent soient vis­i­bles. Cela invit­erait leurs usagers à garder la con­science qu’il s’ag­it de machines certes plus per­fec­tion­nées que leur moulin à café, mais qui ne cessent pas pour autant d’être des objets. Un fab­ri­cant de robots auquel je pro­po­sais cette mesure m’a répon­du qu’il avait d’abord essayé, mais que voir la mécanique interne d’un robot, même très par­tielle­ment, avait un effet angois­sant sur de nom­breux usagers. Mais faut-il suiv­re le désir du con­som­ma­teur et lui pro­pos­er les robots immac­ulés aux grands yeux atten­tifs dont il désire être entouré ? Rien n’est moins sûr. A trop flat­ter le désir du con­som­ma­teur, on risque de l’en­gager sur la voie d’un anthro­po­mor­phisme envahissant, voire d’une robot dépen­dance.

Quant aux mesures éduca­tives, elles con­sis­teraient à encour­ager partout les enfants à fab­ri­quer et ani­mer de petits robots: c’est la meilleure manière de com­mencer à les penser comme des machines. Appren­dre le codage ne suf­fit plus, il faut y ajouter la fab­ri­ca­tion de petits robots.

La pub­lic­ité des­tinée à ven­dre un Pep­per à chaque famille japon­aise racon­te donc ce que les acheteurs ont envie de croire : ce robot serait un com­pagnon par­fait à chaque âge de la vie. Mais faut-il les encour­ager à le croire, ou au con­traire les en dis­suad­er? Les marchands sont évidem­ment résol­u­ment du pre­mier côté. N’ou­blions pas qu’il n’ex­iste pas d’in­no­va­tion tech­nologique qui ait sus­cité plus de fan­tasmes que les robots, excep­tion faite des dieux, ce qui n’est pas anodin. Or les fan­tasmes humains sont à pren­dre au sérieux : leur orig­ine plonge dans l’imag­i­naire, certes, mais leurs con­séquences peu­vent impacter grave­ment la réal­ité. Une réflex­ion éthique sur les robots ne doit pas seule­ment envis­ager les risques qu’ils pour­raient faire courir aux humains. Elle doit aus­si pren­dre en compte les dan­gers que les humains pour­raient se faire courir à eux-mêmes par une appré­ci­a­tion erronée de ce que ces machines peu­vent leur apporter, autrement dit de ce qu’elles sont.

Lire aus­si :

• Des “Jeux olympiques” pour les robots en 2020 au Japon

• Ghost Mino­taur, le petit robot de Ghost Robot­ics qui sait ouvrir les portes et escalad­er des gril­lages

• Com­ment la réflex­ion sur la tech­nolo­gie inspirée par l’Ex­po­si­tion uni­verselle de 1900 nous influ­ence encore aujour­d’hui