Vivre au milieu des robots risque de modifier notre comportement

"Nous savons pertinemment que le robot n’est pas vivant. Pourtant, nous ne pouvons pas nous empêcher de lui attribuer des états mentaux."
13.1.17

Image: Shutterstock

Lorsque les robots anthropomorphes auront envahi notre environnement, nous ne pourrons pas nous empêcher d'avoir de l'affection pour eux s'ils sont suffisamment mignons, estime Kate Darling, chercheuse au MIT Media Lab.

Lorsque Hitchbot, le sympathique robot canadien autostoppeur, a été vandalisé à Philadelphie lors de son voyage aux États-Unis, le public était aux abois. De même, les soldats américains ont pris l'habitude d'organiser des funérailles pour des robots qui les assistent chaque jour et contribuent à leur survie : notre attachement à ces petits êtres mécaniques est profond et sincère, a expliqué Darling dans une conférence à l'Université de Waterloo cette semaine.

Publicité

Tandis que les entreprises conçoivent des robots destinés à susciter l'empathie, comme l'adorable robot Pepper ou le robot assistant LG Hub qui chante, dance, sourit (et a fait sa première apparition au CES 2017 à Las Vegas), on est en droit de se demander : puisque nous ressentons tant d'empathie pour les machines anthropomorphes, seront-elles un jour un jour utilisées comme des outils permettant de manipuler nos émotions ?

Hitchbot. Image: Archie/Flickr

Il s'avère que notre affection pour les robots n'est pas seulement le produit de notre familiarité avec les personnages de fiction tels que le R2-D2 de Star Wars, ou le Wall-E de Pixar.

« Nos cerveaux ont tendance à projeter une intention sur tout mouvement d'aspect autonome qui advient dans notre environnement immédiat », explique Darling. Nous savons pertinemment que la machine n'est pas vivante. Pourtant, nous ne pouvons pas nous empêcher de réagir aux signaux que les robots nous envoient, en nous comportant comme s'ils étaient vivants, en leur attribuant des états mentaux.

Les gens ont tendance à donner des noms à leurs robots, même quand ils ne ressemblent pas à grand-chose. Aujourd'hui, les robots sont délibérément conçus pour faire des mouvements, des sons et esquisser des expressions faciales que l'on associe à des émotions, ce qui renforce ce phénomène, ajoute la chercheuse.

Le robot Pepper. Image: Nesnad/Wikimedia Commons

Darling pense que nous sommes entrés dans l'ère des interactions homme-machine sans retour possible, et que les robots peuvent désormais influencer le comportement des personnes, en bien ou en mal. Tandis que les robots sont déployés dans l'environnement domestique, professionnel, dans les écoles, les hôpitaux, les maisons de retraite, etc., ils soulèvent de nouvelles problématiques – spécifiques à chaque lieu d'introduction.

On pourrait imaginer, par exemple, qu'un robot domestique puisse pousser un individu à révéler des informations personnelles qu'il n'aurait jamais révélées dans un questionnaire, explique Darling. En matière d'ingénierie sociale, le robot mignon est une arme redoutablement efficace.

Publicité

Aujourd'hui, il existe des « robots mendiants ». Ils ont été conçus dans le cadre d'une collecte de fond pour la recherche, mais le fait que les gens se montrent plus généreux avec eux quand ils les trouvent choupis prouve que cette technologie permet d'induire des comportements prédéterminés chez des inconnus.

Le robot PARO, un compagnon domestique. Image: ehjayb/Flickr

Darling explique également que les robots-animaux tels que PARO, qui ressemblent à des otaries en peluche produisant de petits couinements et se dandinant quand on les touche, « ont été utilisés de manière très efficace comme alternative aux médicaments pour calmer les patients anxieux », explique-t-elle. Elle cite également l'utilisation possible de robots dans des thérapies de modification du comportement.

On peut donc profiter de l'attrait affectif induit par les robots pour modifier le comportement des personnes de manière « vertueuse », pas de doute là-dessus. Mais comment contrôler efficacement l'usage qui en sera fait ? Pour l'instant, il y a beaucoup de questions et peu de réponses, explique Darling. L'un des problèmes les plus controversés à l'heure actuelle concerne la possibilité d'utiliser des robots sexuels d'aspect infantile afin de faire diminuer le nombre d'agressions sexuelles commises par des pédophiles. Or, on ne sait pas si leur mise sur le marché aurait l'effet escompté, ou l'effet inverse. « Il n'y a aucun moyen de le savoir », ajoute-t-elle.

Pendant que Stephen Hawking, Elon Musk et Bill Gates s'inquiètent de la possibilité que l'IA puisse condamner l'humanité Darling pense que nous devrions nous préoccuper de problèmes autrement plus concrets : les implications juridiques et sociales des interactions homme-machine dans un futur proche.