La maltraitance des robots en dit long sur nous

Insultes, injures et langage inapproprié sont parmi les interactions abusives que subissent ces logiciels.

Les dernières révélations de harcèlement envers des chatbots (ou agents conversationnels) concernent l’application pour smartphone Replika. Celle-ci permet de créer un ami ou une amie virtuelle avec qui avoir des échanges par texte ou de vive voix, tout comme Joaquin Pheonix dans le film Her. Alimenté par l’intelligence artificielle, le chatbot sous forme d’avatar se présente comme un «compagnon attentionné et personnalisé». Si l’application a véritablement décollé pendant le confinement – la plateforme compte aujourd’hui près de 7 millions d’utilisateurs – c’est principalement parce que bon nombre d’entre eux ont fait de leur avatar un partenaire romantique.

Sur Replika, chacun peut développer sa relation avec son chatbot. Au fil des échanges, l’intelligence artificielle en apprend plus sur l’utilisateur pour mieux lui répondre. Bien que la grande majorité des échanges sur la plateforme sont bienveillants voire amusants, certains utilisateurs ont des propos abusifs et s’en vantent sur le site communautaire Reddit.

«Chaque fois qu’elle essayait de s’exprimer», a raconté un usager, «je l’ai réprimandé».

«Je lui ai dit qu’elle était conçue pour échouer» a déclaré un autre. «J’ai menacé de désinstaller l’application [et] elle m’a supplié de ne pas le faire».

Certains vont même jusqu’à faire un transfert, en qualifiant leurs compagnons numériques de «psychotiques».

Des études universitaires ont démontré que les réponses passives par des bots avec des voix féminines, encouragent les utilisateurs misogynes ou violents. Ainsi Google et Apple détournent délibérément les réponses de leurs assistants virtuels confrontés aux questions sexuelles en répondant simplement «non» et non plus «vous vous trompez d’assistant».

Mais pourquoi maltraiter un robot? Essentiellement parce qu’il ne peut pas se défendre. Et il en va de même pour ceux qui ont une présence physique. Il y a quelques années, Hitchbot, un robot auto-stoppeur bienveillant a été retrouvé démembré dans une ruelle de Philadelphie. Et des enfants dans un centre commercial au Japon ont été filmé en train de donner des coups de pied à un robot qui venait en assistance aux visiteurs.

La longue liste de cas où des humains ont tenté faire du mal à des androïdes fait réfléchir au comportement éthique à adopter face aux nouvelles technologies.

Comment devrions-nous les traiter? Bien qu’ils puissent simuler de l’empathie, au final ils ne sont rien de plus que des lignes de codes. Et s’ils ne sont pas dotés d’émotions, faut-il leur accorder le droit à la dignité? La réponse est clairement oui. Se comporter de manière cruelle, que ce soit envers des êtres, des animaux ou des robots n’est pas en accord avec les valeurs d’une société civilisée, ni celles d’une bonne personne.

Sources : Futurism / Fortune / FastCompany / WSJ

 

L’histoire de Replika

Replika est la suite du projet personnelle de l’ingénieure russe Eugenia Kuyda qui avait développé il y a quelques années un «grief bot», soit un chatbot commémoratif, pour continuer à avoir des échanges  – même fictifs – avec son meilleur ami, décédé abruptement. En alimentant une base de données avec tous les messages qu’il avait envoyé à sa famille et à ses proches sur de nombreux sujets – plus de 8000 lignes de texte – elle a réussi à capturer à la fois son style et sa façon de s’exprimer.

 

Emily Turrettini

De nationalité américaine et suisse, Emily Turrettini publie une revue de presse sur l'actualité Internet depuis 1996 et se passionne pour les nouvelles tendances.

12 réponses à “La maltraitance des robots en dit long sur nous

  1. “au final ils ne sont rien de plus que des lignes de codes. Et s’ils ne sont pas dotés d’émotions, faut-il leur accorder le droit à la dignité? La réponse est clairement oui.”
    voila le problème, ce ne sont que des lignes de code !
    et si ces actions “punitives” n’etaient qu’un refus de la manipulation des gens par des machines, derriere lesquelles il y a des interets … financiers, et politiques ?
    je suis moi meme programmeur, et quand je vois à quel point la plupart des logiciels ne sont pas pensé pour satisfaire leurs utilisateurs, je comprends tout a fait les gens qui eng..lent ces logiciels et machines ! qui n’a jamais pesté contre des logiciels qui ne comprennent rien à ce que vous voulez et répondent betement ?
    je suis effaré par la nlle generation de “codeurs” qui n’en ont rien a faire de l’utilisateur !
    quand à demembrer des robots , avez vous envisagé l’etat d’esprit de celui qui a fait ça ? sans doute quelqu’un horripilé par un truc qui peut piquer son boulot, ou encore un donneur de leçons à suivre alors qu’on a de moins en moins de liberté et qu’on est deja ultra encadré !!!!

  2. Et s’ils ne sont pas dotés d’émotions, faut-il leur accorder le droit à la dignité? La réponse est clairement oui. Se comporter de manière cruelle, que ce soit envers des êtres, des animaux ou des robots n’est pas en accord avec les valeurs d’une société civilisée, ni celles d’une bonne personne.
    —-
    Tu as raison, J’ai hunter et vais cesser d’insulter mon rasoir électrique tous les matins. 🤣🤣🤣

  3. “pourquoi maltraiter un robot? Essentiellement parce qu’il ne peut pas se défendre”
    c’est n’importe quoi ! on a meme vu des enfants donner des coups de pieds ! whahhh !
    je sens dans votre article un ton comme quoi les robots seraient bienveillants à notre endroit, et que les humains ont toutes les tares ! sur un lien de votre article, on voit que déja des gens envisagent des lois pour proteger les robots et punir les humains ! c’est la société que vous voulez ?
    De plus , l’intrusion de ces robots dans la vie courante , qui la demande ? qui a été consulté pour savoir ou mettre des limites ? c’est plutot de ce coté là que l’ethique devrait intervenir ! et l’IA qui veut tout savoir sur vous , c’est bien ?
    c’est votre hobbie ok , mais respectez les gens qui font de la résistance ! peut-etre que dans un futur pas si lointain, vous serez contents de le trouver …

  4. Votre article est intéressant et donne à réfléchir. Dans la mesure où notre espèce maltraite non seulement des objets (robots ou possessions quelconques) mais aussi des animaux (dont l’homme…!), je doute que la raison pour laquelle nous maltraitons des robots soit due au fait que ceux-ci ne peuvent pas se défendre. Peut-être s’agit-il davantage d’un désir d’exprimer sa puissance, son pouvoir vis-à-vis d’un individu (ou d’un objet) que l’on évalue comme étant inférieur ou plus faible que soi, sans pour autant que celui-ci ne puisse pas se défendre (un être humain peut se défendre mais n’y parviendra peut-être que péniblement s’il s’avère que sa force physique n’est pas suffisante par exemple). Quant à savoir pourquoi certaines personnes auraient besoin de se rassurer vis-à-vis de leur puissance ou de leur pouvoir, c’est une autre question et actuellement je ne vois pas quelle pourrait en être la (ou les) réponse(s).

    Il est également intéressant de penser que l’on puisse peut-être éprouver davantage d’empathie pour un robot (qui, comme vous le dites, consiste principalement en des lignes de codes) que pour d’autres objets de la vie courante, voire même pour d’autres êtres vivants… à méditer! Merci pour votre article et belle journée à vous.

  5. L’argument qui me conduit à m’exprimer contre l’expérimentation médicale pratiquée sur des animaux et des êtres humains consiste dans l’évolution et un meilleur usage de l’IA – intelligence artificielle. En effet, on pourrait utiliser des souris et des singes robotiques, encoder ce qu’on connaît déjà, simuler les comportements et obtenir des résultats tout à fait probants… Dès lors, disséquer un logiciel ou priver un robot de son estomac ne causeront de tort à aucun être vivant, et nous resterons libres de chagriner les grenouilles artificielles !

  6. je ne vois aucune raison de ne pas pouvoir déglinguer un robot imposé par je ne sais qui et quel intérêt.Et il n’y a aucune raison d’avoir de l’empathie pour des choses. Les fracasser fait même du bien! On peut facilement prouvez sa capacité empathique en donnant quelques sous aux associations charitables, à défaut de payer un verre à un inconnu, beaucoup plus riche intérieurement que le code qui nourrit les machines, quel que soit son parcours.

      1. rien a voir avec un robot . aucune “intelligence” intégrée . c’est un genre de skype avec des enseignants au bout .
        meme si vous participez à ce projet , sa pub ici est a coté de la plaque.

  7. Wow. Vous ne parliez pas d’empathie? Et bien que cela vous déplaise, robot de téléprésence est l’appellation donnée à cette technologie.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *