Remplacé par des machines ou dirigé par des algorithmes ?

Il y a quelques semaines, AlphaGo, un programme informatique de la société Deep Mind, a vaincu le joueur coréen Lee Sedol dans une série de parties de Go. Pour divers observateurs, ce fut un moment marquant, car ce jeu de plateau a pendant longtemps été réputé comme difficile à maitriser par des machines. Au-delà de cette victoire, un aspect du dispositif de jeu a attiré mon attention : ce n’était pas la machine qui poussait les pierres, mais une autre personne. Situé à gauche sur la photographie ci-dessous, une sorte de croupier aux ordre du programme, et se chargeant de transposer les mouvements de pierres noires et blanches apparues à l’écran sur le plateau (goban) que l’on voit filmé dans le direct.

CroupierAlphaGo
Photographie du défi Google DeepMind, 9 mars 2016 Seoul, Corée du Sud (Crédit: AP Photo/Lee Jin-man)

Si le spectre du remplacement de l’humain au travail par des machines semble occuper les esprits ces derniers temps, on voit, dans la pratique, de multiples tâches réalisées par un assemblage hybride d’individus et de programmes informatiques. D’où le terme “heteromation” (“hétéromatisation” en français) proposé par deux chercheurs nord-américains:

Hétéromatisation
Nom singulier, familier
Mot-valise formé du préfixe “hétéro- et “automatisation” qui décrit les programmes automatisés qui font travailler des usagers humains. Un néologisme avancé par Hamid Ekbia (Indiana University) et Bonnie Nardi (UC Irvine) pour décrire une hybridation du travail réalisé par les machines et par les humains.

La lecture de divers témoignages et récits à ce sujet aide à comprendre ce phénomène, et à déconstruire les idées reçues sur l’automatisation.

?Les petites mains de la modération de commentaires

Prenons l’exemple des personnes chargées de supprimer le contenu nauséabond présent sur Facebook, et de faire passer à la trappe les vidéos de décapitation, les images pornographiques, en passant par la profusion d’insultes racistes, de harcèlement et de propositions criminelles. Un reportage d’Adrien Chen pour le journal Wired décrivait en 2014 comment des travailleurs à bas-coût aux Philippines devenaient le centre d’opération mondial pour cette activité. Et sans aller vers le Pacifique, on peut trouver dans nos contrées toutes sortes d’entreprises qui réalisent des tâches similaires. Chaque nouvelle “contribution” doit être analysée rapidement et potentiellement supprimée. Les “modérateurs” sont aux aguets (““Oh fuck! I’ve got a beheading!”). Ils contemplent de multiples fenêtres sur leurs écrans, certains font un premier tri rapide, et d’autres suppriment ce qui a pu échapper au tamis… Comme le décrit l’article de Chen, la charge à encaisser est rude pour certains. Et du coup, le turn-over est grand dans ces équipes. Le tri se fait au rythme des programmes qui font défiler continuellement les millions de contenus produits par les utilisateurs des réseaux sociaux. Si des outils permettent aujourd’hui d’automatiser une première vague de tri, les modérateurs sont toujours à l’affut.

➡️?Des chauffeurs téléguidés

La plateforme de mise en relation de chauffeurs Uber offre un autre exemple intéressant. Pour l’usager, le service permet de géolocaliser le véhicule le plus proche de soi pour ensuite le réserver. Mais pour le chauffeur, c’est une autre version de l’application qui est utilisée, un service qui leur permet de gérer leurs horaires de travail, la réception des demandes, des paiements et l’évaluation des clients. Comme le montre cette enquête, les chauffeurs reçoivent des informations (nom, distance, adresse et évaluation du/des passager(s)). Des données sur la base desquelles ils peuvent choisir de refuser la course (en prenant le risque d’être pénalisé par l’entreprise s’ils sont trop dédaigneux) et qui peuvent nécessiter de chercher ou d’appeler lesdits clients. Durant la course elle-même, les chercheurs expliquent comme le parcours peut être ponctué de discussions et d’échanges, avec l’idée que cela contribue à la bonne évaluation du conducteur, mais aussi afin de proposer un service supérieur aux taxis. Or, toutes ces activités sont plus ou moins faciles à déléguer à un programme.

Par ailleurs, une autre étude publiée dans le Harvard Business Review, nous montre que les humains dans la boucle d’Uber ne sont pas uniquement les chauffeurs puisque l’entreprise elle-même utilise ses algorithmes afin de tester jusqu’à quel point le prix de la course peut être baissé tout en gardant le conducteur intéressé… Une telle pratique conduisant ensuite à des diminutions fortes des tarifs… qui nous font comprendre la nervosité des chauffeurs Uber se mettant à manifester.

?Un autre récit de l’automatisation

Est que l’automatisation est purement le fait d’algorithmes? Non, on voit avec ces exemples les multiples hybridations entre humains et non-humains à l’oeuvre dans la conception, dans la mise en place de ces dispositifs, dans leur régulation, dans le fait de conduire ou de valider des commentaires. Il est d’ailleurs assez ironique de voir des médias tels que Bloomberg, d’habitude plutôt naïf quant aux évolutions technologiques, réaliser que derrière la vague actuelle de “robots conversationnels” et d'”assistants virtuels” il y a l’oeuvre de multiples personnes cachées derrière pour proposer un service de qualité. Comme le dit l’article, “a handful of companies employ humans pretending to be robots pretending to be humans.” Derrière M (Facebook) ou l’aide à la prise de rendez.vous X.ai, il y a donc beaucoup plus qu’un sacro-saint “algorithme” (qui n’est jamais seul de toute façon).

Par ailleurs, avec Uber et la modération de commentaires, ce qui frappe c’est plus le découpage en micro-tâches, certaines prises en charge par des humains, d’autres par des non-humains. Ces divers cas témoignent également du caractère “à la demande” du travail. Une demande liée certes aux usagers de ces divers services, mais une demande “médiée” par tout une série d’opérations en partie prises en charge par des machines.

Ces divers cas racontent finalement un autre récit de l’automatisation. Comme l’expliquait le chercheur et game designer Ian Bogost à la conférence Lift il y a deux ans, “nous avons tous tendance à croire que toutes nos productions sont automatisées, que tout est produit par des machines sur des chaînes de production continues.” Or cette automatisation ne concerne qu’une partie des pratiques actuelles, d’où l’intérêt de trouver des métaphores plus subtiles, même si ce terme d'”hétéromatisation” semble un peu barbare.

A ce stade, certains argumenteront que “ce n’est qu’une question de temps” et que toutes ces opérations seront plus tard déléguées à des machines. Certes, mais ce n’est pas le cas actuellement. Et avant qu’une machine prenne notre place, il y a de grandes chances (si l’on peut parler de chance) que nous ressentions le sentiment d’être dirigé par divers programmes informatiques.

Nicolas Nova

Nicolas Nova est cofondateur du Near Future Laboratory, une agence de prospective et d’innovation, et professeur à la HEAD – Genève, où il enseigne l’ethnographie, les cultures numériques et la prospective.

Une réponse à “Remplacé par des machines ou dirigé par des algorithmes ?

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *