Membres du congrès aux États-unis

Everybody knows the rules

Tout le monde connaît les règles. En ces temps où de nouvelles règles sont annoncées chaque minute, il est intéressant de se pencher sur leur « fabrication ». Au Moyen-âge, comme à notre époque contemporaine, la règle a toujours été dépendante de la mesure.

Au festival d’Avignon, en juillet dernier, je suis allée voir Entre chien et loup, une adaptation au théâtre du film Dogville mise-en-scène par Christiane Jatahy : une occasion pour la metteuse-en-scène brésilienne de revenir sur la situation politique dramatique de son pays. À l’entrée, le masque était évidemment de rigueur, mais les spectateurs furent également astreints à goûter leur gourde d’eau, et à déposer leur gel hydroalcoolique sur une table dédiée à cet effet. J’ai ainsi découvert qu’au-delà d’une certaine jauge de public, les liquides étaient interdits comme dans les aéroports — plan Vigipirate oblige[1].

Confiscation des gels hydroalcooliques à l'entrée du théâtre, juillet 2021
Confiscation des gels hydroalcooliques à l’entrée du théâtre, juillet 2021

Ces derniers dix-huit mois, la crise pandémique est venue ajouter des règles pour limiter la propagation du virus, mais celles-ci viennent souvent interférer avec d’autres mesures préexistantes, rendant parfois la situation ubuesque. Cela peut créer chez certains un sentiment d’insécurité juridique – ne sachant plus ce qui est autorisé ou non[2]. Everybody knows the rules. Tout le monde connaît la règle. Quand Emmanuel Macron interpelle les forces de l’ordre israéliennes à l’entrée du Saint-Sépulcre en janvier 2020, avec son French accent si propre aux présidents français[3], il renvoie à une règle en vigueur depuis plusieurs siècles sur la base d’une situation sociale, religieuse et politique complexe. Si bien entendu, les règles sont nécessaires, le fondement de la démocratie et du bien commun, la crise pandémique, mais également les états d’urgence successifs, voient surgir leurs lots de règles, de lois ponctuelles, et on peut se demander quelle logique sous-tend des prises de décision aussi rapides.

Le mot règle, vient étymologiquement du terme regula (la règle), du verbe rego qui veut dire conduire, diriger. En anglais, l’anthropologue Tim Ingold nous rappelle, « le verbe ruler désigne un souverain qui contrôle et gouverne un territoire. Le même mot désigne aussi une règle, un instrument pour tracer des lignes droites. »[4] En français, comme en anglais, la règle est à la fois l’outil de mesure, comme la mesure elle-même. On peut noter également le double sens de mesure (mesurer, prendre des mesures). Aussi, la règle permet de contrôler, les distances, les temporalités, les poids, aussi bien que les comportements, dans le même temps qu’elle les mesure. Au Moyen-âge, dans les monastères, les regula étaient les règles monastiques en vigueur. Ainsi, une prière répétée un nombre de fois précis, à un rythme calibré, durait une heure. Au terme de cette heure priée, le moine en charge sonnait la cloche pour indiquer l’heure aux habitants du village. En l’absence d’outils de mesure plus sophistiqués, le moine officiait en tant qu’homme-horloge[5]. Depuis, le moine ne donne plus l’heure, les outils de mesures se sont développés à un rythme pandémique jusqu’à ce que les technologies numériques en permettent un déploiement exponentiel, avec entre autres, l’avènement des smart phones et leurs applications. Nous mesurons tout, nos nombres de pas, nos temps d’écran, nos interactions en ligne, etc. J’ai même un ami qui enregistre ses ronflements pour en mesurer la fréquence. Ces mesures numériques sont toujours fondées sur le même principe computationnel, à savoir la collecte de données selon un ensemble de variables, et de paramètres (parfois grâce à des capteurs), et en fonction d’unités de mesures (le nombre de battement par minute, etc.).

Si nous pouvons imaginer mettre au point des mesures précises pour le nombre de pas ou de ronflements, on n’est pas sans mal quand il s’agit de mesurer des phénomènes plus complexes, comme la productivité ou encore le bonheur. Pas une semaine ne passe sans que la presse n’évoque des biais cognitifs ou des difficultés de modélisation[6] : cet été par exemple, on signalait des retards menstruels chez des femmes tout justes vaccinées contre la COVID. L’enquête s’avérait sibylline car combien de femmes n’avaient pas remonté l’information à leur médecin, combien ne l’avaient même pas remarqué, combien étaient de base sujettes à des retards, et combien d’autres critères pouvaient encore interférer dans ces retards supposés. Ainsi, une approche quantitative seule achoppait nécessairement[7]. Compter les retards de règles ne suffisait pas pour comprendre le lien supposé entre vaccination et menstruation, et le travail de recoupements semblait abyssal. Ce flottement n’est pas forcément dommageable si on considère ce type d’enquête avec le recul nécessaire. Le danger de ce tout-mesure, de cette approche quantitative comme finalité, est lorsqu’au bout de la chaine il y a une prise de décision, et parfois une prise de décision de nature politique.

Quand la mesure fait la règle, quand la règle fait la mesure

En 2013, le philosophe Grégoire Chamayou publie Théorie du drone[8], et explique alors que soixante-dix pour cent des attaques de drone menées par les États-Unis, sont des « frappes de signature », déclenchées à la suite d’observations aériennes et de recoupements algorithmiques. Si une fois compilées, les données tirées de ces observations présentent une déviance, alors une attaque est ordonnée par les militaires contre l’individu ou le groupe. La déviance dans le comportement des individus est déterminée par l’analyse algorithmique de motifs de vie (pattern of life analysis). Chamayou explique que ce mode de désignation des cibles déclenche de nombreuses erreurs et la mort de civils. Ainsi, la discrimination est très difficile entre combattants et non combattants dans des pays où les hommes portent fréquemment des armes et où les guerriers sont sans uniforme. Observer depuis le ciel, même pendant des mois, est forcément lacunaire. En imaginant pouvoir modéliser le vivant, grâce aux recoupements des images et des algorithmes, on confond la quantité des données collectées avec la qualité des événements observés. Avec un tel mode opératoire, le vivant et sa modélisation sont considérés comme étant de même nature, selon une équivalence qui ne présenterait ni pertes, ni transformation qualitative. Lors de la parution du livre en 2013, Chamayou s’affolait des lobbies qui allaient nous précipiter à l’ère des robots tueurs, c’est-à-dire des drones armés susceptibles de décider seuls des attaques, sans autre filtre humain. Un rapport de l’ONU, datant de 2021, déclare avec prudence avoir constaté l’implication récente de ce type d’appareils notamment dans des actions en Lybie[9]. Ici, l’approche quantitative (collecte et recoupements d’un grand nombre de données) est mise au centre du processus décisionnel et non le moindre puisqu’elle déclenche une mission létale (avec un important nombre d’erreurs).

Membres du congrès aux États-unis
Membres du congrès américain confondus avec d’autres portraits dans la base de données Amazon.

Un autre exemple, en 2018, des détracteurs de la reconnaissance faciale entrent les portraits de membres du congrès étatsunien dans le logiciel développé par Amazon. Celui-ci est vendu aux forces de police pour douze euros par mois. Vingt-huit portraits des membres du congrès, réalisés dans des conditions photographiques parfaites, ont été confondus avec les vingt-cinq mille photographies de citoyens entrées dans la base de données à leurs dépens. Quarante-deux pour cent de ces erreurs impliquaient des politiciens de couleur. Pour autant, les détenteurs de ces technologies comme l’entreprise Anyvision, présente dans quarante pays, nous garantissent la fiabilité de la technique en se justifiant par le grand nombre de données collectées. Leur logiciel modélise le visage d’une personne depuis un portrait photographique via cinq-cents millions de points. Et évidemment, si on vérifie une image cinq-cents millions de fois, alors la machine ne peut pas se tromper. La preuve en est, les vingt-huit erreurs sur les membres du congrès états-unien. Plus récemment, le gouvernement chinois, pionnier mondial de la coercition numérique, annonce repérer des criminels de dos à leur simple démarche, sur la base d’une analyse algorithmique de l’image[10]. Les frappes de drone, comme ces dispositifs de surveillance, sont fondées en la croyance de la mesure toute-puissante. Le grand nombre de données collectées serait un garant de la vérité. La faillibilité de ce principe est pourtant avérée, la singularité de la donnée même recoupée est toujours relative. Les erreurs sont courantes, le faux-positif, une possibilité de tous les instants. Mais malgré ces travers, la mesure numérique devient le moyen d’établir la règle.

Compter les nuages

Dans Objectivité, Lorraine Daston et Peter Galison retracent l’histoire de la notion d’objectivité dans les sciences depuis le XVIIIe siècle. Les théoriciens expliquent le combat aussi vain qu’acharné des scientifiques à neutraliser toute forme de subjectivité, en conférant parfois de façon fantasmée un statut supérieur à l’objectivité comme seul registre de réalité. Les écrivains citent en exemple les mises en garde faites aux botanistes à ne pas rendre les dessins de fleurs trop précis, au risque de créer des nouvelles espèces sur la base de singularités non opérantes.

Depuis des siècles, les scientifiques s’inquiètent de l’échelle d’observation. Trop loin, l’essentiel peut leur échapper, trop proche, on peut se perdre dans des détails non pertinents. Non sans dérision dans son texte « Celui qui se consacre à l’étude des nuages est perdu », l’écrivain Marcel Beyer[11], considère ainsi que les nuages échappent à l’observation scientifique car « pour l’homme de science éclairé et soucieux du sérieux de la chose scientifique, existe le danger de “voir quelque chose” dans le nuage, quelque chose qui existe, dans l’imagination certes, mais pas sous les yeux de l’observateur ». Selon lui, ni les peintres de paysages, ni les photographes, ni les météorologues ne saisissent la véritable nature des nuages, si tant est que cette nature véritable existe. Variables, diffus, jamais identiques, les nuages se dérobent selon lui, à la « mise en science », à la « mise en données », leurs interprétations étant infiniment inconstantes et bavardes. Où commence le nuage ? Quand finit-il ? Quelle forme serait suffisamment générique pour permettre un classement ? Comment isoler le nuage de son environnement, de sa relation aux autres nuages pour le désigner comme une entité réellement autonome ? Comment désigner un nuage lambda comme unité de base, depuis laquelle on puisse compter les nuages ? On peut observer la présence de nuages, mais c’est une autre affaire que de les compter un par un. Aussi, notre monde ressemble plus à un réseau de nuages interconnectés et interdépendants qu’à une suite de données isolées, comptabilisées puis recoupées.

Même en l’absence d’outils de mesure, certaines prises de décision aujourd’hui naissent d’une logique numérique. Cet été, les règles d’entrée au théâtre ont été décidées par la découpe du vivant en une suite de variables isolables selon les critères de sécurité du terrorisme et de la pandémie, en pensant qu’on pouvait prévenir l’un sans gêner l’autre. La variable risque d’attaque terroriste s’est trouvée isolée de la variable contagion par la COVID. Les personnes ont été alors privées de leurs gels hydroalcooliques n’étant plus à ce moment l’objet qui sauve, mais devenant un potentiel explosif. En isolant les variables du terrorisme et de la COVID de la complexité du vivant, en les traitant séparément, les mesures prises sont devenues ici contradictoires, car fondées sur une logique numérique descriptive trop pauvre.

Quelle relation entre la confiscation de mon gel hydroalcoolique, les attaques de drones, et la reconnaissance faciale ? Toutes les règles décrites ici sont fondées sur une approche computationnelle, sur le fait de compter d’abord, d’isoler des données, de les recouper et de décider ensuite, sur la base du résultat comptable, et parfois sur la base de ce seul résultat comptable. La liste des règles, sociales ou politiques, fondées sur ce même principe comptable est aujourd’hui insondable. Compter c’est isoler, compter c’est lisser. Compter c’est décider.

 

Nous ne pouvons pas résoudre nos problèmes avec la même pensée que nous avons utilisée lorsque nous les avons créés. Albert Einstein

 

Cet article se situe dans une série de publications portant sur l’influence du numérique comme moyen de modéliser et de penser le monde.
Sous cette même thématique :
On a fait de nous des tricheurs, publication 28 avril 2021
Guérir par les images, publication 15 juin 2020

 

[1] Cette représentation a eu lieu avant l’entrée du pass sanitaire en France. Sinon, celui-ci serait venu s’ajouter aux prérequis pour assister au spectacle.
[2] Léa Sanchez et Adrien Sénécat, Covid-19 : des restrictions imprévisibles, arbitraires, voire contradictoires créent un sentiment « d’insécurité juridique », sur le monde.fr, https://www.lemonde.fr/police-justice/article/2021/04/11/covid-19-le-flou-des-restrictions-sanitaires-alimente-une-insecurite-juridique_6076366_1653578.html, publié le 11 avril 2021 à 10h00, consultation 27 avril 2021.
[3] La visite d’Emmanuel Macron fait elle-même écho à la visite de Jacques Chirac vingt-quatre ans plus tôt.
[4] Tim Ingold, Une brève histoire des lignes, Zones sensibles éditions, Bruxelles, 2011
[5] Un grand merci au philosophe et ami Fabien Vallos, pour ses éclairages et notre discussion sur le livre Giorgio Agamben, De la très haute pauvreté, Paris, Rivages, 2011
[6] Entre la collecte des données, et la règle, il y a le champ très vaste de la question de l’évaluation. Ce sujet ne peut entrer dans le format de cet article.
[7] Léa Sanchez et Gary Dagorn, « Covid-19 : vaccins et perturbation des règles, des signaux et beaucoup d’incertitudes », Le Monde, sur le site www.lemonde.fr, https://www.lemonde.fr/les-decodeurs/article/2021/08/06/covid-19-vaccins-et-perturbation-des-regles-des-signaux-et-beaucoup-d-incertitudes_6090781_4355770.html, Publié le 06 août 2021 à 19h30, consultation 17 septembre 2021
[8] Grégoire Chamayou, Théorie du drone, La Fabrique Éditions, 2013
[9] Pierre Bouvier, « Le spectre de drones de combat autonomes », Le Monde, sur Lemonde.fr, https://www.lemonde.fr/big-browser/article/2021/06/03/l-utilisation-de-drones-tueurs-en-libye-reveille-le-spectre-de-robot-de-combats-autonomes_6082724_4832693.html, Publié le 03 juin 2021 à 18h40 – consultation 15 septembre 202
[10] Voir le documentaire, Sylvain Louvet, Tous surveillés – 7 milliards de suspects, 2019.
[11] Marcel Beyer, Études des Nuages, Spector, 2011

Caroline Bernard

Artiste-chercheuse, Caroline Bernard collabore avec des institutions suisses et internationales: les théâtres de Saint-Gervais et Am Stram Gram, la HEAD (Genève), l’UQAM (Montréal), LE LABO sur la RTS. Docteure en esthétique, sciences et technologies des arts, elle enseigne et dirige le laboratoire Prospectives de l’image à l’ENSP en France. Elle sera au théâtre de Saint-Gervais, en mai 2022 pour AT THE END YOU WILL LOVE ME, spectacle portant sur les alternatives à la psychiatrie. Démesurer, signifie «Faire dépasser les bornes, les limites ordinaires», ce blog observe comment se cristallisent la norme, les pratiques de la société civile, et les décisions politiques, à travers le numérique.

Une réponse à “Everybody knows the rules

  1. Excellent article qui montre que l’ordre prioritaire et l’obédience de la mase ne peuvent pas être appliquer à la fois, puisqu’une priorité en chasse l’autre, d’après des critères parfois comique; comme l’histoire du gel nettoyant qui devient potentiellement explosif, que tout le monde réussit avec aisance par ailleurs à l’appeler par son nom technique de gel hydroalcoolique !!!

Les commentaires sont clos.