La reconnaissance faciale, une violence invisible

Épisode 3

Comment lutter contre une violence invisible ?

 

De quoi parle-t-on?

La reconnaissance faciale informatisée est une technique de surveillance des comportements et d’identification des personnes. La technique n’est pas neutre. Installée dans les lieux publics, les personnes sont considérées comme étant une source de données à exploiter (justification commerciale) et comme étant toutes coupables (justification sécuritaire).

Ce que la surveillance informatique fait à l’humain

Lorsque des personnes passent dans le champ de collecte de toutes sortes de capteurs (caméras, mouchards, portails de détection, vigiles électroniques, …), la surveillance informatique dont elles sont l’objet, est virtualisée. La relative invisibilité des instruments de collecte de données et des traces laissées par les individus font qu’ils évoluent dans des lieux symboliquement clôturés par des capteurs électroniques et des systèmes d’information. Ces instruments sont sous le contrôle des fournisseurs de services et d’équipements et de ceux qui le mettent en œuvre.

La discrétion des dispositifs, la dématérialisation de l’information, l’invisibilité du traitement des données contribuent à ce que les procédés de surveillance présents dans le quotidien des personnes et sur lesquels elles n’ont aucun contrôle, leurs échappent. De plus, les mécanismes qui les régissent ne sont pas transparents.

Pour autant la personne sait qu’elle est sous surveillance. Sujet de la surveillance, elle intériorise la contrainte de la surveillance et se sait observée en permanence. Cela lui fait inconsciemment intégrer les limites de son enfermement symbolique et l’accepter. Elle adopte alors ses comportements aux attentes du système de surveillance en fonction des lieux fréquentés. Cela constitue des formes de restriction de la liberté.

La reconnaissance faciale automatisée est un moyen de dissuasion psychologique et de normalisation des comportements qui met fin à la liberté d’aller et venir librement.

Ce sont la virtualisation de la clôture et la conscientisation de la contrainte qui reste invisible pour tous les autres, qui sont à la base de l’usage du bracelet électronique de détention des prisonniers (concepts de PSE (Placement sous surveillance électronique) et de PSEM (placement sous surveillance électronique mobile)).

Les limites imposées par la surveillance à distance sont invisibles aux observés comme le sont les critères qui permettent de déclencher une action répressive à leurs égards. Ces contraintes intangibles et obscures engendrent un sentiment de culpabilité par avance, sans savoir forcément de quoi. L’anticipation instaure un climat de peur, ce qui renforce la violence vécue.

Métaphore de la surveillance informatique

Si par le passé, le barbelé symbolisait l’enfermement et l’oppression, comme l’analyse si bien Olivier Razac dans son ouvrage « Histoire politique du barbelé »[1], désormais ce sont les caméras de vidéosurveillance et le smartphone qui représente le mieux la métaphore de la surveillance électronique et informatisée.

Ces technologies et instruments de la surveillance intensifient la virtualisation de la surveillance tout en la personnalisant et en la rendant intangible. Cela se fait en douce, au sens de « à l’insu des personnes » et en douceur, sans violence physique directe. Pourtant, la violence existe bien mais elle est masquée par une illusion de liberté du fait que l’usager peut se déplacer sans contrainte apparente et peut par exemple, accéder à des lieux, des biens et des services, communiquer ou encore bénéficier d’offres commerciales géolocalisées et personnalisées. Cela se fait de manière instantanée, interactive, adaptative et efficace.

La dualité du smartphone, ses capacités de divertissement, les réseaux sociaux auxquels il donne accès tout le temps, les systèmes de notation, permettent de banaliser la surveillance, y compris celle de tous par tous. Cela contribue également à la rendre désirable et incontestable.

Transparence des observés, obscurité des observants

La transparence totale des êtres est à opposer à l’obscurité des entités qui fournissent et exploitent l’écosystème numérique de la surveillance de masse et de la surveillance personnalisés et ciblée. Leur pouvoir et la symbolique de leur pouvoir sont ainsi dématérialisés et rendus invisibles. Ce qui contribue à accroitre également la puissance de leur pouvoir.

Quelle compatibilité avec la Déclaration universelle des droits de l’homme?

Quelles que soient les justifications avancées et la finalité des investissements consentis pour mettre en place de tels systèmes de surveillance, ces derniers portent atteinte à la vie privée et à la dignité des observés. Ils sont des obstacles au respect des Articles 1, 11, 12, 13, 20, 30 de la Déclaration universelle des droits de l’homme.

***

Note & remerciement

[1] Olivier Razac « Histoire politique du barbelé »  Editions Flammarion, collection Champs Essais, 2009.

Dans la conférence publique que  j’avais organisée à l’Université de Lausanne “Dans une société sous surveillance informatique, quel avenir pour notre liberté?” le 4 décembre 2007, Olivier Razac était intervenu sur le thème « Du barbelé au bracelet électronique : Virtualisation de la clôture et universalisation de la surveillance ».

Je remercie Olivier Razac dont les propos et écrits ont contribué à enrichir mes réflexions.

 

Solange Ghernaouti

Docteur en informatique, la professeure Solange Ghernaouti dirige le Swiss Cybersecurity Advisory & Research Group (UNIL) est pionnière de l’interdisciplinarité de la sécurité numérique, experte internationale en cybersécurité et cyberdéfense. Auteure de nombreux livres et publications, elle est membre de l’Académie suisse des sciences techniques, de la Commission suisse de l’Unesco, Chevalier de la Légion d'honneur. Médaille d'or du Progrès

12 réponses à “La reconnaissance faciale, une violence invisible

    1. On est bien au-delà de 1984. Il ne nous reste plus qu’à implanter une puce à tout être.

  1. Je suis totalement pour la vidéoprotection et l’aide de l’intelligence artificielle pour aider les policiers à nous sauver.

    Vous ne prenez manifestement pas souvent le train dans de grandes gares la nuit. Si vous étiez contrainte, comme moi, de travailler tard, je vous assure que vous oublieriez vos principes de bourgeois et applaudiriez à l’amélioration de la protection des déplacements de la classe besogneuse. Ce mépris de classe, qui veut nous interdire la sécurité au quotidien, est sidérant!

    1. Qu’attendez-vous pour vous mettre au télé-travail?

      Il est vrai qu’entre intelligence artificielle et stupidité naturelle, mes neurones balancent.

    2. Sécurité pour tous

      La « classe supérieure » ne prend-elle pas le train tard le soir, vêtue d’un beau manteau de cashmere où glisser un portefeuille assurément pas plat, ou d’un geste élégant jeter un coup d’œil sur sa montre qui brille autrement que le fer-blanc ? Je parle bien de cette classe qui prend des risques pour vous assurer votre sécurité financière, avec courage aussi mais plus discrètement.

    3. «Un peuple prêt à sacrifier un peu de liberté pour un peu de sécurité ne mérite ni l’un ni l’autre et finit par perdre les deux.» (Benjamin Franklin)

      Je vous rend attentif à la fin de la citation : « et finit par perdre les deux ».

      Les « classes laborieuses », comme vous dites, vont surtout être surveillées et cette intelligence artificielle servira aussi à observer votre mode de vie, votre alimentation, si vous pratiquez un sport ou pas. Vous pourriez par exemple vous retrouver « mis à l’amende » par des assurances qui pensent que votre style de vie ne correspond pas aux critères qui leur permettent de moins dépenser.

      Vous serez peut-être en sécurité dans les gares la nuit mais vous serez taxé parce que vous n’aurez pas les moyens de mener une vie saine selon les standards des classes aisées et des assureurs.

      Vous n’aurez alors plus ni liberté ni sécurité.
      Mais peut-être est-ce ce à quoi vous aspirez ?

    4. Confiante d’être arrivée saine et sauve à votre travail grâce aux cameras de surveillance payées aux frais du contribuable pour assurer votre sécurité, une fois assise à votre bureau souhaiteriez-vous qu’on vous filme en permanence pour s’assurer que vous ne somnolez pas, que vous ne surfez pas en catimini sur Internet ou n’abusez pas du temps de votre pause-café?

      Si tel est le cas, alors on ne peut que vous suggérer de demander un visa de séjour permanent à destination de l’Empire du Milieu, avec garantie de ne plus passer inaperçu(e) ni de jour, ni de nuit dans le plus vaste et efficace panoptique de tous les temps.

  2. Merci, de mettre, comme toujours, en évidence la dangerosité subtilement cachée de
    cette technique d’autant plus redoutable qu’elle est parfois utile.

  3. En rapport avec le commentaire de Noyeki :

    Les fonctions d’analyses de la centrale informatique des caméras ne se limitent pas à la seule sécurité. La Migros, qui a annoncé envisager ce type d’installations avec reconnaissance des visages dit clairement vouloir suivre les déplacements, non pas sur l’ensemble des clients (rayons plus ou moins visités), mais cibler les clients individuellement afin d’établir des comportements type : temps consacré à s’arrêter devant un article (hésitation avant décision d’achat), trajets directs (la personne prend le chemin le plus court en sachant ce qu’elle veut acheter), ou au contraire le client qui se promène à la recherche d’inspiration, et qu’est-ce qui attire le mieux son attention ? Quel est le profil de comportement de celui qui ne se laisse pas tenter, et celui qui accueille les propositions à mesure que son caddie se remplit ? C’est bien l’identification des visages qui permet le suivi des personnes depuis l’entrée jusqu’à la sortie, le but de ces études est purement commercial, et s’il peut servir dans des cas isolés à la sécurité ou l’identification d’un voleur à l’étalage, nous pouvons tout de même nous poser des questions sur la facilité avec laquelle la Migros pourra décider de cette surveillance du 40 % du public qui fréquente ses surfaces de vente ; ce sont des lieux privés, soit, mais ouverts au public comme le sont les restaurants où les caméras qui restent allumées durant les heures d’ouverture sont mal accueillies. Dans le cas des restaurants, la loi prévoit d’autre part l’accord du personnel d’être filmé pendant son travail, la suspicion généralisée n’est pas en adéquation pour justifier ces moyens au sens légal. Et pourtant… Les caissières de la Migros n’avaient pas le droit d’avoir des espèces sur elles à leur poste (encore actuellement ?), afin de faciliter les petites enquêtes internes : « D’où vient cet argent ?.. » C’est le genre de méthodes qui avaient cours dans les institutions, à l’époque où le manque de respect volontaire était une composante de l’éducation.

    Il est nécessaire de s’occuper sans attendre de l’emprise grandissante que prend ce géant de la fourniture des besoins essentiels (et futiles). Ces caméras, dotées de leur système de collecte et d’analyses, vont être exploitées pour concevoir en toute discrétion des publicités encore plus efficaces pour nous voir acheter les yeux trop grands ouverts.

  4. Aucune restriction de ma part concernant une caméra destinée à la sécurité, par contre franchement opposé a ce qui touche le commercial, espionage en fait, à visée bassement et purement mercantile; cela n’a strictement rien à voir avec la sécurité.

  5. Ce qui est le plus grave, c’est que quand on parle d’un système de vidéosurveillance en Chine, on en profite immédiatement pour crier que ce pays est une dictature qui ne respecte pas les Droits de l’Homme. Dans nos démocratures, non seulement beaucoup de citoyens trouvent ça normal (il suffit de lire les commentaires à votre article) mais ils fournissent eux-mêmes, volontairement, toutes les données qui permettront un jour de les priver physiquement de leur liberté. La majorité de la population a un smartphone et un compte FaceBook, système qui est pire que la CIA et le KGB réunis. On en arrive au point où vous paraissez suspect si vous n’avez ni smartphone ni compte dans un réseau prétendu social. Je suis donc suspect, considéré comme une sorte d’anarchiste, voire de communiste.

    Un ami allemand, maintenant décédé, m’a expliqué qu’il avait voté pour Hitler mais qu’il avait rapidement compris son erreur. Il était trop tard, le système répressif avait eu le temps de s’installer et de devenir efficace. Il m’avait dit que si tous ceux qui avaient compris leur erreur avait réagi immédiatement, le nazisme n’aurait pas existé longtemps. Mais ils n’ont pas réagi.

    Combien de temps devons-nous attendre avant qu’il soit trop tard ? Que pouvons-nous faire pour réagir ? Les Bretons (un noyau dur) ont incendié les portails de vidéosurveillance. Est-ce le début d’une solution ? On peut aussi se passer d’un smartphone et boycotter les réseaux sociaux.

Les commentaires sont clos.