Assistant biométrique, de Big Brother à Big Mother

Vous prenez l’avion dans quelques jours. Pour simplifier les démarches, imaginez que vous activez un assistant biométrique à reconnaissance faciale : après avoir scanné votre carte d’identité et enregistré votre profil biométrique du visage sur une application mobile, vous pouvez ensuite vous rendre à l’aéroport et être identifié à chaque étape uniquement en restant quelques secondes devant une caméra. Vous déposez ainsi vos bagages, passez le contrôle de sécurité et finalement rentrez dans l’avion sans présenter aucun document et en évitant les files d’attente. En complément à ce service d’identification, cet assistant numérique vous permet également de réserver une place de parc et de vous guider depuis votre maison jusqu’au terminal, en optimisant votre temps de voyage.

Ce service existe déjà près de chez vous, il s’appelle Mona et il est proposé par Vinci à l’aéroport de Lyon, comme l’illustre la vidéo à la fin de mon article.

 J’ai découvert cette solution il y a quelques semaines en participant au jury du concours Le Meilleur du Web. Ce concept développé par l’agence Atipik a gagné dans la catégorie Technologie. La solution technique est très bien implémentée, connectée à tout un écosystème pour simplifier la vie du client. Cependant, cet assistant biométrique pose beaucoup de questions sur le déploiement massif de ces technologies de reconnaissances faciales.

Mona m’a d’ailleurs immédiatement fait penser au lancement en octobre dernier de Face Pay, le système de paiement par reconnaissance faciale du métro de Moscou. Les six millions de passagers quotidiens peuvent maintenant prendre le métro sans utiliser de ticket ou de carte à l’entrée. Une caméra capture leur visage et le compare avec une base de données, afin d’effectuer le paiement de manière automatique et en quelques secondes. Dans ce cas également, l’objectif affiché est de désengorger les stations et de fluidifier votre parcours.

Des caméras « dopées » à l’intelligence artificielle

La reconnaissance faciale est présente dans les films de science-fiction depuis des décennies. Elle s’impose aujourd’hui comme la mesure biométrique la plus utilisée grâce aux développements des techniques d’intelligence artificielle et l’accès à des milliards de données d’entrainements de visages, facilement accessible sur internet. Selon le NIST, l’organisation américaine des standards et normes, la précision des logiciels de reconnaissance a été multipliée par 50 en l’espace de 6 ans, avec un taux d’erreur de 0.08% mesuré en 2020. Les algorithmes s’auto-améliorent en permanence.

Le débat s’oriente souvent sur les risques que l’algorithme se trompe, mais la fiabilité est de plus en plus grande et les meilleurs algorithmes n’ont plus de biais démographiques. La question est plutôt : est-ce qu’on veut banaliser cette technologie et la diffuser partout dans la sphère publique avec toutes les dérives possibles de les utiliser à des fins de surveillance ? Dans la ville de demain, est-ce que l’anonymat va disparaitre ?

De la promesse de fluidifier nos déplacements aux dérives de la surveillance de masse

L’écrivain de science-fiction Alain Damasio résume bien la situation : « La technologie ce n’est plus Big Brother, c’est Big Mother, il s’agit d’un pouvoir maternant, couvant, qui anticipe et répond à nos besoins ».

En effet, on justifie l’utilisation de ces technologies pour simplifier notre quotidien, notamment dans nos déplacements. Mais les risques de dérives sont élevés. Faut-il alors s’en passer ou plutôt essayer de l’encadrer ? Le World Economic Forum travaille depuis quelques années sur la question, pour définir une utilisation responsable des technologies de reconnaissance faciale en fonction des applications.

Il sera intéressant de suivre le débat et de voir comment le cadre législatif va évoluer. En attendant, il me semble judicieux de s’abstenir d’utiliser de tels systèmes, surtout si l’on n’est pas sûr de savoir où se trouvent nos données biométriques. Contrairement à un mot de passe, il est plus difficile de changer de visage si le système d’authentification a été corrompu ou utilisé dans un autre but que celui voulu.

Raphael Rollier

Raphael Rollier est passionné par l’utilisation des technologies digitales pour améliorer la qualité de vie et permettre une croissance économique durable. Après avoir mis en œuvre un outil «Smart Data» destiné à l'amélioration du trafic routier, Raphael a rejoint swisstopo pour explorer et développer des innovations en lien avec les géodonnées. L'écosystème de start-up actives dans la valorisation des données peut aussi compter sur son soutien.

3 réponses à “Assistant biométrique, de Big Brother à Big Mother

  1. En complément, la nouvelle coalition gouvernementale allemande a appelé à une interdiction à l’échelle européenne de la reconnaissance faciale publique et à « rejeter la vidéosurveillance globale et l’utilisation d’enregistrements biométriques à des fins de surveillance », se félicite ReclaimYourFace, la campagne de l’ONG de défense des libertés numériques EDRi, qui milite également en ce sens.

    « C’est une grande réussite pour la campagne Reclaim Your Face que notre demande pour une Europe sans surveillance biométrique ait été incluse dans l’accord de coalition du gouvernement allemand. Mais cela seul ne suffit pas », a déclaré Matthias Marx, porte-parole du Chaos Computer Club, membre d’EDRi. « Les mots doivent être soutenus par des actions maintenant et liés par la loi. »

    Cette nouvelle intervient une semaine seulement avant que le Conseil de l’Union européenne (le groupe des ministres et ambassadeurs des États membres de l’UE) ne définisse sa première position sur la future loi de l’UE sur l’intelligence artificielle. Or, l’identification biométrique à distance, la catégorisation biométrique discriminatoire et la reconnaissance des émotions ont été des sujets brûlants dans les négociations.

    Cette annonce apporte un soutien supplémentaire aux acteurs de l’UE appelant à une interdiction totale en Europe, notamment le comité et le contrôleur européens de la protection des données, le Parlement européen et les gouvernements de plusieurs pays de l’UE. Plus de 65 organisations de la société civile soutiennent par ailleurs la campagne ReclaimYourFace, dont la pétition a recueilli, à ce jour, plus de 63 000 signatures, dont près de 29 000 Allemands, et 13 000 Français.

    Il en faut 1 million pour que la Commission européenne soit tenue d’y répondre.

  2. Au point où nous en sommes, la technique existe et est utilisée.

    La question ne sera peut être pas ce que l’on peut faire avec mais ce que l’on peut faire sans. Cela me rappelle un extrait de l’Apocalypse de Jean: ” … on impose à tous, petits et grands, riches et pauvres, hommes libres et esclaves, une marque sur la main droite ou sur le front, et que personne ne puisse acheter ni vendre sans avoir la marque…”. On a beaucoup spéculé sur cette “marque” qui pourrait n’être en fin de compte qu’une reconnaissance faciale.

    Dans les questions à poser:
    – qu’est ce que cela change sur les possibilités de vivre et d’agir sans être identifié? Quelles sont les choses que nous pouvons faire de manière anonyme et où cette option d’anonymat est à préserver.
    – qu’est ce que cela change dans les possibilités de frauder le système. Actuellement, on peut faire de faux papiers. Pourra-t-on utiliser une fausse face? Certains systèmes demande de faire certains mouvements (ouvrir-fermer les yeux-la bouche, tourner la tête…).

Les commentaires sont clos.