Pratiques numériques, un risque pour les droits humains

Cette année le Forum de la gouvernance de l’Internet (IGF 2018, 12-14 novembre 2018) se tient à Paris dans les locaux de l’UNESCO, en parallèle du Forum de Paris sur la Paix qui fait suite à la commémoration du centenaire de l’armistice de la première guerre mondiale. L’Université de Genève consacre cette même période à la semaine des droits humains avec notamment un colloque académique sur « Les droits humains et le cyberespace » dans lequel j’interviens.

 

Ce que nous apprend George Orwell

En Europe nous nous habituons, à consommer du numérique, à nous exposer sur les réseaux sociaux sans trop questionner l’impact à long terme que cela peut avoir sur la préservation de nos droits fondamentaux.

Nous souscrivons à l’illusion de sécurité que peut procurer un système de surveillance présenté comme un système de protection. Certains pensent que la transparence des êtres et de leurs activités est synonyme de sécurité alors qu’en réalité cela contribue à leur aliénation dans une posture imposée par le dispositif de surveillance et à leur soumission au système. C’est ce que démontre George Orwell dans son roman « 1984 » dont la première édition a été publiée en1949 au Royaume Uni , dans lequel il nous est amené à penser que la dignité et l’intimité humaines se sont progressivement annihilées, que les liens sociaux se sont délités, que les individus se sont isolés les uns des autres du fait du contrôle invisible opéré par le « télécran », véritable système de surveillance panoptique.

L’existence de procédés de surveillance asymétriques et potentiellement liberticides inhérente à la manière dont le cyberespace et le mode de fonctionnement des services numériques ont a été conçu, autorise à penser que le slogan de G. Orwell « Big Brother is watching you » ou Big Brother est un dictateur invisible exerçant un contrôle totalitaire via un système de surveillance asymétrique, est incarné dans sa globalité par le réseau Internet.

De manière analogue ou les citoyens d’un grand nombre de villes et de pays se sont habitués à se déplacer sous l’œil des caméras de vidéosurveillance, nous intégrons sans la questionner, la surveillance qu’autorisent nos pratiques numériques. Pratiques imposées par l’informatisation massive de la société où toutes les activités traditionnelles se trouvent désormais médiées par les technologies de l’information.

La majorité des personnes ne peut plus se passer des technologies de l’information dont l’adoption a été favorisée en grande partie par des pratiques permanentes de divertissement et de consommation. Cette auto-aliénation et cet auto-assujettissement sont renforcés par le lien affectif développé par l’Internaute au regard des services consommés et de ses objets connectés. Ce qui contribue à l’empêcher de développer un regard critique sur la réalité de la surveillance dont il fait l’objet et donc de pouvoir la contester.

Un seuil a déjà été franchi il y a plus de quinze ans avec le hold-up de la vie privée et des données personnelles par les acteurs du numérique et de l’économie du numérique. En effet, la profitabilité de cette dernière s’est développée sur la base que les données des personnes sont considérées comme étant des valeurs commercialisables fournies gratuitement par les utilisateurs. L’intimité des personnes dans leur domicile est également mise à mal par l’intrusion des systèmes d’assistance vocales comme ceux proposés par Google, Amazon ou Apple par exemple. Les télévisions ou encore les jouets connectés sont également en mesure d’espionner leurs propriétaires, comme d’ailleurs le sont les montres et bijoux connectées. Ces derniers, au plus près du corps des individus sont capables d’enregistrer leur moindre mouvement ou leur fonctionnement biologique. Désormais, aucun lieu habituellement privé comme une voiture échappe à l’informatisation, ce qui a pour corolaire une surveillance automatisée.

Dès lors, dans ces conditions, comment l’Article 12 de la Déclaration universelle des droits de l’homme « Nul ne sera l’objet d’immixtions arbitraires dans sa vie privée, sa famille, son domicile ou sa correspondance, ni d’atteintes à son honneur et à sa réputation. Toute personne a droit à la protection de la loi contre de telles immixtions ou de telles atteintes », peut–il être respecté?

L’empreinte numérique des utilisateurs est récoltée, stockée, croisée avec celles issues d’autres sources (téléphone, caméra de vidéosurveillance, navigation web, paiement…) et traitée afin de construire des profils de consommateurs (comportements, déplacements, goûts, sentiments, transactions commerciales, consommations de média, etc.). Classer catégoriser des personnes, des groupes de personnes y associer une note, un rang, y joindre des avantages (carottes – réduction des prix, …) comme des restrictions (coups de bâton – accès refuser à des services et prestations, …) permet non seulement de mesurer les individus mais aussi de les dresser. De fait, l’expérience client de certains services ou plateformes numériques, la dépendance à ces services contribuent à rendre les utilisateurs « dociles et utiles », de les assujettir et de les discipliner.

 

Ce que nous apprend Michel Foucault

« Surveiller et Punir » est le titre de l’ouvrage de Michel Foucault dont le sous-titre est « Naissance de la prison » paru chez Gallimard en 1975. Impossible de ne pas penser que les systèmes de vidéosurveillance de plus en plus intrusifs puisque de plus en plus intelligents et omniprésents, sont les nouvelles forteresses invisibles du 21ème siècle qui emprisonnent les individus pour les « redresser », les tenir en laisse électronique, les contraindre à opter pour des comportements pas uniquement socialement acceptables, mais normés selon un système politique déterminé. Se déplacer sous l’œil permanent des caméras, c’est accepter la contrainte intériorisée d’un comportement prédéfini, c’est vivre enfermé dans « une entreprise d’orthopédie sociale » pour reprendre les termes de Foucault. Lorsque que les personnes se savent observées, leurs comportements changent. L’Europe n’est pas à l’abri de l’adoption d’un système de surveillance totale, habilement justifié avec une population prête à l’accepter où imposé par une logique de marché servant une politique de sécurité particulière supportée par des partenariats public-privés spécifiques.

 

La transformation numérique des moyens de surveillance

La transition numérique de la société concerne également la transformation des moyens de surveillance. Ceux-ci sont implicitement intégrés, non pas sous ce nom et comme tels, dans tous les services personnalisés développés à partir du phénomène de big data et de l’application de techniques d’intelligence artificielle. En effet, la collecte massive de données et les algorithmes permettent de déduire les caractéristiques physiques, psychologiques, socio-comportementales, sexuelles des personnes, etc., d’éventuellement les prédire et donc aussi de les influencer.

Le numérique favorise une double surveillance des individus celle physique et celle de leur réputation et habitudes numériques avec la possibilité de les croiser. Cela augmente la performance du dispositif de surveillance, son automatisation, son effet de dissuasion et d’autocensure ainsi que la pression sociale tout en restreignant considérablement la liberté individuelle et la prise de risque de ne pas être en conformité avec une moyenne décidée artificiellement par des algorithmes plus ou moins bien conçus et imposés par les gouvernants.

Les relations de pouvoirs entre tous les acteurs de la société et cela à l’échelle mondiale, s’appuient désormais par la maitrise des technologies de l’information et des données. Il est à craindre que certains en Europe et ailleurs dans le monde, défende leurs intérêts en favorisant une surveillance informatisée. Il suffit d’un moment opportun (attentats terroristes, problèmes économiques, immigration, …), de discours politiques convaincants, de quelques lois liberticides, d’une communication efficace pour que la population se soumette à un tel système, voire le sollicite.

Le marché existe, il est supporté par les fabricants et fournisseurs de solutions qui ne demandent qu’à vendre … L’économie du numérique est en pleine expansion, comme celle de la sécurité d’ailleurs.

De plus, la population s’habitue sans résistance, comme elle s’est habituée à l’usage à priori indolore des cartes de crédits, des paiements ou déclarations en ligne mais aussi à la publicité personnalisée. Or, la traçabilité des paiements électroniques autorise surveillance et un contrôle social. Par ailleurs, beaucoup d’incitations existent pour ne plus payer en liquide. La publicité personnalisée est une forme de surveillance à vocation initialement commerciale mais qui peut évoluer vers d’autres finalités. Ce type de détournement a été illustré par l’affaire Facebook & Cambridge Analytica.

 

Pour de nouveaux droits humains

Les droits fondamentaux ne sont pas négociables, ils doivent être protégés, préservés, défendus, exigés dans le monde physique comme dans le cyberespace. Au regard des pratiques numériques existantes et à venir il est urgent d’innover pour que les droits humains traditionnels soient respectés dans le cyberespace. Il est tout aussi urgent de reconnaitre de nouveaux droits humains liés spécifiquement aux technologies du numérique comme celui du droit à la déconnexion ou encore du droit à savoir si un humain interagit avec une intelligence artificielle.

Solange Ghernaouti

Solange Ghernaouti

Docteur en informatique, la professeure Solange Ghernaouti dirige le Swiss Cybersecurity Advisory & Research Group (UNIL) est pionnière de l’interdisciplinarité de la sécurité numérique, experte internationale en cybersécurité et cyberdéfense. Auteure de nombreux livres et publications, elle est membre de l’Académie suisse des sciences techniques, de la Commission suisse de l’Unesco, Chevalier de la Légion d'honneur.

2 réponses à “Pratiques numériques, un risque pour les droits humains

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *