L’avenir passe par une éthique des données

Invité à la journée européenne de protection des données, j’ai plaidé pour une éthique des données pour les entreprises et les utilisateurs. Cette éthique des données fait deux constats et pose une question. Les constats tout d’abord : toutes les entreprises, de la startup à la grande PME, génèrent et possèdent des données sur leurs clients. Des statistiques sur les choix, les comportements, les habitudes des personnes qui achètent leurs produits et services. Le sujet des données n’est donc pas réservé aux grandes entreprises du numérique. Toutes les entreprises sont concernées, du garage au bureau de fiduciaire en passant par les petits commerces de détail. Deuxième constat : la discussion sur les données est menée dans une logique de « compliance ». C’est l’effet RGPD, du nom du règlement européen sur la protection des données. Les entreprises veulent se mettre à l’abri d’éventuelles sanctions et minimiser les risques d’ennuis juridiques. Cette approche est pertinente, mais elle fait un pari osé en limitant les données à une question juridique. Car celui qui respecte la loi prend parfois d’autres types de risques « éthiques » pour la réputation et l’intégrité de l’entreprise.

L’éthique des données se construit sur ces deux constats et pose une question : comment orienter mes choix en tant qu’entreprise ? Pour répondre à ce défi, les entreprises devraient chercher à répondre aux sentiments de perte de contrôle et de dépossession des clients. Ces sentiments, je propose de les organiser et les systématiser autour de l’idée de « domination », proposée par le philosophe Philip Pettit. Selon lui, notre liberté est menacée dans une situation de domination. Cette domination est caractérisée par la présence de l’arbitraire. L’Etat, des groupes d’individus ou des entreprises ont la capacité d’interférer arbitrairement avec ma vie et mes intérêts les plus importants. Ces interférences sont arbitraires si je ne peux pas les contrôler et si elles ne prennent pas en compte mes intérêts. En d’autres mots, je suis soumis à d’autres, sans avoir la possibilité de faire valoir mes intérêts.

Un exemple de domination dans notre quotidien ? Le petit chef. Le petit chef (ou petite cheffe) a les moyens d’exercer de l’arbitraire sur ses collaborateurs, qu’il considère souvent comme de petits esclaves. Grâce à sa position hiérarchique, il ne doit pas forcément tenir compte de leurs intérêts ou de leurs envies, il peut les envoyer faire des travaux absurdes durant toute la journée. L’exemple du petit chef est particulièrement intéressant pour faire comprendre que notre liberté est déjà menacée lorsque l’arbitraire est possible. Lorsque le petit chef est dans un bon jour, je passe une agréable journée. Néanmoins, une ombre continue à planer sur moi, une sorte de menace permanente. Je n’ai pas besoin d’être concrètement soumis à ces ordres absurdes pour sentir l’arbitraire. Le petit chef a l’apparence de la gentillesse, mais il fait sentir à ses collaborateurs qu’il tient le couteau par le manche et qu’il peut, s’il le veut, leur pourrir la vie.

Que nous apprennent cette réflexion et cette analogie pour l’éthique des données ? Chaque entreprise soucieuse de s’approcher d’une éthique des données devrait se poser 3 groupes de questions:

  • Est-ce que les données que je possède sur mes clients ont un but spécifique ? Ce but spécifique est-il connu de mes clients, ont-ils explicitement donné leur accord? Les données servent-elles strictement à atteindre ce but, sans plus, sans moins ? Ces principes de consentement et de proportionnalité sont au cœur d’une éthique des données qui minimise les risques de domination. Le client et ses intérêts (notamment le respect de son identité numérique) sont placés au centre.
  • Est-ce que j’offre des possibilités de contestation à mes clients ? Existe-t-il un mécanisme qui permet à mes clients d’entrer en contact avec moi, d’obtenir des informations sur leurs données et de faire valoir leurs intérêts ? L’existence de ce mécanisme limite le risque de domination en offrant une opportunité aux clients de faire entendre leur point de vue.
  • Que pourraient faire mes clients si j’utilisais à mauvais escient leurs données ? J’imagine une entreprise jumelle à la mienne avec des dirigeants mal intentionnés. Quels seraient les risques pour les données de mes clients ? Mes règles de comportement sont-elles prévues pour beau temps ou sont-elles également capables de résister à des gens mal intentionnés ? Cette question permet d’illustrer l’importance d’une domination non-exercée, mais potentiellement très néfaste.

Ces trois questions permettent d’ancrer cette idée de domination au cœur des processus de l’entreprise. Apparait alors que cette éthique des données fait partie intégrante d’un programme de gestion des risques. Et si ces risques sont identifiés et maitrisés, l’entreprise fait un pas décisif vers un avantage concurrentiel majeur. Car l’effet RGPD ne s’arrête pas aux entreprises. Les clients ont compris qu’ils pouvaient reprendre l’initiative sur leurs donnés. Auprès de ces clients sensibilisés, l’éthique des données sonne comme la promesse de retrouver peu à peu le contrôle sur son identité numérique.

Johan Rochel

Dr. en droit et philosophe, Johan Rochel est chercheur en droit et éthique de l'innovation. Collaborateur auprès du Collège des Humanités de l'EPFL et membre associé du centre d'éthique de l’université de Zürich, il travaille sur l'éthique de l'innovation, la politique migratoire et les questions de justice dans le droit international. Le Valaisan d'origine vit avec sa compagne et ses deux enfants entre Monthey et Zürich. Il a co-fondé "ethix: Laboratoire d'éthique de l'innovation" (www.ethix.ch)

Une réponse à “L’avenir passe par une éthique des données

  1. Ayant fait une petite recherche sur mon nom (Google) rapide, non seulement les occurences mélangent mon nom Wilhem avec Wilhelm, mais ce qui devrait vous intéresser comme blogueur, en demandant “mes photos”, votre photo apparait comme celle de tous les blogeurs à qui j’ai fait un commentaire!

    Amusants ou dramatiques GAFAM?

Les commentaires sont clos.