Bipbip et Coyotte, ou comment raconter l’histoire de l’éthique dans la technologie

A l’invitation du Forum Economie Numérique 2021 (organisé par la Direction générale du développement économique, de la recherche et de l’innovation du canton de Genève), j’ai eu le plaisir de proposer deux histoires sur l’éthique dans le monde numérique.

Dans toute sa profondeur, voici la première histoire, la plus utilisée mais – surprise – pas la plus correcte:

Le narratif proposé par la plupart des acteurs du numérique et des décideurs politiques est le suivant : Bip-bip, c’est la technologie. Il va vite, souvent imprévisible, et surtout toujours en avance sur son poursuivant, Coyotte. Coyotte, véritable Poulidor du dessin animé, c’est le droit et la régulation. Il tente sans relâche de rattraper la technologie, mais n’y parvient jamais.

Ce narratif donne une place de choix à l’éthique. L’éthique va devoir combler le vide laissé par le passage de Bip-Bip. Elle remplace temporairement le droit et la régulation. Elle crée de la prévisibilité, coordonne les actions des différents acteurs, prévient certains dégâts pour les utilisateurs, la société et l’environnement. L’éthique vient donner une consistance à l’idée d’auto-régulation par les acteurs du numérique.

Le problème majeur de cette lecture Coyotte-BipBip porte sur le danger d’ « éthique washing », l’éthique étant utilisé comme alternative à la régulation. De plus, l’éthique se met à ressembler à un simple outil de marketing et de communication au service de l’intérêt des entreprises. Pour la régulation, cette lecture fait croire que la technologie pose des questions insolubles qui ne peuvent pas être traitées avec les règles en vigueur.

En résumé, méfions-nous de la lecture « Coyotte-BipBip » – elle nous présente une réalité biaisée et met l’éthique dans une position inconfortable. Même si, et c’est le paradoxe, elle donne une place prépondérante à cette même éthique et qu’elle a le mérite de forcer les entreprises à sortir du bois avec, au moins, quelques grands principes généraux.

A cette lecture Bipbip et Coyotte s’oppose une lecture beaucoup plus intégrative : l’innovation technologique ne se déroule pas en dehors du cadre de régulation. Ce cadre englobe et rend possible la R&D, le développement, le design et l’utilisation de nouvelles technologies. Les grands régimes du droit – la responsabilité, le contrat, les droits fondamentaux, les principes du droit – s’appliquent aux nouvelles technologies. Les technologies numériques n’échappent pas au droit.

Appelons la deuxième histoire celle de la responsabilité numérique. Pour l’illustrer, j’utilise les éléments de contenu proposés par la Fondation Ethos sur cette responsabilité numérique:

L’idée clef : une technologie numérique se développe dans un certain contexte de société, avec des acteurs qui doivent prendre leurs responsabilités. D’une part, les entreprises du SMI comme les PME vont devoir clarifier leur positionnement en termes de valeurs, de business modèles ou encore de qualité de leurs produits/services numériques. Ce positionnement va permettre aux entreprises les plus intéressantes de se démarquer de leurs concurrents, pas seulement par des effets d’annonce, mais par des engagements concrets, mesurables et vérifiables dans la manière de gérer l’entreprise et dans le design des produits numériques. D’autre part, cette responsabilité numérique va jouer un rôle de sparring-partner critique avec le politique. Elle va avoir pour mission de rappeler que les nouvelles technologies changent les rapports de forces, créent de nouvelles situations d’inégalités, mettent en danger la libre concurrence en créant des monopoles ou impactent négativement notre environnement. Ces défis ne sont pas une nouveauté pour le droit et la régulation, les outils pour y répondre existent la plupart du temps. C’est donc un travail d’adaptation et de mise à jour de standards qu’il faut réaliser rapidement.

Johan Rochel

 

 

Johan Rochel

Dr. en droit et philosophe, Johan Rochel est chercheur en droit et éthique de l'innovation. Membre associé du centre d'éthique de l’université de Zürich et auteur au think-tank foraus, il travaille sur l'éthique de l'innovation, la politique migratoire et l'Union européenne. Le Valaisan d'origine vit avec sa compagne et ses deux enfants entre Monthey et Zürich. Il a co-fondé "ethix: Laboratoire d'éthique de l'innovation" (www.ethix.ch)

2 réponses à “Bipbip et Coyotte, ou comment raconter l’histoire de l’éthique dans la technologie

  1. Oui, la question est bien posée par votre première illustration. Mais si votre 2e “histoire” est une charte ou un code, l’attitude éthique n’est pas assurée pour autant; elle reste en retard, puisqu’elle attend la responsabilité – du plus grand nombre. Ne devrait-on pas chacune et chacun revêtir immédiatement le pelage de Coyotte et battre Grand Méchant Bip avant la ligne d’arrivée ? Merci de votre post.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *