Réseaux sociaux, d’un outil de manipulation à une arme de destruction massive

La crise sanitaire a encore augmenté la puissance économique des « Géants de la Tech » comme Google et Facebook. Un documentaire vient de sortir sur la plate-forme de streaming Netflix, the social dilemma qui démontre l’impact que ces sociétés, via des services comme Google Search, Facebook, Instragram ou encore pour les plus jeunes, Snapchat et plus récemment TikTok, ont sur nos vies.

Notre attention est exploitée pour générer du profit

On est bien loin de l’objectif initial qui consistait à connecter les personnes entre elles et à faciliter les échanges. Dès leur lancement, les services comme Google Search et Facebook ont été gratuits. Rapidement, un modèle d’affaires s’est établi : les utilisateurs sont devenus le produit. Ces entreprises captent toutes nos interactions et ils les monétisent au travers de la publicité. Ce modèle d’affaires a transformé ces services en des outils de manipulation massive.

Derrière des missions marketing telles que “donner aux gens la possibilité de créer des communautés”, les objectifs de ces sociétés sont alignés avec leur modèle d’affaires : augmenter l’engagement et capter notre attention, accroître le nombre d’interactions et maximiser les revenus publicitaires.

Toutes nos interactions sont enregistrées pour obtenir un maximum de données sur notre comportement et nous profiler. Les algorithmes développés visent à prédire notre comportement et à nous influencer/persuader d’acheter les produits proposés par les annonceurs.

L’âge de la désinformation

Pour capter notre attention, les algorithmes adaptent en continu les contenus qui nous sont proposés. Comme les « fake news » et les théories de conspiration attirent plus l’attention et génèrent plus d’interactions, elles se retrouvent amplifiées par les réseaux sociaux.

Notre vision du monde ne correspond plus à la réalité

Lorsqu’on consulte un bon vieux dictionnaire ou un article sur Wikipedia, nous avons tous la même information. Dans le flux des réseaux sociaux, les 2 milliards d’utilisateurs de Facebook ont tous un contenu différent, défini par des algorithmes paramétrés pour atteindre les mesures mentionnées plus haut : maximiser le temps que vous passez devant l’écran, vous inciter à réagir au contenu et consommer les produits publicitaires qui vous sont proposés.

Si le produit proposé sert à vous indiquer pour qui vous devez voter lors des prochaines votations, on voit bien le danger que cela constitue pour notre démocratie.

Si un adolescent reçoit constamment des notifications pour aller consulter des photos retouchées par de multiples filtres déformant la réalité, on comprend bien les risques associés à son estime de soin et à son équilibre mental.

Perte de contrôle

Comme les algorithmes utilisés sont sans aucune supervision humaine et que leurs créateurs ne comprennent plus totalement le fonctionnement, il est difficile pour ces sociétés d’éviter la diffusion de contenus malveillants. De plus, les volumes d’informations publiés chaque seconde sont énormes et il est impossible pour ces entreprises de juger à chaque fois si le contenu est « juste » ou pas.

Une prise de conscience

Ce film a pour objectif d’apporter une prise de conscience et de montrer l’ampleur de la problématique, qui selon l’opinion d’un des intervenants pourrait se terminer par des guerres civiles. Les protagonistes sont tous des anciens employés de ces entreprises, certains ayant été à l’origine de la création du modèle d’affaires, d’autres ayant donné des cours sur « comment rendre la technologie persuasive » et implémenter les méthodes de test pour identifier les fonctionnalités les plus addictives.

J’aime bien le parallèle utilisé à la fin du film par un des participants : ce commerce de l’exploitation de l’attention humaine doit être stoppé, au même titre qu’on a aboli l’esclavage ou le commerce d’organe.

Je vous propose donc d’aller voir ce film sur Netflix, sans attendre que leurs algorithmes vous le suggèrent (ou pas en fonction de votre profilage).

Raphael Rollier

Raphael Rollier

Raphael Rollier est passionné par l’utilisation des technologies digitales pour améliorer la qualité de vie et permettre une croissance économique durable. Après avoir mis en œuvre un outil «Smart Data» destiné à l'amélioration du trafic routier, Raphael a rejoint swisstopo pour explorer et développer des innovations en lien avec les géodonnées. L'écosystème de start-up actives dans la valorisation des données peut aussi compter sur son soutien.

4 réponses à “Réseaux sociaux, d’un outil de manipulation à une arme de destruction massive

    1. J’étais également étonné que le documentaire sorte sur Netflix. Mais si le but est de rendre visible la problématique au plus grand nombre, difficile de se passer de Netflix et ses 200 millions d’utilisateurs. Il faut utiliser leur “arme” pour se défendre !

  1. Certes mais personne ne vous oblige à vous inscrire sur tous ces réseaux sociaux! Vous et beaucoup d’autres parlez toujours de ces réseaux comme si on ne pourrait pas vivre sans eux, c’est incroyable! Moi je ne suis sur aucun de ces réseaux et je vis très bien et pas non plus comme un homme des cavernes…

    1. Je suis d’accord avec vous, il n’y a aucune obligation et l’on peut très bien vivre sans les réseaux sociaux. Le but ici est d’informer les personnes qui les utilisent et d’inciter le régulateur à mettre en place des garde-fous. De plus, c’est un peu plus dur pour un-e adolescent-e ou jeune adulte de les éviter, l’intégration dans un groupe passant souvent par ces moyens numériques.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *