La crise sanitaire a encore augmenté la puissance économique des « Géants de la Tech » comme Google et Facebook. Un documentaire vient de sortir sur la plate-forme de streaming Netflix, the social dilemma qui démontre l’impact que ces sociétés, via des services comme Google Search, Facebook, Instragram ou encore pour les plus jeunes, Snapchat et plus récemment TikTok, ont sur nos vies.
Notre attention est exploitée pour générer du profit
On est bien loin de l’objectif initial qui consistait à connecter les personnes entre elles et à faciliter les échanges. Dès leur lancement, les services comme Google Search et Facebook ont été gratuits. Rapidement, un modèle d’affaires s’est établi : les utilisateurs sont devenus le produit. Ces entreprises captent toutes nos interactions et ils les monétisent au travers de la publicité. Ce modèle d’affaires a transformé ces services en des outils de manipulation massive.
Derrière des missions marketing telles que “donner aux gens la possibilité de créer des communautés”, les objectifs de ces sociétés sont alignés avec leur modèle d’affaires : augmenter l’engagement et capter notre attention, accroître le nombre d’interactions et maximiser les revenus publicitaires.
Toutes nos interactions sont enregistrées pour obtenir un maximum de données sur notre comportement et nous profiler. Les algorithmes développés visent à prédire notre comportement et à nous influencer/persuader d’acheter les produits proposés par les annonceurs.
L’âge de la désinformation
Pour capter notre attention, les algorithmes adaptent en continu les contenus qui nous sont proposés. Comme les « fake news » et les théories de conspiration attirent plus l’attention et génèrent plus d’interactions, elles se retrouvent amplifiées par les réseaux sociaux.
Notre vision du monde ne correspond plus à la réalité
Lorsqu’on consulte un bon vieux dictionnaire ou un article sur Wikipedia, nous avons tous la même information. Dans le flux des réseaux sociaux, les 2 milliards d’utilisateurs de Facebook ont tous un contenu différent, défini par des algorithmes paramétrés pour atteindre les mesures mentionnées plus haut : maximiser le temps que vous passez devant l’écran, vous inciter à réagir au contenu et consommer les produits publicitaires qui vous sont proposés.
Si le produit proposé sert à vous indiquer pour qui vous devez voter lors des prochaines votations, on voit bien le danger que cela constitue pour notre démocratie.
Si un adolescent reçoit constamment des notifications pour aller consulter des photos retouchées par de multiples filtres déformant la réalité, on comprend bien les risques associés à son estime de soin et à son équilibre mental.
Perte de contrôle
Comme les algorithmes utilisés sont sans aucune supervision humaine et que leurs créateurs ne comprennent plus totalement le fonctionnement, il est difficile pour ces sociétés d’éviter la diffusion de contenus malveillants. De plus, les volumes d’informations publiés chaque seconde sont énormes et il est impossible pour ces entreprises de juger à chaque fois si le contenu est « juste » ou pas.
Une prise de conscience
Ce film a pour objectif d’apporter une prise de conscience et de montrer l’ampleur de la problématique, qui selon l’opinion d’un des intervenants pourrait se terminer par des guerres civiles. Les protagonistes sont tous des anciens employés de ces entreprises, certains ayant été à l’origine de la création du modèle d’affaires, d’autres ayant donné des cours sur « comment rendre la technologie persuasive » et implémenter les méthodes de test pour identifier les fonctionnalités les plus addictives.
J’aime bien le parallèle utilisé à la fin du film par un des participants : ce commerce de l’exploitation de l’attention humaine doit être stoppé, au même titre qu’on a aboli l’esclavage ou le commerce d’organe.
Je vous propose donc d’aller voir ce film sur Netflix, sans attendre que leurs algorithmes vous le suggèrent (ou pas en fonction de votre profilage).