Amazon et son intelligence artificielle très indiscrète

Faire voler un drone d’intérieur pour protéger votre maison, payer vos courses avec la paume de votre main et écouter avec un bracelet vos conversations pour vous aider à gérer vos émotions sont les trois nouveaux produits annoncés ces dernières semaines par Amazon. Leur point commun : ils collectent tous vos données très personnelles pour « nourrir » les algorithmes d’intelligence artificielle développés par le géant du e-commerce.

Un drone filme l’intérieur de notre maison

Probablement le produit le plus surprenant des trois. Amazon propose un drone équipé d’une caméra qui vole à l’intérieur de votre habitat lorsque vous êtes absent. Il vous permet d’aller observer tous les recoins de votre maison lorsque vous êtes en déplacement. En vous connectant avec votre téléphone, vous pouvez ainsi vérifier que vous n’avez pas laissé une fenêtre ouverte ou encore oublié de rentrer votre store.

La vidéo de promotion présente un cambrioleur qui entre dans votre maison et qui décide de repartir après s’être retrouvé en face de votre drone (pourtant il n’a pas l’air bien méchant, en tout cas il me fait beaucoup moins peur qu’un doberman). La proposition de valeur mise en avant : pour $249, plus besoin d’équiper toutes les pièces de votre maison d’une caméra.

Est-ce qu’on veut vraiment qu’Amazon scanne en permanence notre intérieur ? Que va-t-il se passer ensuite ? En même temps que notre drone surveille notre intérieur, il pourra par exemple aussi identifier que notre canapé est usé et Amazon nous proposera d’acheter un nouveau modèle en cuir rouge, sur la base de nos préférences (fournis par le profilage provenant de l’historique de nos commandes sur sa plateforme d’achat en ligne).

La paume de notre main comme moyen d’identification pour payer nos courses

Prochainement, les consommateurs qui rentreront dans un magasin Amazon Go pourront payer les courses en scannant la paume de leur main. Ce système analyse votre paume (la forme, les lignes et la configuration de vos veines) pour vous identifier. C’est une technique analogue à la technologie de reconnaissance faciale, basée sur l’utilisation de nos informations biométriques. L’ambition d’Amazon va au-delà du paiement. Cette solution pourrait également remplacer les tickets de concerts ou encore permettre de faire le check-in à l’aéroport.

Est-ce qu’on veut vraiment que la paume de notre main soit enregistrée dans le cloud/nuage d’Amazon ? Si Amazon est victime d’une cyberattaque et que nos données biométriques sont volées, cela devient très critique. On ne peut pas modifier la paume de la main comme on change un mot de passe ! Pour que ce service fonctionne, les données doivent être centralisées, ce qui est différent des solutions biométriques actuelles comme la reconnaissance faciale sur un iPhone. Apple n’enregistre (pour le moment) pas ces données, elles sont uniquement conservées localement sur le téléphone.

Un bracelet pour analyser notre voix et notre corps

Halo, c’est le petit nom donné à ce nouveau bracelet connecté (encore un !). Parmi les nombreuses fonctions, il est équipé de micros pour enregistrer vos conversations. Il vous informe ainsi sur le ton de votre voix lorsque vous communiquez avec d’autres personnes. Les algorithmes d’intelligence artificielle vous indiquent ensuite si vous êtes joyeux ou bouleversés…la petite voix qu’on a normalement dans notre tête provient maintenant de notre poignet. Le bracelet est également fourni avec une application qui scanne votre corps en 3D pour calculer votre masse graisseuse et ensuite vous aider à réduire votre surpoids. Pour vous motiver, l’application montre à quoi votre corps pourrait ressembler après quelques séances d’entrainements physiques.

Est-ce qu’on veut vraiment qu’Amazon mesure notre état physique et émotionnel ? Même si Amazon indique que tous les enregistrements et les photos sont effacés, il va quand même en connaître encore plus sur nous, notre personnalité et notre condition physique. Et si Amazon lance ensuite un produit d’assurance ou effectue un partenariat avec des assurances maladie, que va-t-il se passer ?

 Amazon nous connaîtra mieux que nous-même

Ces trois produits amènent une nouvelle dimension à la transition numérique : ils combinent les données de notre monde physique (dans ce cas notre habitat), nos informations biométriques et nos actions dans le monde digital. Avec ces nouveaux « Big data » combinés, les géants de la Tech vont nous connaîtrons mieux que nous. L’historien Yuval Harari avait déjà, il y a quelque temps, mis en garde contre cette évolution, avec un exemple très parlant : une entreprise comme Amazon pourra identifier qu’une personne est homosexuelle avant qu’elle le réalise elle-même…avec le risque que cette information tombe entre les mains de gouvernements totalitaires où cette orientation sexuelle est condamnée.

En attendant une éventuelle réaction plus globale du politique, il va falloir que chacun de nous, comme consommateur, analyse ces nouveaux produits de manière critique. Si l’on reprend l’exemple du paiement avec la paume de sa main : est-ce qu’il est souhaitable de créer un mot de passe qui fait partie de notre corps ? Les avantages sont-ils suffisamment grands par rapport au risque ? De nombreuses alternatives existent et fonctionnent très bien, comme le paiement sans contact par RFID proposé par les émetteurs de carte de crédit. Il est donc préférable de ne pas utiliser un tel système biométrique.

La crise sanitaire a rendu ces entreprises technologiques encore plus puissantes (Amazon annonçait fin juillet un bénéfice net de $5.2 milliards sur 3 mois, le double du profit sur la même période l’année dernière). Elles vont donc pouvoir nous « inonder » d’innovation, en se concentrant probablement sur nos données de santé, le nouvel eldorado pour accroître leur pouvoir. Il va donc falloir être prudent, ces nouveaux produits deviennent très intrusifs pour notre sphère privée.

Amazon Ring Always Home Cam :

Amazon One

Amazon Halo

Raphael Rollier

Raphael Rollier

Raphael Rollier est passionné par l’utilisation des technologies digitales pour améliorer la qualité de vie et permettre une croissance économique durable. Après avoir mis en œuvre un outil «Smart Data» destiné à l'amélioration du trafic routier, Raphael a rejoint swisstopo pour explorer et développer des innovations en lien avec les géodonnées. L'écosystème de start-up actives dans la valorisation des données peut aussi compter sur son soutien.

3 réponses à “Amazon et son intelligence artificielle très indiscrète

  1. Merci pour cet excellent texte, ça fait plaisir de vous lire !

    Bien qu’ils se multiplient, ces “innovations” apportent de moins en moins de bénéfices au consommateur final ni à la société.

    Bien loin de nous aider à relever les grands défis actuels, elles ne font qu’ajouter une couche supplémentaire d’équipement dont la rapide obsolence matérielle et logicielle est connue (plastique, batteries, mises à jour impossibles, etc). Le client réel de ces gadgets semble donc être le bénéficiaire de ces données.

    Il y a donc un grave déséquilibre entre la proposition de valeur pour nous tous et celle des autres acteurs de la chaîne de valeur. Ces produits devraient être gratuits voire donner droit à une rémunération de l’utilisateur pour le préjudice futur que lui causera cette perte de contrôle de son identité.

    Car je crains que l’usage aille bien au delà de la détection de votre environnement pour proposer des produits ou mieux cibler la publicité. Dans un monde où le commerce domine la société, il n’y a plus aucune distinction entre le commerce, la vie politique, la vie professionelle et la sphère privée.

    Les plus lucratifs acheteurs potentiels de ces données sensibles sont les companies d’assurance, les recruteurs, votre employeur, votre banque, le service de taxation, les partis politiques, etc.

    Le danger est alors que notre choix disparaîsse: cambriolage non convert par l’assurance sans le gadget “x”, préférence d’un employeur pour une promotion à celui qui utilisera un analyseur de voix “y”, etc.

    A moins que certains décident alors de mettre la totalité de leur vie privée en scène pour tromper les algorithmes perdant ainsi leur identité au profit d’un avatar numérique. C’est la mort numérique !

    Science fiction ? Paranoia ? Mhm, j’ai bien peur que la réalité ait déjà dépassé la fiction.

    Dans l’immédiat, le drône une fois piraté (car l’adoption de ces technologies ne va pas de pair avec l’éducation de leur utilisateur) pourra être utile aus cambrioleurs pour repérer les lieux… impossible ? Rendez-vous sur la page WEB des caméras privées dont le mot de passe par défaut n’a pas été modifié…

    Pour ma part, je renonce car ce n’est pas ma définition du progrès.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *