Amazon et son intelligence artificielle très indiscrète

Faire voler un drone d’intérieur pour protéger votre maison, payer vos courses avec la paume de votre main et écouter avec un bracelet vos conversations pour vous aider à gérer vos émotions sont les trois nouveaux produits annoncés ces dernières semaines par Amazon. Leur point commun : ils collectent tous vos données très personnelles pour « nourrir » les algorithmes d’intelligence artificielle développés par le géant du e-commerce.

Un drone filme l’intérieur de notre maison

Probablement le produit le plus surprenant des trois. Amazon propose un drone équipé d’une caméra qui vole à l’intérieur de votre habitat lorsque vous êtes absent. Il vous permet d’aller observer tous les recoins de votre maison lorsque vous êtes en déplacement. En vous connectant avec votre téléphone, vous pouvez ainsi vérifier que vous n’avez pas laissé une fenêtre ouverte ou encore oublié de rentrer votre store.

La vidéo de promotion présente un cambrioleur qui entre dans votre maison et qui décide de repartir après s’être retrouvé en face de votre drone (pourtant il n’a pas l’air bien méchant, en tout cas il me fait beaucoup moins peur qu’un doberman). La proposition de valeur mise en avant : pour $249, plus besoin d’équiper toutes les pièces de votre maison d’une caméra.

Est-ce qu’on veut vraiment qu’Amazon scanne en permanence notre intérieur ? Que va-t-il se passer ensuite ? En même temps que notre drone surveille notre intérieur, il pourra par exemple aussi identifier que notre canapé est usé et Amazon nous proposera d’acheter un nouveau modèle en cuir rouge, sur la base de nos préférences (fournis par le profilage provenant de l’historique de nos commandes sur sa plateforme d’achat en ligne).

La paume de notre main comme moyen d’identification pour payer nos courses

Prochainement, les consommateurs qui rentreront dans un magasin Amazon Go pourront payer les courses en scannant la paume de leur main. Ce système analyse votre paume (la forme, les lignes et la configuration de vos veines) pour vous identifier. C’est une technique analogue à la technologie de reconnaissance faciale, basée sur l’utilisation de nos informations biométriques. L’ambition d’Amazon va au-delà du paiement. Cette solution pourrait également remplacer les tickets de concerts ou encore permettre de faire le check-in à l’aéroport.

Est-ce qu’on veut vraiment que la paume de notre main soit enregistrée dans le cloud/nuage d’Amazon ? Si Amazon est victime d’une cyberattaque et que nos données biométriques sont volées, cela devient très critique. On ne peut pas modifier la paume de la main comme on change un mot de passe ! Pour que ce service fonctionne, les données doivent être centralisées, ce qui est différent des solutions biométriques actuelles comme la reconnaissance faciale sur un iPhone. Apple n’enregistre (pour le moment) pas ces données, elles sont uniquement conservées localement sur le téléphone.

Un bracelet pour analyser notre voix et notre corps

Halo, c’est le petit nom donné à ce nouveau bracelet connecté (encore un !). Parmi les nombreuses fonctions, il est équipé de micros pour enregistrer vos conversations. Il vous informe ainsi sur le ton de votre voix lorsque vous communiquez avec d’autres personnes. Les algorithmes d’intelligence artificielle vous indiquent ensuite si vous êtes joyeux ou bouleversés…la petite voix qu’on a normalement dans notre tête provient maintenant de notre poignet. Le bracelet est également fourni avec une application qui scanne votre corps en 3D pour calculer votre masse graisseuse et ensuite vous aider à réduire votre surpoids. Pour vous motiver, l’application montre à quoi votre corps pourrait ressembler après quelques séances d’entrainements physiques.

Est-ce qu’on veut vraiment qu’Amazon mesure notre état physique et émotionnel ? Même si Amazon indique que tous les enregistrements et les photos sont effacés, il va quand même en connaître encore plus sur nous, notre personnalité et notre condition physique. Et si Amazon lance ensuite un produit d’assurance ou effectue un partenariat avec des assurances maladie, que va-t-il se passer ?

 Amazon nous connaîtra mieux que nous-même

Ces trois produits amènent une nouvelle dimension à la transition numérique : ils combinent les données de notre monde physique (dans ce cas notre habitat), nos informations biométriques et nos actions dans le monde digital. Avec ces nouveaux « Big data » combinés, les géants de la Tech vont nous connaîtrons mieux que nous. L’historien Yuval Harari avait déjà, il y a quelque temps, mis en garde contre cette évolution, avec un exemple très parlant : une entreprise comme Amazon pourra identifier qu’une personne est homosexuelle avant qu’elle le réalise elle-même…avec le risque que cette information tombe entre les mains de gouvernements totalitaires où cette orientation sexuelle est condamnée.

En attendant une éventuelle réaction plus globale du politique, il va falloir que chacun de nous, comme consommateur, analyse ces nouveaux produits de manière critique. Si l’on reprend l’exemple du paiement avec la paume de sa main : est-ce qu’il est souhaitable de créer un mot de passe qui fait partie de notre corps ? Les avantages sont-ils suffisamment grands par rapport au risque ? De nombreuses alternatives existent et fonctionnent très bien, comme le paiement sans contact par RFID proposé par les émetteurs de carte de crédit. Il est donc préférable de ne pas utiliser un tel système biométrique.

La crise sanitaire a rendu ces entreprises technologiques encore plus puissantes (Amazon annonçait fin juillet un bénéfice net de $5.2 milliards sur 3 mois, le double du profit sur la même période l’année dernière). Elles vont donc pouvoir nous « inonder » d’innovation, en se concentrant probablement sur nos données de santé, le nouvel eldorado pour accroître leur pouvoir. Il va donc falloir être prudent, ces nouveaux produits deviennent très intrusifs pour notre sphère privée.

Amazon Ring Always Home Cam :

Amazon One

Amazon Halo

Pourra-t-on utiliser le traçage de nos téléphones mobiles pour une bonne cause ?

Eviter une deuxième vague de propagation du coronavirus, c’est le défi qui nous attend dans quelques semaines, lorsque nous allons sortir du confinement. Utiliser la géolocalisation de nos téléphones portables pourrait contribuer à contenir la diffusion du virus. Entre respect de la vie privée et utilisation de la technologie pour protéger le citoyen, l’équilibre est difficile à trouver. Y a-t-il quand même un moyen de bénéficier de ces nouveaux outils, en toute transparence et en laissant un contrôle au citoyen ?

L’exploitation des données de géolocalisation sur nos téléphones portables est devenue omniprésente, souvent sans que nous en soyons vraiment conscients. Ces données sont principalement utilisées dans deux objectifs : faire de l’argent et espionner. Les géants de l’internet utilisent nos données dans le but de générer des revenus publicitaires. Certaines entreprises et certains gouvernements les utilisent pour faire de l’espionnage industriel ou surveiller les citoyens.

En cette période de pandémie, plusieurs pays commencent à utiliser la géolocalisation pour combattre la diffusion du coronavirus. Par contre, les médias nous en donnent la plupart du temps une vision cauchemardesque, avec par exemple le cas de l’Etat d’Israël. Celui-ci accède aux données des opérateurs mobiles pour faire de la répression massive et violente auprès des personnes qui ne respectent pas le confinement (c’est en tout cas l’impression que l’on a lorsque l’on regarde les reportages).

Je souhaite apporter un éclairage et esquisser quelques pistes de solutions pour bénéficier de ces technologies.

Quel est l’objectif ?

Je voudrais d’abord distinguer deux approches fondamentalement différentes dans l’utilisation de ces technologies de géolocalisation.

L’approche « Je n’ai pas confiance en vous, j’impose des outils pour vous contrôler ou je collecte des informations sans vous demander votre autorisation » :

Certains pays utilisent la technologie dans le but de contrôler leurs citoyens et d’effectuer une répression en cas de non-respect des règles. Taïwan a mis en place une solution de geofencing : une alarme est envoyée lorsqu’une personne en quarantaine quitte un périmètre défini. La Pologne force les personnes mises en quarantaine à installer une application qu’ils doivent utiliser pour envoyer régulièrement des selfies géolocalisés afin de prouver qu’ils restent bien chez eux.

L’approche « Je vous mets à disposition des outils pour que vous puissiez mieux vous protéger » :

Dans ce cas, on suggère au citoyen d’installer une application qui va lui permettre de se protéger plus efficacement contre le virus. Singapour a lancé l’application TraceTogether. Elle communique par un signal Bluetooth avec les autres utilisateurs qui se trouvent autour de vous. Les données de géolocalisation sont encryptées et stockées uniquement sur votre téléphone. L’application vous permet ainsi de savoir si une personne proche de vous est infectée par le virus. Ayant installé l’application, j’ai obtenu l’indication suivante lors de la configuration : les autorités peuvent le cas échéant vous demander votre accord pour collecter certaines données dans le but de faire le suivi de la pandémie.

Quelles sont les solutions ?

Deux solutions sont possibles pour obtenir la géolocalisation des utilisateurs sur un smartphone :

Les opérateurs de téléphones mobiles peuvent obtenir les informations de géolocalisation sans obtenir votre consentement en identifiant l’antenne sur laquelle vous êtes connecté. Cette solution est peu précise car les antennes couvrent parfois plusieurs kilomètres. En développant des algorithmes sur la base de nos traces numériques, ils peuvent améliorer la précision et vous localiser à environ 30 à 50 m. En Europe, les opérateurs effectuent ces analyses sur la base de données anonymisées. En Suisse, Swisscom vous permet de désactiver la collecte et l’utilisation de ces géodonnées directement sur son portail client. Cependant, on n’est pas à l’abri d’une modification rapide du cadre légal. Depuis mars, l’Etat d’Israël peut accéder aux données non anonymisées des opérateurs téléphoniques du pays.

La deuxième solution consiste à installer une application sur votre téléphone (via Apple Store ou Google Play). Pour avoir accès aux données de géolocalisation, il faut obtenir le consentement de l’utilisateur. Une fois l’autorisation obtenue, l’application accède directement à votre position, produite par le GPS intégré dans tous les smartphones. On peut ainsi vous localiser avec une précision de quelques mètres. C’est la solution utilisée par « TraceTogether » que je mentionnais précédemment. Google et Facebook collectent également des milliards de données de géolocalisation en vous demandant d’autoriser l’accès au GPS lorsque vous installez GoogleMap ou WhatsApp.

Pourquoi le traçage de nos téléphones est utile ?

Le confinement permet de réduire massivement le nombre de contaminations. La vague passée, si nous reprenons nos habitudes, il est probable qu’une nouvelle vague surviendra. Pour l’empêcher, il faudra systématiquement détecter les personnes affectées et les mettre en quarantaine. Il est également nécessaire d’identifier toutes les personnes qui ont été en contact avec un malade pour les mettre également en confinement. Cette transition après la période de confinement est notamment bien expliquée dans l’émission CQFD sur la radio RTS.

Dans un tel scénario, l’utilisation de nos téléphones portables me semble extrêmement utile pour reconstruire nos déplacements et rapidement identifier toutes les personnes avec lesquelles nous avons été en contact dernièrement.

Quelle solution de mise en œuvre « à la Suisse » ?

Les effets du confinement devraient permettre de réduire prochainement la courbe des infections, il est donc temps d’anticiper la suite. Pourquoi ne pas mettre à disposition une application « PrévenirUneNouvelleVague » ?

Dans la même logique actuelle d’une population responsable qui suit les recommandations édictées par le gouvernement, le Conseil fédéral pourrait demander à tous les citoyens d’installer une telle application sur une base volontaire. Comme le temps presse, pourquoi ne pas capitaliser sur une base existante telle que l’application Alertswiss ? Cette application permet déjà d’accéder à vos données de géolocalisation si vous en donnez l’autorisation. Elle collecte ainsi des informations précises sur vos déplacements.

En complément, il faudrait constituer une task force composée des meilleurs data scientists qui se trouvent dans nos universités pour transformer ces données en un outil de pilotage pour nos autorités. Le projet serait mis sous la surveillance du Préposé fédéral à la protection des données, qui s’assurera que les informations collectées soient traitées dans les règles de l’art et qu’elles soient ensuite effacées lorsque la crise sera terminée.

Au-delà des dérives possibles, les opposants à ces technologies craignent que ces solutions de traçages ne deviennent la norme. Avec une telle solution, une fois l’épidémie passée, vous pourrez désactiver la géolocalisation d’Alertswiss ou même supprimer complètement l’application. Le citoyen continue d’avoir le contrôle sur ses données et décide avec qui il souhaite les partager.

Big Data, Big Impact ?

La frontière entre une utilisation de ces technologies pour le bien public et une utilisation pour effectuer de la surveillance et réduire nos droits à la vie privés est étroite. Le pragmatisme et la bonne gouvernance de la Suisse devraient permettre de mettre en place une solution adaptée. Ces « Big data » collectées avec l’application Alertswiss pourraient nous permettre de sortir plus rapidement de cette crise, il serait dommage de s’en priver. Qu’en pensez-vous ?