Des chercheurs chinois affirment avoir mis au point une intelligence artificielle capable, selon eux, de lire dans l’esprit des membres du Parti communiste et de les rendre plus réceptifs à «l’éducation de la pensée».
Selon le quotidien britannique The Times, leur système de reconnaissance faciale peut déchiffrer les expressions du visage et les ondes cérébrales pour analyser le degré d’attention d’un membre à la «pensée politique» – afin de «renforcer sa confiance et sa détermination à être reconnaissant envers le parti, à écouter le parti et à suivre le parti».
Le gouvernement chinois l’a déjà expérimenté sur les Ouïghours dans des stations de police du Xinjiang pour détecter leurs émotions (la terreur?) ou encore dans un lycée de la ville de Hangzhou pour évaluer l’attention des élèves en classe.
Pour Hung Ching-fu, professeur de sciences politiques à l’université nationale Cheng Kung, dont les propos ont été recueillis par la station de radio américaine VOA, le parti communiste abuse des avancées technologiques pour servir ses propres intérêts politiques: «La Chine est passée de la reconnaissance faciale pour identifier des individus à une intelligence artificielle qui tente maintenant de lire dans leurs pensées».
Le risque d’une IA-tocratie
Selon une étude réalisée par des professeurs de MIT, London School of Economics, Stanford et Harvard, l’innovation dans les technologies de l’IA est encouragée en Chine pour développer une autocratie moderne – une soi-disant IA-tocratie – qui pourrait être exportée hors du pays et venir en aide à d’autres gouvernements répressifs.
Lire aussi :
La reconnaissance des émotions par l’IA, une pseudo-science?
Mais y a-t-il vraiment quelque chose à craindre? Les modèles d’IA capable de reconnaître les expressions faciales soulèvent de nombreuses questions et sont qualifiés de pseudo-science par un grand nombre d’experts. Souvenez-vous de l’annonce sur un algorithme capable de déceler l’orientation sexuelle d’une personne d’après ses expressions. Et celle qui suggérait qu’un prénom pouvait se deviner d’après les traits d’un visage.
Malgré un scepticisme ambiant, les annonces sur leur efficacité se multiplient aux Etats-Unis et en Chine – revendiquant des taux de réussite allant jusqu’à 72,4%. Il faut dire que le marché est juteux. Un secteur évalué à plusieurs milliards de dollars, la reconnaissance des émotions se déploie dans une multitude de domaines: de l’évaluation des candidats à l’emploi, aux études marketing, aux contrôles de sécurité dans les aéroports.
Le futuriste Tristan Green dans le journal The Next Web, n’y croit toujours pas: «Vous ne pouvez pas apprendre à une IA à identifier la sexualité, la politique, la religion, les émotions ou toute autre qualité non intrinsèque d’un être humain à partir de son visage. Par contre ce que vous pouvez faire, c’est un tour de passe-passe avec un algorithme prédictif dans l’espoir d’exploiter l’ignorance humaine».
Liens : The Times / VOA / The Next Web