En Chine, une IA évalue la loyauté des membres du Parti

Des chercheurs chinois affirment avoir mis au point une intelligence artificielle capable, selon eux, de lire dans l’esprit des membres du Parti communiste et de les rendre plus réceptifs à «l’éducation de la pensée».

Selon le quotidien britannique The Times, leur système de reconnaissance faciale peut déchiffrer les expressions du visage et les ondes cérébrales pour analyser le degré d’attention d’un membre à la «pensée politique» – afin de «renforcer sa confiance et sa détermination à être reconnaissant envers le parti, à écouter le parti et à suivre le parti».

Le gouvernement chinois l’a déjà expérimenté sur les Ouïghours dans des stations de police du Xinjiang pour détecter leurs émotions (la terreur?) ou encore dans un lycée de la ville de Hangzhou pour évaluer l’attention des élèves en classe.

Pour Hung Ching-fu, professeur de sciences politiques à l’université nationale Cheng Kung, dont les propos ont été recueillis par la station de radio américaine VOA, le parti communiste abuse des avancées technologiques pour servir ses propres intérêts politiques: «La Chine est passée de la reconnaissance faciale pour identifier des individus à une intelligence artificielle qui tente maintenant de lire dans leurs pensées».

Le risque d’une IA-tocratie

Selon une étude réalisée par des professeurs de MIT, London School of Economics, Stanford et Harvard, l’innovation dans les technologies de l’IA est encouragée en Chine pour développer une autocratie moderne – une soi-disant IA-tocratie – qui pourrait être exportée hors du pays et venir en aide à d’autres gouvernements répressifs.

Lire aussi :
La reconnaissance des émotions par l’IA, une pseudo-science?

Mais y a-t-il vraiment quelque chose à craindre? Les modèles d’IA capable de reconnaître les expressions faciales soulèvent de nombreuses questions et sont qualifiés de pseudo-science par un grand nombre d’experts. Souvenez-vous de l’annonce sur un algorithme capable de déceler l’orientation sexuelle d’une personne d’après ses expressions. Et celle qui suggérait qu’un prénom pouvait se deviner d’après les traits d’un visage.

Malgré un scepticisme ambiant, les annonces sur leur efficacité se multiplient aux Etats-Unis et en Chine – revendiquant des taux de réussite allant jusqu’à 72,4%. Il faut dire que le marché est juteux. Un secteur évalué à plusieurs milliards de dollars, la reconnaissance des émotions se déploie dans une multitude de domaines: de l’évaluation des candidats à l’emploi, aux études marketing, aux contrôles de sécurité dans les aéroports.

Le futuriste Tristan Green dans le journal The Next Web, n’y croit toujours pas: «Vous ne pouvez pas apprendre à une IA à identifier la sexualité, la politique, la religion, les émotions ou toute autre qualité non intrinsèque d’un être humain à partir de son visage. Par contre ce que vous pouvez faire, c’est un tour de passe-passe avec un algorithme prédictif dans l’espoir d’exploiter l’ignorance humaine».

Liens : The Times / VOA / The Next Web

 

Emily Turrettini

De nationalité américaine et suisse, Emily Turrettini publie une revue de presse sur l'actualité Internet depuis 1996 et se passionne pour les nouvelles tendances.

6 réponses à “En Chine, une IA évalue la loyauté des membres du Parti

  1. Je suis sceptique, je n’y crois pas du tout, mais en
    donnant plus d’importance sur les capacités de l’IA qu’en réalité , le fait d’y croire peut orienter le comportement comme le souhaite le parti.
    Il y a bien des essais qui captent les ondes cérébrales, mais il n’y a rien de probant, c’est limité.
    Les dirigeants chinois souhaitent certes avoir un contrôle total de la population, mais c’est encore plus le cas envers le sommet de la pyramide du pouvoir où les ambitions sont fortes. Donc la priorité de contrôler, est moins celle de la population que les membres du parti situés dans la sphère du pouvoir. Que ce soit en Chine ou en Russie, tout en haut, la schizophrénie règne, et les effets sont les purges, assassinats, disparitions et pseudo suicide.

    Pour le moment, cette annonce ne fait que rajouter de la schizophrénie dans les hautes sphères, c’est peut-être le but recherché. Pour la population, ça ne change rien, plus que le parti, ce sont les voisins qui épient.

    1. Toujours garder en tête la loi de Gabor :

      « C’est sa propre vitesse qui fait progresser la technique et ceci pour deux raisons : la première est qu’il faut entretenir les industries traditionnelles. La seconde n’est autre que la loi fondamentale de la société technicienne : “ce qui peut être fait techniquement le sera nécessairement”. C’est ainsi que le progrès applique de nouvelles techniques et crée de nouvelles industries sans chercher à savoir si elles sont ou non souhaitables. »

      Les progrès dans les domaines de l’IA sont fulgurants, malgré certaines errances, et pourraient nous surprendre tous. En bien ou en mal.

  2. Absence de démocratie, cela signifie que les gens ne peuvent pas exprimer leur avis personnel. Comment savoir ce que pensent des personnes qui ne peuvent revendiquer ou cachent le fond de leur pensée? Dès lors, les dirigeants vivent dans l’inquiétude: y a-t-il des individus plus intelligents que moi? Y a-t-il des idées efficaces auxquelles je n’ai pas pensé et qui donnerait du pouvoir à mes adversaires? Ai-je des ennemis que je ne connais pas? etc… Le système dont vous parlez serait le remède s’il était d’une absolue efficacité. Mais, avec le temps, certains trouveront comment échapper à ce contrôle. Dans un autre ordre d’idée, je me souviens d’une photo où des étudiants portaient des électrodes sur le crâne avec une lumière s’allumant s’ils ne suivaient pas. Ils finiront bien par atteindre l’absurde.

Les commentaires sont clos.