Sainte IA qui êtes aux Cieux…

« Selon Google, l’intelligence artificielle résoudra les problèmes de l’humanité » : ce titre est celui donné par Anouch Seydtaghia à un article paru, le 28 janvier 2019, dans Le Temps, à la suite des « Applied Machine Learning Days », organisés par l’EPFL. Ce titre, je pense ne pas être le seul à penser ça, m’interpelle dans ce qu’il présuppose ou, plutôt, dans ce que présuppose la position de Jeff Dean, responsable de l’intelligence artificielle (IA) chez Google, qui a donné une conférence lors de ces journées spéciales. En effet, cette position, qui a tous les atours d’un slogan-choc, est ambiguë et ce, sur deux plans :

 

D’une part, la position de Dean laisse entendre que l’IA, en tant qu’entité autonome, pourrait résoudre ce que nous, êtres pauvrement intelligents, ne sommes pas en mesure de résoudre : l’homme aurait trouvé son sauveur qui, pour une fois, ne descend pas du Ciel mais a été fabriqué par les ingénieurs du monde entier, ceux de Google en particulier. Ce qui me dérange, ici, c’est que, une fois de plus, l’être humain est rabaissé dans ses compétences : il a détruit la planète (les serveurs de Google sont refroidis comment déjà ?), il continue à le faire sans vergogne (cf. les propos absurdes entendus dernièrement pour dénigrer – ou relativiser – la mobilisation des étudiants pour le climat : une belle manière de se donner bonne conscience ou pour dire que « nous », contrairement à « eux », on sait comment se comporter pour sauver la planète), alors heureusement que l’IA veille et nous sauvera de nos égarements… « Sainte IA qui êtes au Cieux, que ton nom… ». Bref. On entend trop souvent ce genre d’inepties ; cela ne choque-t-il que moi ? Ne trouvez-vous pas blessant cette manière subtile de nous déresponsabiliser ? L’humain est-il vraiment trop limité, si peu intelligent (on parle quand même de l’intelligence artificielle) pour prendre en charge son destin – et son Salut ? Selon Google, il lui faut l’IA – en particulier celle créée par les ingénieurs de la multinationale –, purement rationnelle, pour arriver à cette fin…

 

D’autre part, et cela me frappe encore plus, il est étonnant de voir comment Google, en tant qu’entreprise qui contribue aux progrès de l’IA tout en confiant à cette même IA le soin de nous bercer de publicités ciblées (après avoir récoltées nos données, of course), croit – le mot est bien choisi – aux pouvoirs de l’IA et, par là même, redore son image en tant que société bienveillante. Dean vante les bienfaits des GoogleCars « plus sûres que les véhicules conduits par des humains car capables de voir et d’analyser en permanence les alentours » (dévalorisation, bis), de TensorFlow, un logiciel créé par Google, et, plus généralement, semble avoir fait sien le slogan bien connu de la société ayant donné sa première lettre à l’acronyme GAFA : « Make the world a better place ». Autrement dit, et pour résumer, Jeff Dean nous parle de ses espoirs dans l’IA – j’aurais préféré que les représentants des multinationales du numérique expriment leur confiance en l’humain –, mais le fait-il parce qu’il y croit ou parce qu’il contribue à construire, comme tant d’autres conférences de ce type, une stratégie de marketing qui fait de la société Google une entreprise bienveillante à qui on peut faire confiance… aveuglement (je renvoie le lecteur intéressé à l’excellent ouvrage de Jean-Gabriel Ganascia, Le Mythe de la Singularité, 2017) ? On nous déresponsabilise et on bâtit une position qui creuse encore davantage cette veine ? Non, Monsieur Dean (ou Google, c’est la même chose), l’IA ne résoudra aucun des problèmes de l’humanité : l’homme le fera s’il le souhaite. Et pour qu’il le désire, peut-être peut-on commencer à lui redonner son pouvoir et à croire en lui, non ?

Marc Atallah

Marc Atallah

Marc Atallah est le Directeur de la Maison d'Ailleurs, musée de la science-fiction, de l'utopie et des voyages extraordinaires à Yverdon-les-Bains, et Maître d'enseignement et de recherche à l'Université de Lausanne. Il vient ici nous parler des frontières de plus en plus floues entre science et fiction.

3 réponses à “Sainte IA qui êtes aux Cieux…

  1. Google devrait commencer par rendre son moteur de recherche plus intelligent au lieu de nous saturer de liens inadéquats.
    Il est un fait indéniable est que les algorithmes et autres outils informatiques pour développer l’IA est inventé par des cerveaux naturels.
    Je ne sais pas comment on pourra simuler l’intuition chez le robot parce que cette faculté est difficile à mettre en équation !
    Toujours est-il que la créativité humaine et l’IA peuvent se compléter sans avoir besoin de nier l’une ou l’autre.

  2. A l’instar des “jeunes pour sauver leur futur” et les commentaires y ayant fusé, la problématique est le fossé gigantesque et croissant entre les GAFAMs et le reste.
    Quel politique pourra mettre en question Google proposant de créer 5’000 emplois à Zürich?

    Le fossé des chiffres d’affaire des toutes grandes compagnies, qu’elles soient énergétiques ou autres matières premières (d’ailleurs dans quelle catégorie situer Google?) est colossal, face bientôt à une majorité de PIB des pays.

    Donc l’humain ou la démocratie, qu’ils soit jeunes, vieux, de quelque partie de la planète n’a plus aucun poids dans tout ça et on n’a pas encore tout vu de la Chine et de … l’Inde.
    Et l’UN, comme l’EU sont à l’agonie, en partie pour les mêmes raisons.

    Quel politique a une vision claire des new techs (hors les jetons de lobbyiste)?
    Et on voit bien que l’on ressasse toujours les mêmes schémas obsolètes des “trente glorieuses”, sans aucune vision du monde dans lequel on vit, comme les “fameux” trois pouvoirs!

  3. Veuillez excuser mon français.
    Je ne pense pas que nous devrions blâmer des techniciens comme Jeff Dean de l’équipe d’IA de Google. Il s’agit simplement de personnes curieuses qui aiment résoudre des problèmes qu’on leur a donnés, ou qui pensent avoir trouvé des problèmes à résoudre, mais qui, en tant que techniciens et employés, sont à peine capables ou n’aiment pas juger si les problèmes sont réels ou s’ils doivent être résolus.
    Blâmer les chefs et les actionnaires qui devraient être tenus responsables d’évaluer si un problème est réel ou artificiel, et d’évaluer le besoin et toutes les conséquences humaines de la résolution des problèmes.
    Blâmer les politiciens d’exiger et de mettre en œuvre des solutions sans évaluer sérieusement leurs besoins et leurs conséquences, ou pire, de pervertir leur utilisation.
    Il serait donc bon pour l’humanité que les techniciens travaillent sur une solution d’IA qui jugera les évaluations des chefs, des actionnaires et des politiciens.
    L’original en anglais :
    I do not think we should blame technicians like Jeff Dean of Google’s AI team. They are simply curious people who like to solve problems they have been given, or think they have found problems to solve, but being technicians and employees are hardly able or do not like to judge whether the problems are real or whether they need to be solved.
    Blame the chiefs and shareholders who should be held responsible for evaluating whether a problem is real or artificial, and evaluating the need and all the human consequences of solving problems.
    Blame the politicians for demanding and implementing solutions without seriously evaluating their need and consequences, or worse, perverting their use.
    Therefore, it will be good for humanity if the technicians work on an AI solution that will judge the evaluations of the chiefs and shareholders and politicians.
    Merci.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *