Faire face à l’illusion d’un numérique salvateur

Épisode 1

La fin de la naïveté

La technologie n’est pas neutre

La technologie est un instrument du pouvoir pour ceux qui la maitrisent. Il serait naïf de continuer à croire que seuls les bons ou les mauvais usages qui peuvent en être faits sont du ressort des utilisateurs et de leur éthique. En effet, depuis Prométhée dont le mythe rappelle qu’il dérobe le feu à Zeus pour le donner aux hommes, nous savons que « Toute innovation technique est à double face selon le changement qu’elle opère dans la distribution et l’exercice du pouvoir, elle enlève le pouvoir à certains pour le donner à d’autres, en changeant la réalité pour tous » [1].

C’est à la lumière de l’exercice du pouvoir et de l’expression de la puissance des acteurs qui imposent les technologies, qu’il est nécessaire de lire les conséquences de l’adoption de nouveaux usages numériques. Cela sans occulter les usages abusifs, détournés, criminels, terroristes et conflictuels qui peuvent en découler [2].

Le pouvoir numérique est dans les mains de ceux qui conçoivent, commercialisent, mettent en œuvre, gèrent, les infrastructures numériques, dans les mains de ceux en mesure de les pirater, de les saboter et de les cyberattaquer [3] rarement dans les mains des utilisateurs.

Un triple mensonge ontologique

L’adoption de nouveaux usages numériques s’est bâtie sur un triple mensonge :

  • Celui de la gratuité. Les utilisateurs payent avec leurs données. L’économie du numérique est bâtie sur l’exploitation des données collectées gratuitement et non sur leur protection.
  • Celui de l’illusion de liberté. Il ne peut s’agir de liberté lorsqu’il y a dépendance au numérique et à ses fournisseurs pour vivre tenu en laisse électronique et sous surveillance informatisée.
  • Celui faisant croire que l’évolution technologique est une évolution naturelle inéluctable. L’idéologie numérique n’est pas le résultat d’une évolution de la nature, elle reflète les affrontements économiques, politiques et les enjeux de rivalité de ceux qui imposent les modèles économiques et les usages numériques.

Le numérique porte une vision du monde, tels que promus par les géants de la Tech, qu’ils soient d’origine américaine ou chinoise, qu’elle est la notre ?

Les technologies sont le fruit d’une vision politique et économique. Elles modifient profondément la manière de vivre aux niveaux individuel et collectif dans les sphères privées, professionnelles et publiques, avec des répercutions sociétales et géopolitiques à l’échelle nationale et internationale.

Sortir de l’hypnose d’un numérique « Salvator mundi »

Il est temps de sortir de la croyance qui prétend que la technologie peut répondre à tous les problèmes politiques, économiques, sociaux ou environnementaux.

Il est temps de ne plus croire que notre existence, notre bien-être et notre sécurité dépendent uniquement du numérique.

Il est temps de comprendre les enjeux de puissance et de rivalité des acteurs du numérique pour trouver des alternatives crédibles à la fuite en avant du tout numérique, à la course à l’armement technologique et à la soumission généralisée qui consiste à être inféodé à l’industrie du numérique et à ses acteurs hégémoniques [4]. Ces derniers, dont l’unique objectif est de générer des profits, savent promouvoir leurs intérêts en passant aussi par des influenceurs et des acteurs locaux, le plus souvent juges et parties, dont les principales contributions sont de rassurer la population, de favoriser la fabrique de la servitude volontaire [5] et celle du consentement non éclairé.

Notes

[1] « Technocivilisation pour une philosophie du numérique », R. Berger, S. Ghernaouti, EPFL Press, 2010.

[2] « Cyberpower, crime, conflicts & securtiy in cyberspace » S. Ghernaouti, EPFL Press, 2013.

[3]  « La cybercrimnalité, les nouvelles armes du pouvoir » S. Ghernaouti, EPFL Press, 2017 (Prix 2018 du livre du Forum International de la Cybersécurité).

[4] « Techno-féodalisme, critique de l’économie numérique », C. Durand, Editions Zones, 2020.

[5] « La nouvelle servitude volontaire. Enquête sur le projet politique de la Silicon Valley. P. Vion-Dury. Editions Fyp, 2016.

Solange Ghernaouti

Docteur en informatique, la professeure Solange Ghernaouti dirige le Swiss Cybersecurity Advisory & Research Group (UNIL) est pionnière de l’interdisciplinarité de la sécurité numérique, experte internationale en cybersécurité et cyberdéfense. Auteure de nombreux livres et publications, elle est membre de l’Académie suisse des sciences techniques, de la Commission suisse de l’Unesco, Chevalier de la Légion d'honneur. Médaille d'or du Progrès

8 réponses à “Faire face à l’illusion d’un numérique salvateur

  1. Petit commentaire:
    Je ne crois pas que l’unique objectif du géants du Net soit de générer des profits. Ils génèrent aussi du pouvoir et fournissent notamment de l’information aux États, aux entreprises, aux services de renseignements, aux médias, etc.
    Ces entreprises sont devenues des acteurs stratégiques pour la politique et la géopolitique actuelle et ses rapports de pouvoir.
    Ainsi, même si le profit est réel et participe à tout cet écosystème, les objectifs sont autant stratégiques, militaires que simplement commerciaux.
    Et cela explique à mes yeux pourquoi l’Etat nous défend si peu face à ce type d’acteurs, même lorsqu’ils deviennent en quelque sorte toxiques. Il y a une forme de collusion, car l’Etat est friand de ces services et profite de l’illusion de sécurité et de contrôle que permettent ces entreprises technologiques.
    Sans le soutien des Etats, ces entreprises ne seraient donc pas devenues ce qu’elles sont.
    Donc, que les simples citoyens et citoyennes en prennent conscience est une nécessité, et en ce sens, votre blog est très utile… Merci!

  2. Quelques réflexions sur le triple mensonge:

    * Celui de la gratuité. Rester scotché à son smartPhone, sur son portable ou son PC et y disséminer tous ses biais personnels ne va en effet pas faire hésiter les prédateurs du Web à se les approprier et à en tirer profit. Mais qui est obligé(e) de se confesser sur le réseau des réseaux? Richard Stallman, fondateur du système d’exploitation Gnu Linux en 1983, dit n’avoir pas de portable, n’en avoir jamais eu et assure qu’il n’en aura jamais. Avec Linus Thorvald, qui crée en 1991 le noyau Linux, associé avec Gnu, le premier système d’exploitation gratuit et libre est ainsi créé. Alors, qui est le plus libre – Linux ou Windows?

    Le code source d’abord: celui de Linux, gratuit et disponible à tous, peut être modifié selon les besoins. Celui de Windows est commercial et ne donne pas accès à son code source. La sécurité ensuite: Linux peut détecter les bogues et les corriger plus facilement. Windows peut être facilement attaqué par des pirates. A cet égard, le “hacking”” dont il existe aussi une variété dite “éthique”, celle des “White Hats”, est une véritable école de programmation. Aujourd’hui, le “hacking” est même enseigné à l’université, en particulier avec la version Kali de Linux, conçue pour les professionnels de la sécurité.

    Les performances enfin: Linux s’exécute rapidement, peu importe le type de matériel, tandis que Windows s’exécute lentement, en particulier avec du matériel plus ancien. Il faut près de trois quarts d’heure pour installer Windows 11 sur un amd64 neuf et moins d’un quart d’heure pour les versions Ubuntu, Arch ou Armbian de Linux.

    Tandis que Linux n’occupait encore qu’un modeste 5% du marché quelques années plus tôt, se version bureau (“desktop”) en constante amélioration rivalise toujours plus avec Windows, qui continue pourtant à dominer le marché. Moralité: les gens préfèrent la servitude à la liberté, ce qui nous amène à votre second mensonge:

    * La liberté: en effet, fournir ses données à un système commercial dont on ne maîtrise pas le code source est le gage le plus sûr de s’y asservir. C’est ni plus, ni moins livrer son âme au Diable. Or, le logiciel libre est à la portée de tous, encore faut-il vouloir se l’approprier. Il s’agit alors d’une question d’éducation: si Linux est gratuit et libre, cette liberté ne s’acquiert qu’au prix d’un apprentissage qui ne va pas de soi. On ne devient pas expert en codage Linux, on ne compile pas son propre noyau du jour au lendemain. Quiconque s’y est essayé avec la version “Linux From Scratch” a pu s’en rendre vite compte.

    Faut-il pour autant renoncer à apprendre à coder? Si les écoles consacraient au moins autant de temps à l’apprentissage du logiciel libre qu’à investir dans des logiciels coùteux et au code source inutilisable, non seulement le porte-monnaie du contribuable ne s’en porterait que mieux mais les élèves auraient enfin une chance d’apprendre l’informatique sur des bases sérieuses. Encore faut-il que les responsables de l’éducation soient à la hauteur de l’enjeu. Mais tant que l’école publique restera le champ de bataille des idéologies, il y a peu de chances pour voir un progrès quelconque sur ce terrain-là. Ce qui nous conduit au troisième mensone, sans doute le plus important des trois:

    * L’idéologie: oui, vous avez raison de rappeler que faire croire que “l’évolution technologique est une évolution naturelle inéluctable” est un leurre, que “L’idéologie numérique n’est pas le résultat d’une évolution de la nature, [mais qu’]elle reflète les affrontements économiques, politiques et les enjeux de rivalité de ceux qui imposent les modèles économiques et les usages numériques.” D’où cette question: Si Windows et les GAFAM incarnent l’impérialisme capitaliste, Linux et le logiciel libre (“open source”) en seraient-ils le reflet inverse, celui d’une sorte de communautarisme du logiciel libre, aux règles et à la déontologie bien établies, qui ne rendrait alors le mot “libre” que d’autant plus illusoire? Il n’y a encore pas si longtemps, le dernier PDG de Microsoft ne manquait pas de dénoncer Linux comme “communiste”. Aujourd’hui, il ne cesse de répéter à qui veut l’entendre: “I love Linux”.

    De fait, les GAFAM, avec Amazon AWS et Microsoft en tête, s’approprient sans vergogne les travaux des développeurs Linux, qui sont dans leur grande majorité bénévoles et se voient ainsi voler le fruit de leurs efforts. Pourtant, les communautés du logiciel libre ne cessent de croître sans que leurs membres aient l’impression de subir un quelconque “diktat” de la part de leurs promoteurs, comme chacun peut en faire l’expérience en participant à un forum de son choix. Sans défense face aux prédateurs du Web, le monde du logiciel libre manquerait-il alors de cadre idéologique?

    Pardonnez-moi ce commentaire un peu long – n’hésitez pas à l’abréger au besoin – mais il me semblait que cette dernière question devait être posée.

    Cordialement,
    FT

    1. Il ne vous aura pas échappé qu’une infirmière soigne, qu’un maçon maçonne ou qu’un comptable fait de la comptabilité. Aucun d’entre eux n’a le ni temps ni l’envie ni l’intérêt pour se mettre à programmer ou à coder.

      D’autre part le logiciel libre est libre pour tout le monde. Y compris pour les hackers mal intentionnés. Il n’y a pas que le code source qui soit « open ». C’est le principe du « renard libre dans le poulailler libre ».

      Que l’on soit pieds et poings liés aux GAFAM ou aux geeks en mal de notoriétés cela ne fait au final guère de différence, la technologie envahissant la vie de tout le monde, souvent au détriment de l’efficacité ou de la productivité. Sans parler de la vie privée réduite à … rien.

      La contre-culture américaine et les libertaires des années 70 ont voulu inventer une technologie qui libérerait l’Homme de la servitude pensaient-ils. Ils ont non seulement échoué, mais ils ont provoqué un mouvement exactement contraire.

      Les chemins de l’enfer …

      1. …sont pavés de bonnes intentions… souvent mal programmées, c’est vrai.

        J’ai le plus grand respect pour les infirmières, les maçons et les comptables, mais serais bien incapable de dire quels sont leurs liens avec la programmation et nul ne les oblige d’ailleurs à en avoir ni même à s’y intéresser, en effet. Pourtant, j’en connais peu qui peuvent encore se passer sinon de coder, du moins d’une tablette ou d’un portable dans leur travail.

        Pour en revenir au sujet du blog, ce qui est certain c’est que si nous ne nous intéressons pas au codage (ou à la programmation), d’autres s’y intéressent et pas “per forza” à notre avantage, comme le constatent celles et ceux qui, comme vous le relevez, se laissent envahir jusque dans leur sphère privée par des technologies qu’ils ne maîtrisent pas. Car comme le souligne Madame Ghernaouti, c’est celui qui maîtrise le code qui contrôle autrui, et non l’inverse.

        “Cybernétique”, quand ce mot était encore en vogue, vient du grec “kuperneïn” qui veut dire gouverner. Le codage, comme le langage est en effet un instrument du pouvoir, pour le meilleur et pour le pire. Les démagogues, en particulier ceux des GAFAM, l’ont bien compris. Si nous ne nous y intéressons pas, quoi d’étonnant alors s’ils nous imposent leur diktat?

        Mais ce n’est pas en vouant le codage (ou la programmation) aux gémonies qu’on s’en affranchira. C’est au contraire en essayant de comprendre son fonctionnement qu’on peut se l’approprier, comme un scientifique commence par obéir à la nature avant de pouvoir lui commander. Les outils commerciaux ne le permettent pas, le logiciel libre oui.

        Ce que je reproche à l’instruction publique et à d’autres institutions, c’est de trop se fier aux outils commerciaux et de ne pas consentir l’effort minimal – par paresse ou ignorance – nécessaire pour apprendre à maîtriser ces outils, avec les retombées que leur incompétence a sur les deniers publics. N’en voit-on pas un exemple édifiant avec les arguties stériles menées autour de l’adoption d’Office 365 (plutôt que du logiciel libre) par les services de la Confédération, ces jours-ci?

        D’autre part, la programmation est une activité créative au même titre que l’écriture, la musique, la peinture ou les autres arts. Les écrivains, les musiciens, les peintres et bien d’autres artistes encore savent tirer parti des possibilités que leur offre la maîtrise d’un langage de programmation. Les expérimentations de l’OULIPO (OUvroir de LIttérature POtentielle) et de l’hypertexte en littérature, de la musique sérielle en musique (Xenakis, Schönberg, Vangelis, Boulez, Stravinski, Stockhausen) sont-elles autre chose que de la programmation?

        1. « C’est au contraire en essayant de comprendre son fonctionnement qu’on peut se l’approprier »

          Je pense que c’est une illusion pour deux raisons.

          La première est que la plupart des gens n’ont ni le temps ni les connaissances nécessaires pour « s’approprier » quelque technologie que ce soit. Quand vous allez chez le médecin, je doute que vous soyez en position de remettre en cause une ordonnance pour la simple raison que vous ne connaissez pas les subtilités de la pharmacopée et des interactions potentielles entre les médicaments (les médecins eux-mêmes l’ignorent parfois). Vous êtes contraint de vous en remettre à des spécialistes qui, on l’espère, ont acquis les compétences nécessaires lors de leurs (longues) études et de leur pratique. Ça n’est pas votre métier et même si vous lisez quelques pages de vulgarisation sur Internet vous vous rendez rapidement compte que vous ne maîtrisez pas grand-chose quand vous commencez à entrer dans les détails.

          La deuxième est que l’arrivée des technologies de l’IA rend la maîtrise du code plus incertaine de l’aveu même des programmeurs puisque, de par leur conception, les programmes sont capables de se modifier eux-mêmes selon l’évolution de leur « savoir ». Les ingénieurs ont créé une technologie qui est justement conçue pour qu’ils se la … désapproprient.

          « la programmation est une activité créative au même titre que l’écriture, la musique, la peinture ou les autres arts »

          C’est la grande question : le luthier ou le programmeur sont-ils des artisans ou des artistes ? En ce qui concerne les programmeurs, je pense que cela dépend de la finalité de leur travail.

          Certes des tentatives ont été faites par Boulez ou Xenakis pour intégrer les programmeurs et la technologie à l’orchestre ou durant le processus de composition. Même si l’IRCAM ou le M.I.T. continuent parfois à explorer ces domaines, les expériences, bien que fort intéressantes, restent toutefois très confidentielles.

          Je suis d’autant plus sensible à ces questions que cela fait plus de 40 ans que je fais de la musique électronique en amateur. J’ai abandonné l’utilisation de l’informatique qui prenait trop de temps de maintenance sur le temps de création (déjà bien assez entamé par mon travail salarié). Je rencontrais alors le même problème que beaucoup de professionnels qui se plaignent du temps qu’ils passent derrière un écran plutôt que de se consacrer à leur métier. Je passais plus de temps à tenir en équilibre des programmes de création musicale qu’à faire de la musique. L’outil devenait une fin en soi.

          Je suis revenu au hardware et aux modules (dont certains ont un cœur numérique d’ailleurs) qui me libèrent de l’informatique et de ses contraintes. L’instrument redevient ce qu’il ne devrait jamais cesser d’être : un prolongement de la main(voire site malibuinterface(point)bandcamp(point)com).

          J’ai également fait développer par un ingénieur, il y a 20 ans dans le cadre de son travail de diplôme, un programme qui permet de contrôler le mouvement du son dans l’espace 3D (son binaural). Voici une petite vidéo dans laquelle je tente de l’utiliser en direct (pas de montage et une post-production minimale). A écouter de préférence avec des écouteurs.

          Ce jeune ingénieur ou les fabricants des modules musicaux sont-ils des artisans ou des artistes ?

          1. “…la plupart des gens n’ont ni le temps ni les connaissances nécessaires pour « s’approprier » quelque technologie que ce soit.”

            C’est vrai, et d’ailleurs qui le leur demande? Les programmeurs ne sont-ils pas là pour décharger les autres de tâches par trop rébarbatives, répétitives ou complexes?

            La question que pose Madame Ghernaouti dans son article est d’un tout autre ordre, d’une importance fondamentale, à mon avis: savoir dans quelle mesure le numérique, à la fois instrument de libération mais aussi de coercition, et donc de pouvoir, fait illusion.

            Permettez-moi d’évoquer ici mon expérience de journaliste, de traducteur et d’auteur. Quand j’ai appris les métiers de la presse, ni les ordinateurs portables, ni Internet n’existaient. Le reporter n’avait que son carnet de notes, son stylo, sa machine à écrire et le téléphone ou le fax pour traiter ses informations. Pensez-vous qu’avec le traitement de texte il regrette aujourd’hui de ne plus devoir glisser des feuilles de papier et de carbone ou d’utiliser le typex pour taper et corriger ses textes? Ou même de se passer de taper son texte et de laisser l’ordinateur le faire à sa place grâce à la reconnaissance vocale?

            Quant au traducteur, ne plus avoir à passer des heures à des tâches répétitives et laisser les outils de traduction assistée par ordinateur (TAO) pré-traduire des textes qu’il n’a plus qu’à réviser et à finaliser, n’est-ce pas pour lui autant de temps gagné et ce temps qui lui permet de se concentrer sur les tâches vraiment essentielles n’est-il pas notre capital le plus précieux? En quoi l’ordinateur se substitue-t-il à lui?

            Comme auteur enfin, avec mes ouvrages publIés autant sur le circuit traditionnel de l’édition qu’en auto-édition, pensez-vous que je regrette de ne plus voir les 94% que me retiennent d’habitude les éditeurs sur mes droits d’auteur quand je peux fixer mes propres prix, décider de mes mises en page et de mes modes de diffusion sans me transformer pour autant en produit à promouvoir sur le marché déjà hyper-saturé du livre?

            Bien sûr, l’auto-édition a un coùt en ceci qu’il faut tout faire soi-même, y compris sa propre promotion – mais après avoir visité le site remarquable de “malibuinterface.bandcamp.com” je ne crois pas vous apprendre grand’chose à cet égard.

            Enfin, deux mots sur l’auto-génération des programmes. Une grammaire formelle – c’est ce qui m’intéresse en priorité du point de vue linguistique – peut en effet générer ses propres règles. Mais ce n’est pas moins moi qui décide (je suis aussi, entre autres, ingénieur informaticien EPF) comment elle va le faire. Loin de la “désapprouver”, je lui sais gré au contraire de me faire découvrir à chaque nouvel entraînement que je confie à mon programme neuronal d’autres possibilités combinatoires que j’ignorais.

            Suis-je pour autant victime des mirages informatiques, qu’ils soient salvateurs ou non, ou de ce que mes collègues linguistes appellent l’illusion référentielle? Peut-être bien. Après tout, qui n’aime pas se laisser ensorceller une fois ou l’autre?

            Non, l’informatique n’a jamais été et ne sera jamais pour moi une fin en soi, mais elle reste l’instrument par excellence, au sens philosophique du mot. Et je ne vois pas de limites aux possibilités qu’elle offre. Quant au langage humain, les informaticiens savent bien qu’il est trop complexe pour être réduit à du code binaire. Entre le chaud et le froid, il y a le tiède. Peut-être est-ce ce qui le différencie de la musique. Schönberg ne considérait-il pas une partition musicale comme une phrase, et donc un langage?

            Cordialement,
            FT

  3. Merci pour votre billet. Est-ce que l’on pourrait ajouter encore un quatrième mensonge qui est celui de la dématérialisation ? Il me semble que c’est l’un des points où la “numérisation” va dans le mur: le coût énergétique, industriel et minier d’une telle transition pourrait bien nous amener dans le mur. Voir par exemple le travail d’Aurore Stéphant notamment ses vidéos.

    On disait que les données seraient le pétrole du 21ème siècle, en terme de bilan écologique on est bien partis…

  4. Merci de cet article! J’ajouterais un quatrième mensonge: celui de la simplification de notre quotidien. En effet, nos existences sont rendues plus éprouvantes que jamais avec le stress généré par des usages permanents, la multiplication des mots de passe, les prétendues procédures de sécurité pour récupérer un compte (procédures qui compliquent la vie du simple pékin en lui donnant l’illusion d’être bien protégé alors que ce n’est en fait pas le cas), la nécessité de réinstaller des applications et reconfigurer vos appareils chaque fois que vous devez en changer compte tenu de l’obsolescence programmée, les systèmes qui « patinent » pour une raison incompréhensible, la non-accessibilité d’une interface pour « raisons de maintenance » au moment où vous en avez justement besoin, etc, etc. Quand je vois à quel point des jeunes pourtant à l’aise avec lesdites « nouvelles technologies » peuvent « perdre leurs nerfs » à cause de tous ces bugs et perdre du temps à tenter de régler des « couacs » informatiques, avec la peur constante de perdre des données importantes, je me demande vraiment où se situe la simplification dans la vie de tous les jours!

Les commentaires sont clos.