Photographie, simulacre et deepfakes

Personne ne l’aura démasqué

Il aura trompé tout le monde, même ses pairs. Le photographe norvégien Jonas Bendiksen (1977), qui travaille pour l’agence Magnum, a révélé en septembre dernier que son projet photographique The Book of Veles était un faux (fig. 1). La série, qui a donné lieu à un livre publié par GOST Books (2021 ; la première édition est déjà épuisée), mêle des photographies d’une ville de Macédoine du Nord, Vélès, ainsi que des passages d’un livre, Le Livre de Vélès, un texte slave considéré comme un faux document. L’ouvrage de Bendiksen reproduit des vues d’une ville plutôt morose, façades de maison banales, piscine municipale abandonnée, rues plongées dans le noir, bureaux, ou chambres sobres. Les hommes et les femmes travaillent derrière leur ordinateur, discutent ou téléphonent. Si Bendiksen s’est rendu à Vélès, c’est parce que cette ville de 40’000 habitants est devenue l’épicentre de la production de fausses informations (« fake news ») en 2016, durant l’élection présidentielle américaine qui opposait Hilary Clinton et Donald Trump (Oxenham, 2019). Intrigué par cette industrie de la désinformation (Ohlheiser, 2016), le photographe se rend sur les lieux et réalise des prises de vue de la ville en prenant garde de ne photographier aucune présence humaine. Celle-ci sera rajoutée en postproduction, sur ordinateur. Car les personnes visibles sur ses images sont en réalité de pures fictions, des figures générées par un programme informatique utilisé notamment dans les jeux vidéo pour créer des avatars. Les textes aussi sont l’œuvre d’un logiciel utilisant le machine learning. A partir d’articles relatant les activités des fake news à Vélès, l’intelligence artificielle a généré un texte que Bendiksen a simplement ré-agencé, mais dont il n’a pas modifié le contenu.

Fig. 1. Jonas Bendiksen, Veles. North Macedonia, 2019

© Jonas Bendiksen/Magnum

Dans son ouvrage de 1996, Le Baiser de Judas. Photographie et vérité, l’artiste, théoricien et commissaire d’exposition Joan Fontcuberta dénonce la foi naïve en la photographie, médium qui ne peut jamais être le reflet fidèle du réel, même s’il en a les traits : « Toute photographie est une fiction qui se prétend véritable. En dépit de tout ce qui nous a été inculqué, et de ce que nous pensons, la photographie ment toujours, elle ment par instinct, elle ment parce que sa nature ne lui permet pas de faire autre chose ». (Fontcuberta, 2005, p. 11). Cette mise en garde ne vise toutefois pas à adopter un doute systématique, mais consiste bien davantage à adopter un regard critique et à reconnaître que l’objectivité est toujours relative. La question de la manipulation des images, de la retouche et de la fonction de preuve associée à la photographie sont des problématiques anciennes qui n’ont pas attendu l’avènement des technologies numériques pour être discutées. Toutefois, la génération d’images rendue possible par les progrès récents en la matière renouvelle ces questions fondamentales et posent de sérieux problèmes éthiques. Ainsi que l’explique Bendiksen, « le projet du Livre de Vélès est devenu mon propre petit test de Turing visuel » (Chao, 2021), faisant référence au jeu d’imitation avancé par Alan Turing en 1950 dans son fameux article « Computing Machinery and Intelligence » (Turing, 1950). Le mathématicien y décrit un « test » devant servir à mesurer la capacité d’action intelligente d’un système électronique par imitation d’un comportement humain. La compétence de la machine s’évalue selon sa capacité à se rapprocher à tel point de l’humain qu’il n’est plus possible de distinguer l’homme de la machine.

 

Pour quels usages ?

L’extrait que j’ai cité de l’ouvrage de Fontcuberta, s’il invite à déconstruire l’idée de « vérité photographique », se poursuit ainsi : « Mais ce mensonge inévitable n’est pas le problème essentiel. L’essentiel, c’est l’usage qu’en fait le photographe, les intentions qu’il sert » (Fontcuberta, 2005, p. 11). Comme toute technique ou technologie, c’est effectivement dans les usages que résident les véritables enjeux. La série de Bendiksen cristallise doublement cette question. D’une part, elle porte, par la démarche adoptée, sur les dérives possibles de l’IA et des systèmes de génération de textes et d’images dans le domaine de l’information, tout en utilisant ces mêmes procédés. D’autre part, elle agit elle-même comme un virus au sein de son propre domaine – le photojournalisme – pour dénoncer le phénomène des fake news en créant consciemment de faux documents. Lorsque son projet est présenté dans le cadre des projections du festival de photojournalisme Visa pour l’image, à Perpignan (France), le 1er septembre 2021, personne ne se rend compte de la supercherie. Deux semaines plus tard, Bendiksen révèle les tenants de sa démarche dans une longue interview publiée sur le site de l’agence Magnum (Chao, 2021). Le directeur du festival, Jean-François Leroy, réagit sur Twitter le 20 septembre : tout en défendant l’importance d’un débat sur la problématique de la désinformation, il relève que la démarche de Bendiksen est discutable et que le festival aurait préféré ne pas être la cible de cette « farce » (« joke », Leroy, 2021). La démarche, utile ou déplacée, demeure une question ouverte et se discute.

 

Deepfakes

Qualifié de « deepfake », le projet photographique de Bendiksen n’en est pas vraiment un techniquement. Le photographe a en effet recouru à des trucages et des procédés de montage en intégrant des avatars au sein de ses photographies de vues qu’il a effectivement prises à Vélès. Le deepfake consiste à simuler des visages en mouvement, soit à insérer le visage d’une personne sur un autre visage, soit à produire des séquences truquées en simulant le visage d’une personne réelle (voir les explications ici : Goubet, 2021).

Deux expositions en cours, l’une à Paris, l’autre à Lausanne, s’y intéressent selon deux perspectives différentes. La première, Deep Fakes : Art and Its Double, à l’EPFL Pavilions à Lausanne, engage une discussion autour des doubles numériques, à la fois répliques d’œuvres du passé (Reclining Pan d’Oliver Laric est par exemple produit grâce à un scan 3D d’une sculpture du XVIe siècle ; le projet The Next Rembrandt de 2016, est un nouvel autoportrait du peintre généré à partir de données sur l’œuvre de l’artiste néerlandais du XVIIe siècle, fig. 2), mais aussi doubles permettant l’accès à la connaissance ou la reconstitution d’un patrimoine disparu (le projet Collart-Palmyre de l’UNIL notamment).

Fig. 2. Agence Wunderman Thompson, The Next Rembrandt, 2016

© Agence Wunderman Thompson / Vue de l’exposition à l’EPFL Pavilions, Lausanne

 

La seconde exposition, Fake News : Art, Fiction, Mensonge, présentée à la Fondation EDF à Paris, explore les implications de la désinformation et invite à adopter un regard critique sur les images par le biais de travaux d’artistes contemporains explorant ces problématiques. La vidéo de trois minutes, Big Dada (2019, fig. 3), de Bill Posters et Daniel Howe, par exemple, réunit six deepfakes, fausses vidéos de Donald Trump, Morgan Freeman, Marcel Duchamp, Marina Abramovic, Kim Kardashian et Mark Zuckerberg vantant les mérites d’une mystérieuse société, SPECTRE, qui permettrait de contrôler les données du monde. Le réalisme de ces vidéos truquées est bluffant, voire effrayant (le patron de Facebook/Meta nous demandant d’imaginer qu’un seul homme puisse contrôler toutes les données du monde n’étant pas si loin de la réalité), mais aussi piquant (l’artiste Abramovic nous confiant son obsession de la mort et espérant trouver dans SPECTRE un outil de savoir sur le futur, ou Marcel Duchamp, chantre du dadaïsme, vantant non pas l’esprit « dada », mais les « data »… les données). Postée en juin 2019 sur le compte Instagram de Posters, la vidéo devient rapidement virale et reçoit une couverture médiatique internationale. L’intention de l’artiste n’avait pas pour dessein de duper les internautes – la légende de son post Instagram indiquait clairement qu’il s’agissait d’un deepfake –, mais avait pour but d’alerter quant aux dérives potentielles des masses de données personnelles léguées aux géants du web.

Fig. 3. Bill Posters et Daniel Howe, Big Dada, 2019

© Bill Posters, Daniel How / vue de l’exposition à la Fondation EDF, Paris

Simulacres

« La photographie est un médium tellement flexible », déclare Bendiksen dans une interview à France Culture (Lagarde, 2021). Sa série, qui s’inscrit dans le contexte de la croissance des fake news et la génération d’images nous force à nous interroger (ou nous inquiéter) sur le régime des images générées par la machine sans que l’œil humain ne soit capable de distinguer le vrai du faux, c’est-à-dire sans la possibilité de mesurer si l’image qui comporte toutes les caractéristiques d’un portrait photographique constitue bien une prise de vue d’une personne réelle ou s’il s’agit d’une image intégralement construite par la machine sans aucun référent (voir à ce titre le site au nom révélateur : thispersondoesnotexist.com). Un monde des simulacres, décrit par Jean Baudrillard au début des années 1980 : « il s’agit d’une substitution au réel des signes du réel, c’est-à-dire d’une opération de dissuasion de tout processus réel par son double opératoire, machine signalétique métastable, programmatique, impeccable, qui offre tous les signes du réel et en court-circuite toutes les références » (Baudrillard, 1981, p. 11). Le réel s’évacuerait au profit des images générées par l’ordinateur. Demain, qui pourra/saura déterminer si celles-ci sont le fait de l’homme ou de la machine ?

 

Références

Baudrillard Jean, Simulacres et Simulation, Paris, éd. Galilée, 1981.

Chao Jade, « Interview de Jonas Bendiksen: The Book of Veles: How Jonas Bendiksen Hoodwinked the Photography Industry », Magnum Photos, 17 septembre 2021, https://www.magnumphotos.com/newsroom/society/book-veles-jonas-bendiksen-hoodwinked-photography-industry/

Goubet Fabien, « Deepfakes, des faux plus vrais que nature », Le Temps, 2021, https://www.letemps.ch/video/sciences/deepfakes-faux-plus-vrais-nature

Fontcuberta Joan, Le Baiser de Judas. Photographie et vérité, Arles, Actes Sud, [1996] 2005.

Lagarde Yann, « Comment le photoreporter Jonas Bendiksen a dupé le monde de la photo avec un faux reportage », France Culture, 11 octobre 2021, https://www.franceculture.fr/photographie/comment-le-photoreporter-jonas-bendiksen-a-dupe-le-monde-de-la-photo-avec-un-faux-reportage

Leroy Jean-François, Twitter, 20 septembre 2021, https://twitter.com/jf_leroy

Ohlheiser Abby, « This is how Facebook’s fake-news writers make money », The Washington Post, 18 novembre 2016, https://www.washingtonpost.com/news/the-intersect/wp/2016/11/18/this-is-how-the-internets-fake-news-writers-make-money/

Oxenham Simon, « ‘I was a Macedonian fake news writer’ », BBC, 29 mai 2019, https://www.bbc.com/future/article/20190528-i-was-a-macedonian-fake-news-writer

Turing Alan, « Computing Machinery and Intelligence », Mind, LIX (236), octobre 1950, pp. 433-460.

Nathalie Dietschy

Nathalie Dietschy est professeure assistante à la Section d’histoire de l’art de l'Université de Lausanne. Elle s'intéresse notamment aux rapports entre art contemporain, photographie et numérique. A l’ère du tout image, ce blog propose de s’arrêter sur certaines d’entre elles. Décryptage d’images qui font parler.

2 réponses à “Photographie, simulacre et deepfakes

  1. Merci pour votre article décrivant des faits potentiellement perturbants.
    Il faut bien se mettre en tête que ce que l’on voit dans tel ou tel media est une photo, une image ou une vidéo et non pas la réalité . Exercice au fond contre-intuitif.
    Peut être connaissez vous la série britannique “Incorporated” qui évoque la possibilité de manipulation en temps réel d’images CCTV.
    On ne peut plus croire ce que l’on voit

  2. Merci pour ces Analyses.

    Il y a de quoi commenter des heures. Alors merci à Yves de mettre en évidence un point précis et fondamental, débattu depuis des siècles, avec comme expression illustre les différentes crises iconoclastes, récurrentes, des interdits hébraïques, aux actions anti-images des Talibans, en passant par les purges protestantes du XVIè. Mais nous restons toujours en surface, si nous ne remarquons que nos partages linguistiques, aussi sont des images, ce que nous transmettons par la langue, écrite ou orales sont aussi des images et donc indépendant de la réalité.
    Je suppose que l’auteur du “joke”, à jugé qu’il était préférable de prouver que l’on pouvait tromper les professionnels. Il aura au moins réussi ce qui semble aujourd’hui le plus important: en faire parler. A conditions de ne pas parler du superficiel, mais du défi: “On ne peut plus croire ce que l’on voit”.
    Ce qui est vrai depuis toujours (Voir la caverne de Platon), mais surtout depuis Copernic et Galilée, si on n’en reste pas à discuter les options politique de l’église catholique. Car la vrai question est le défi posé à la transmission du savoir, si contraire à l’évidence, c’est-à-dire contraire à ce que l’on voit.
    Impossible de noter ici toutes les étapes du raisonnement. Ma conclusion, il faut d’urgence réintégrer la philosophie très tôt dans l’éducation. (“Je crois ce que je vois; je ne crois que ce que je vois; je crois ce que sais; si je crois, je ne sais pas; je dis ce qui est…”). Sans elle, pas de langue et pas d’éthique. Voir, Croire, Savoir: Climat et Coronavirus, Economie ou Politique. Comment vivre en démocratie sans réfléchir sur l’enjeu de ses mots!

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *