Les fausses images de l’IA ne doivent pas provoquer de dégâts réels
Les deepfakes d’un réalisme trompeur se propagent à une vitesse fulgurante. Des scientifiques suisses développent des méthodes pour en retracer l’origine et dévoiler les manipulations.
Sur Truth Social, le réseau social de Donald Trump, on cherche à enthousiasmer les fans de Taylor Swift. La lutte contre de telles photos générées par IA exige un nouveau mode de pensée de l’industrie. | Photo: image générée par IA / Truth Social
Mi-mai 2026, des millions de personnes suivent en direct comment le streamer Finnyzyy se transforme en temps réel en une jeune fille de 14 ans, dans le but de démasquer un présumé délinquant sexuel. La scène est troublante tant elle paraît authentique. Les deepfakes ont atteint un niveau de qualité qui met à l’épreuve même les spécialistes.
«C’est un éternel jeu du chat et de la souris, constate Touradj Ebrahimi de l’EPFL. A peine un programme de détection a-t-il démasqué un faux que les algorithmes trouvent déjà des moyens de contourner la reconnaissance.»
Le scientifique est un spécialiste des questions d’authenticité et de traçabilité des médias numériques. «Il y a trois approches générales pour identifier un fichier visuel généré par l’IA: détecter des anomalies dans l’image, effectuer un fact-checking, ajouter un label aux contenus authentiques.» Son équipe développe principalement des outils de détection. «Nous faisons s’affronter deux IA: l’une génère des images, l’autre doit distinguer ces productions artificielles des vraies», explique Touradj Ebrahimi. Cette course entre intelligences, fondée sur l’approche des réseaux antagonistes génératifs (GAN), donne des résultats prometteurs: l’IA de détection apprend rapidement à repérer les faux à partir des incohérences les plus infimes.
Sceau d’authenticité pour images réelles
«De tels dispositifs de vérification sont déjà utilisés pour les contrôles d’identité numérique, par exemple lors de l’ouverture d’un compte bancaire en ligne», confirme Sébastien Marcel de l’Institut de recherche Idiap, à Martigny. Expert en intelligence artificielle, il met en place de vastes banques de données d’images réelles et artificielles qui constituent la base de ces systèmes de reconnaissance. Le problème de cette compétition entre IA réside dans le fait que le camp adverse utilise les mêmes technologies.
Les IA génératives produisent toujours plus rapidement des contrefaçons de qualité croissante. Touradj Ebrahimi l'admet: «Les détecteurs seront toujours à la traîne.» Sébastien Marcel ajoute: «Le développement des deepfakes s’accélère tellement que les démasquer à temps devient de plus en plus difficile.» Dans l’idéal, un deepfake devrait être détecté en quelques secondes, car les dommages sociaux surviennent souvent déjà quelques minutes après sa publication, avertissent les experts. C’est pourquoi l’approche classique du factchecking atteint ses limites: elle est souvent incapable de suivre le rythme effréné de la propagation virale de fausses images.
Car, entretemps, ce ne sont plus seulement les images elles-mêmes qui sont manipulées, mais également leurs métadonnées, soit les informations sur leur origine et leur traitement. C'est pourquoi une équipe de l’ETH Zurich a adopté une approche inverse, fondée sur le marquage des contenus authentiques. Elle développe des puces capteurs qui apposent une signature cryptographique sur les images, les vidéos ou les enregistrements audios au moment même où ils sont générés. «Nous voulons intégrer cette technologie directement dans les caméras», explique Fernando Cardes, qui a participé au développement de la signature. Cela doit permettre de vérifier si un contenu provient effectivement d'une caméra, à quel moment il a été enregistré et s'il a été modifié ultérieurement.
Bien que les deepfakes soient techniquement détectables, les chercheurs doutent que les plateformes et les utilisateurs recourent systématiquement à de tels outils. Ils placent davantage d’espoir dans des normes internationales. En tant que président d’un comité de l’ISO, Touradj Ebrahimi promeut notamment le standard «JPEG Trust»: il regroupe l’origine, le traitement et l’authenticité d’une image sous la forme d’un profil de confiance destiné aux utilisateurs.
Il faut rapidement des normes communes
Cette approche est compatible avec les spécifications de la Coalition for Content Provenance and Authenticity (C2PA) – une alliance mondiale qui veut établir des normes communes pour la traçabilité des contenus. La Coalition regroupe désormais des entreprises telles qu’Open-AI, Meta, Adobe et Google, ainsi que des fabricants d’appareils photo et des groupes de médias. Reste à voir si des tels systèmes vont s'imposer à long terme. Car même s'il existe de nombreuses possibilités techniques, une autre question reste ouverte: si ces outils seront mis en œuvre à temps et à grande échelle, avant que la confiance dans les médias numériques n'ait subi un important préjudice durable.
