Les créations générées par intelligence artificielle sont devenues monnaie courante sur les réseaux sociaux. Ces images fixes, vidéos et autres bandes sonores peuvent duper les internautes, en leur suggérant qu’ils se trouvent face à un contenu authentique, surtout quand leur origine factice n’est pas mentionnée. Voici huit réflexes listés par l’AFP pour déjouer les pièges de l’IA.
Photo, vidéo, audio : quelle que soit leur forme, les contenus générés par intelligence artificielle (IA) circulent aujourd’hui en nombre sur les réseaux sociaux, grâce à l’essor d’outils de création accessibles au grand public, tels que MidJourney, DALL-E, Imagen ou encore Synthesia.
Ce flot de publications factices, en plein essor, peut autant servir à des fins ludiques qu’à la désinformation – notamment quand ces créations sont détournées de leur intention originelle et décontextualisées.
Il n’existe pas actuellement d’outil fiable à 100% pour détecter un contenu factice, mais l’AFP vous propose huit conseils permettant de repérer des créations générées par IA.
1. Repérer la mention “généré par IA“
“Réalisé avec de l’IA” ou encore “contenu généré par IA” : présentes sur une partie des publications partagées sur les réseaux sociaux, ces mentions peuvent constituer un premier indice d’identification.
Certaines plateformes comme Instagram et TikTok ajoutent cette étiquette automatiquement dès qu’elles détectent un contenu généré ou modifié par IA (liens archivés ici et ici).
Les créateurs de ces publications peuvent également insérer eux-mêmes cette précision au moment de les mettre en ligne.
Mais attention : toutes les images créées artificiellement ne portent pas systématiquement cette mention. Et, à l’inverse, il est possible qu’une image soit identifiée comme étant générée par IA alors que ce n’est pas le cas.
2. Examiner la source du contenu
Un soldat éreinté, qui s’accorde un bref moment de répit en s’appuyant sur son arme, en pleine guerre du Vietnam : cette image partagée sur Facebook, aussi réaliste soit-elle, est l’œuvre d’une IA.
On peut le constater grâce à plusieurs éléments, à commencer par la légende accompagnant l’image – qui n’est autre que la commande (“prompt” en anglais) qui a été envoyée à l’intelligence artificielle pour qu’elle génère cette scène.
De plus, on peut constater, en parcourant cette page Facebook, qu’elle indique “adorer l’art par IA” et être spécialisée dans la “création digitale“. Ce que l’on peut également observer en parcourant ses autres publications, comportant les “prompts” à l’origine de chaque image.
Il en va de même pour cette vidéo où le Premier ministre Michel Barnier semble annoncer l’abaissement de la vitesse maximale autorisée pour les véhicules thermiques sur autoroute à 90 km/h.
Si elle a été relayée par des internautes persuadés qu’il s’agissait d’une nouvelle mesure gouvernementale, le compte à l’origine du montage précise bien dans sa publication qu’il s’agit d’un “contenu parodique” et y ajoute le hashtag “ia“.
La mention “IA” apparaît également dans la légende du profil de cet utilisateur.
3. Vérifier “l’information” avancée
La légende de cette vidéo partagée en septembre 2023 prétend qu’Emmanuel Macron aurait annoncé “sa démission“.
Seul à parler dans cette séquence, le chef de l’Etat explique, d’une voix qui sonne comme la sienne, que “l’insatisfaction” et le “mécontentement” des Français vis-à-vis de sa “gouvernance“, notamment exprimés par des sifflets lors de la cérémonie d’ouverture de la Coupe du monde de rugby 2023 en France, l’ont conduit à prendre “la décision difficile mais nécessaire de démissionner de [ses] fonctions de Président de la République.”
On s’en doute, un événement aussi extraordinaire aurait forcément été couvert par les médias.
Grâce à une simple recherche de mots-clés sur ce sujet, on se rend compte qu’une telle annonce n’a jamais eu lieu. On peut en outre retrouver, grâce à différentes inscriptions visibles sur ces images (notamment les mentions “30 juin 2023” et “Le Parisien“), la vidéo originelle sur laquelle a été apposée ce faux audio.
Comme nous l’expliquions dans un article de septembre 2023, il s’agit d’une vidéo du quotidien mise en ligne dans l’après-midi du 30 juin 2023.
Elle a été filmée lors d’une réunion de la Cellule interministérielle de crise – dont on voit d’ailleurs le logo derrière le président -, lancée pour répondre aux émeutes consécutives à la mort du jeune Nahel, tué lors d’un contrôle policier à Nanterre, en banlieue parisienne, le 27 juin de cette année.
Emmanuel Macron y “condamne” les violences urbaines et annonce le renforcement des moyens policiers pour mettre fin à ces évènements. Rien à voir, donc, avec une possible démission.
4. Des images trop “parfaites”
Un bébé jouant de la guitare, un enfant fêtant son anniversaire ou encore des personnes âgées fières de ramasser des pommes de terre : ces photos partagées sur Facebook semblent esthétiquement parfaites et suscitent de nombreux commentaires enthousiastes sur la plateforme.
Mais en regardant plus en détail, on voit que la peau et les cheveux de ces personnes paraissent très lisses et peu naturels.
Chacune de ces images présente par ailleurs des petits défauts trahissant le recours à de l’IA : le nourrisson n’a que quatre doigts et, sur la banderole d’anniversaire, la mention “Happy birthday” est mal orthographiée.
Il en est de même avec cette vidéo virale censée montrer des marins partager d’attendrissants câlins avec un ourson polaire rencontré pendant leur traversée.
L’anecdote et les images, très émouvantes, jouent sur les émotions des internautes.
Mais elles sont fausses, comme on peut le deviner au vu de l’apparence trop “parfaite” de l’ourson, ainsi qu’à certains détails, tels que ses pattes qui prennent par moments une morphologie humaine.
5. Observer l’arrière-plan des images
Un ballon gonflable à l’effigie de Donald Trump pendant la célèbre parade de Thanksgiving à New York ?
S’attarder sur le décor de cette image circulant sur les réseaux sociaux permet de déceler différents indices montrant qu’elle a été générée par intelligence artificielle.
On peut notamment y constater que les visages de différents passants présents dans la foule sont incomplets ou déformés.
Le ballon représentant Donald Trump y est en outre tenu de manière peu réaliste par seulement quelques personnes, qui semblent difficilement pouvoir maintenir une forme aussi imposante dans les airs avec une installation aussi sommaire.
6. Prêter attention aux incohérences historiques
“Inauguration de la Tour Eiffel, 1889“, indique la légende d’une photo en noir et blanc partagée sur Facebook.
Sauf qu’on y voit plusieurs personnes, dans la foule, photographier le célèbre bâtiment avec… des smartphones. Parfois, le bon sens suffit pour repérer une image générée par intelligence artificielle.
Il en va de même pour cette prétendue photo de Yasuke, un samouraï noir ayant vécu au Japon au 16e siècle – alors que la photographie n’a été inventée qu’au 19e siècle, rendant cette prise de vue impossible.
Comme l’a en outre expliqué à l’AFP en mars 2024 Julien Peltier, auteur spécialiste de la figure du samouraï, “il est très difficile, pour ne pas dire impossible, de dégainer une arme positionnée dans le dos. On ne voit ce type de posture que dans les mangas, les films hollywoodiens et la culture pop“.
“Son autre arme est portée du mauvais côté, elle devrait normalement être portée du côté gauche. De plus, on voit à sa forme qu’elle évoque plutôt une arme coréenne ou chinoise, continentale, car la lame fait une espèce de double courbure avec la poignée qui est supposée être droite. On a vu des lames comme ça au Japon, mais c’est très anecdotique, ce n’est pas du tout représentatif de la forme du sabre japonais“, expliquait également l’expert.
7. Repérer une traduction
Emmanuel Macron qui s’exprime en arabe ? C’est ce que semble montrer cette vidéo partagée par de nombreux internautes, assurant au passage que le président français aurait annoncé l’enseignement de cette langue “dès la maternelle“.
Il s’agit pourtant d’un deepfake (un contenu audio ou vidéo modifié grâce à l’IA, pour faire dire à quelqu’un quelque chose qu’il n’a pas dit).
Prêter une oreille attentive à cette séquence permet de repérer qu’elle a été générée par IA. Le silence, en arrière-fond, alors que le chef de l’Etat s’exprime en plein air devant un parterre d’auditeurs est un indice important, tout comme sa respiration un peu robotique.
On peut observer le mouvement de ses lèvres, parfois peu naturel et mal synchronisé avec ses paroles.
8. Utiliser la recherche d’image inversée
Cette image d’un avion volant à proximité du lieu d’une explosion massive à l’aéroport de Beyrouth, au Liban, a suscité de nombreuses reprises et réactions à l’automne 2024, dans le contexte de la série de frappes de l’armée israélienne sur la capitale libanaise le 20 octobre 2024 visant des institutions financières liées au Hezbollah.
Une recherche d’image inversée associée à une recherche avancée sur le web permet de retrouver l’image sur plusieurs comptes Instagram qui mentionnent qu’elle aurait été “générée par IA” (liens archivés ici et ici).
La recherche d’image inversée a également l’avantage de faire ressortir des clichés similaires, comme l’AFP l’expliquait dès mars 2023. Cela peut être précieux pour comparer une photo que l’on suspecte d’être générée par une IA avec des clichés issus de sources fiables.
Dans le cadre d’une rencontre très médiatisée entre Vladimir Poutine et Xi Jinping, une photo non sourcée montrant le président russe agenouillé devant le dirigeant chinois, avait ainsi circulé sur les réseaux sociaux à cette période.
Comme l’avait pointé le journaliste italien David Puente, le décor sur cette image était cependant très différent de celui apparaissant sur les autres images de médias couvrant l’événement, ce qui laissait douter de l’authenticité du cliché viral.
