Images générées par l’intelligence artificielle : comment les repérer

Le président Emmanuel Macron en éboueur, le pape François en doudoune, Angela Merkel et Barack Obama sur la plage en train de manger une glace… ces images générées via l'intelligence artificielle font le tour d'internet. Elles peuvent malheureusement être à l’origine de la transmission de fausses informations, notamment sur les réseaux sociaux.

Midjourney, DALL-E, Stable Diffusion : ces logiciels sont capables, à partir d'une immense base de données, sans cesse alimentée par les demandes d'utilisateurs, de générer une infinité de clichés. Certains, ultra-réalistes et reliés à l'actualité, ont semé la confusion.

S'il n'existe pas d'outil capable de les détecter avec certitude, recontextualiser le cliché et repérer des incohérences visuelles peut permettre de les repérer.

Aller à la source

Grâce à une recherche d'image inversée, les clichés de la fausse arrestation de Donald Trump permettent ainsi de remonter à la source : un tweet d'Eliot Higgins, fondateur du site d'investigation Bellingcat, qui explique les avoir créés via Midjourney.

Traduction : "Faire des photos de l’arrestation de Trump en attendant l’arrestation de Trump"

Certains logiciels laissent aussi une signature visuelle : une barre multicolore dans le coin droit pour DALL-E par exemple.

On peut aussi comparer l'image à des photos du même événement provenant de sources fiables. Ainsi, le faux cliché d'un Poutine agenouillé devant Xi Jinping a un décor très différent de celui des photos de la visite du dirigeant chinois au Kremlin.

Être bon observateur

"Certaines caractéristiques, souvent les mêmes, posent problème aux intelligences artificielles (IA), ce sont ces incohérences (visuelles) qu'il faut scruter", note Vincent Terrasi, cofondateur de Draft & Goal, startup qui a lancé un détecteur de contenus générés par IA. Par exemple, les mains sont souvent déformées. Sur une photo prétendument prise lors d'une manifestation contre la réforme des retraites montrant un CRS enlacer une manifestante, on peut remarquer que le policier a... six doigts.

Traduction : "La main frappe à nouveau : ces photos prétendument prises lors d'un rassemblement de protestation en France hier semblent presque réelles, si ce n'était le gant à six doigts de l'agent."

"Actuellement, les IA ont aussi énormément de mal à générer des reflets. Un bon moyen (...) est donc de chercher, des ombres, des miroirs, de l'eau, mais aussi de zoomer sur les yeux", souligne Vincent Terrasi, comme sur cette photo d'Emmanuel Macron devant une manifestation et partagée sur Instagram : ses yeux sont marrons et non pas bleus.

Les générateurs créent également souvent des asymétries : visage disproportionné, oreilles à des hauteurs différentes... Les dents et les cheveux sont également difficiles à imiter.

Les défauts se cachent souvent à l'arrière-plan. Sur des images à première vue très réalistes de Barack Obama et Angela Merkel à la plage qui ont fait le tour des réseaux sociaux, l'un des personnages en fond a les jambes coupées. "Plus un élément va être lointain, plus un objet va être flou, déformé, et avoir des perspectives incorrectes", confirme Vincent Terrasi.

(avec AFP)