IA générative : les photos bientôt immunisées contre les manipulations
Avec la nouvelle génération d’IA générative, les images sont encore plus faciles à manipuler qu’avec les logiciels traditionnels de retouche photo, ce qui multiplie les risques d’usages malveillants.
Comment les protéger ? Une équipe de chercheurs du MIT a planché sur la question et a mis au point deux outils. PhotoGuard, sorte de bouclier protecteur pour photo, modifie de manière imperceptible les images pour les « immuniser » : une IA générative qui tenterait de les modifier produirait un résultat irréaliste ou déformé.
Autre outil dédié spécifiquement aux œuvres artistiques protégées par droits d’auteur : Glaze applique sur les images un masque qui utilise la cryptographie pour encapsuler des informations dans les images.
Les entreprises de l’IA se mobilisent
Ces outils peuvent-ils suffire ? Pas forcément : ils montrent qu’il existe des solutions techniques pour faire face aux risques de détournement d’images, mais ils n’empêchent pas de faire des captures d’écran d’images, même protégées par ces outils, et de les modifier avec des systèmes d’IA.
Pour les chercheurs du MIT, c’est aux entreprises qui développent les outils d’IA générative de fournir elles-mêmes les outils d’« immunisation » des images, et aux plateformes de médias sociaux de les adopter à grande échelle.
Un premier pas dans cette direction a eu lieu en juillet dernier : sept entreprises leaders de l’IA, invitées à la Maison Blanche par le président Biden, se sont engagées à développer des moyens de détection des contenus générés par IA.
Source : Technology Review
Crédits : © Adobe Stock
PARTAGEZ CET ARTICLE
PLUS DE TENDANCES
