IA générative : les photos bientôt immunisées contre les manipulations
Avec la nouvelle génération d’IA générative, les images sont encore plus faciles à manipuler qu’avec les logiciels traditionnels de retouche photo, ce qui multiplie les risques d’usages malveillants.
Comment les protéger ? Une équipe de chercheurs du MIT a planché sur la question et a mis au point deux outils. PhotoGuard, sorte de bouclier protecteur pour photo, modifie de manière imperceptible les images pour les « immuniser » : une IA générative qui tenterait de les modifier produirait un résultat irréaliste ou déformé.
Autre outil dédié spécifiquement aux œuvres artistiques protégées par droits d’auteur : Glaze applique sur les images un masque qui utilise la cryptographie pour encapsuler des informations dans les images.
Les entreprises de l’IA se mobilisent
Ces outils peuvent-ils suffire ? Pas forcément : ils montrent qu’il existe des solutions techniques pour faire face aux risques de détournement d’images, mais ils n’empêchent pas de faire des captures d’écran d’images, même protégées par ces outils, et de les modifier avec des systèmes d’IA.
Pour les chercheurs du MIT, c’est aux entreprises qui développent les outils d’IA générative de fournir elles-mêmes les outils d’« immunisation » des images, et aux plateformes de médias sociaux de les adopter à grande échelle.
Un premier pas dans cette direction a eu lieu en juillet dernier : sept entreprises leaders de l’IA, invitées à la Maison Blanche par le président Biden, se sont engagées à développer des moyens de détection des contenus générés par IA.
Source : Technology Review
Crédits : © Adobe Stock
PLUS DE TENDANCES
Comment l’IA générative va booster le marketing et les ventes
L’Intelligence Artificielle générative pourrait bouleverser les fonctions marketing et vente du secteur du retail dans les années à venir, indique une étude du cabinet McKinsey publiée en juin 2023. Les techniques de vente des entreprises du retail seraient rationnalisées par l’IA générative de plusieurs façons : création de profils complets de consommateurs pour augmenter la probabilité de vente, proposition d’actions pour améliorer l’engagement des clients à chaque point de contact, création de scripts de discussion pour faciliter la conversation avec les clients, automatisation du suivi des ventes jusqu’à l’intervention d’un agent commercial humain…
