Tendances
- 2 minutes
IA générative : les photos bientôt immunisées contre les manipulations
Avec la nouvelle génération d’IA générative, les images sont encore plus faciles à manipuler qu’avec les logiciels traditionnels de retouche photo, ce qui multiplie les risques d’usages malveillants.
Comment les protéger ? Une équipe de chercheurs du MIT a planché sur la question et a mis au point deux outils. PhotoGuard, sorte de bouclier protecteur pour photo, modifie de manière imperceptible les images pour les « immuniser » : une IA générative qui tenterait de les modifier produirait un résultat irréaliste ou déformé.
Autre outil dédié spécifiquement aux œuvres artistiques protégées par droits d’auteur : Glaze applique sur les images un masque qui utilise la cryptographie pour encapsuler des informations dans les images.
Les entreprises de l’IA se mobilisent
Ces outils peuvent-ils suffire ? Pas forcément : ils montrent qu’il existe des solutions techniques pour faire face aux risques de détournement d’images, mais ils n’empêchent pas de faire des captures d’écran d’images, même protégées par ces outils, et de les modifier avec des systèmes d’IA.
Pour les chercheurs du MIT, c’est aux entreprises qui développent les outils d’IA générative de fournir elles-mêmes les outils d’« immunisation » des images, et aux plateformes de médias sociaux de les adopter à grande échelle.
Un premier pas dans cette direction a eu lieu en juillet dernier : sept entreprises leaders de l’IA, invitées à la Maison Blanche par le président Biden, se sont engagées à développer des moyens de détection des contenus générés par IA.
Source : Technology Review
Crédits : © Adobe Stock
Vous aimerez aussi
-
« L’avenir est à la créativité bas carbone ! »
Aura-t-on honte demain de travailler dans le secteur digital devenu trop polluant, comme certains ont honte aujourd’hui de prendre l’avion ? C’est une hypothèse qu’Ivan Beczkowski, Chief Creative Officer de BETC Fullsix, veut à tout prix éviter. Il défend des pratiques numériques responsables, qui profitent à la planète, aux consommateurs et aux entreprises.
-
Auchan crée des « capsules audio » pour raconter ses produits
Alors que les podcasts gagnent sans cesse de nouveaux auditeurs, Auchan a décidé de donner de la voix sur son site de e-commerce. En partenariat avec Ekoo, une startup lilloise spécialisée dans la création de contenus audio, le distributeur propose désormais d’écouter des témoignages d’agriculteurs, de producteurs et d’ingénieurs qualité. Dans des capsules audio de 30 à 40 secondes, ils racontent l’histoire d’un produit, expliquent sa particularité, détaillent ses bienfaits et sa composition… « Comment sont élevés les veaux d’Aveyron et du Ségala ? D’où viennent les ingrédients des pâtes Tavola in Italia ? Quels sont les bénéfices des biscuits Less Sugar ? Les clients veulent désormais être davantage informés sur ce qu’ils consomment », fait valoir Auchan.
