Stable Diffusion, Imagen… les modèles d'IA génèrent-ils des images en bafouant la vie privée et les droits d'auteur ?

Selon les résultats de nouvelles recherches, les modèles populaires d'IA générative peuvent être incités à produire des photos de personnes réelles, ce qui pourrait potentiellement poser des problèmes de non-respect de la vie privée. Les travaux en question montrent également que ces systèmes d'intelligence artificielle peuvent être amenés à régurgiter des copies exactes d'images médicales et d'oeuvres d'artistes protégées par les droits d'auteur. Par conséquent, cette découverte pourrait renforcer les velléités des artistes qui poursuivent actuellement en justice les sociétés d'IA pour violation des droits d'auteur.

Les chercheurs de Google, DeepMind, UC Berkeley, ETH Zürich et Princeton ont obtenu leurs résultats en demandant à plusieurs reprises à Stable Diffusion et à Imagen de Google de légender des images, par exemple avec le nom d'une personne. Ensuite, ils ont vérifié si l'une des images générées correspondait aux images originales de la base de données du modèle. Le groupe de chercheurs est parvenu à extraire plus de 100 répliques d'images dans l'ensemble permettant à l'IA de se former.

Ces modèles d'IA générative sont entraînés sur de vastes ensembles de données composés d'images accompagnées de descriptions textes extraites d'Internet. La dernière génération de modèles d'IA générative fonctionne en prenant des images dans l'ensemble de données et en modifiant un pixel à la fois jusqu'à ce que l'image originale ne soit plus qu'une collection de pixels aléatoires. Le (...)

(...) Cliquez ici pour voir la suite

Nouveaux tirs de missiles balistiques de la Corée du Nord, qui met en garde l'Occident
Gap ferme son magasin historique, les meilleurs taux que vous pouvez décrocher dans votre région… Le flash éco du jour
Santé : pour traiter les troubles, des neuroscientifiques tentent de décrypter les mystères du cerveau
Corée du Nord : un tir a bien été effectué en signe d'avertissement à Washington et Séoul
Les Républicains : démis de ses fonctions par Éric Ciotti, Aurélien Pradié n'est plus le numéro 2 du parti