L’essor inquiétant des deepfakes accessibles : une réalité alarmante
Une récente étude menée par le Oxford Internet Institute met en lumière une montée spectaculaire des outils d’intelligence artificielle permettant de créer facilement des images deepfake de personnes identifiables. Ces technologies, disponibles en libre téléchargement, soulèvent de nombreuses questions éthiques et légales, en particulier autour de l’utilisation de ces images à des fins non consenties.
Des chiffres impressionnants et préoccupants
Les chercheurs ont recensé près de 35 000 variantes de modèles deepfake accessibles publiquement, majoritairement hébergés sur une plateforme populaire appelée Civitai. Ces modèles, conçus pour produire des images truquées généralement ciblant des célébrités mais aussi des individus moins connus – souvent repérés via leurs profils sur les réseaux sociaux –, ont été téléchargés près de 15 millions de fois depuis fin 2022.
Chaque téléchargement peut générer un nombre illimité d’images deepfake, amplifiant ainsi le potentiel d’abus.
Une majorité de victimes ciblées : les femmes
Une analyse détaillée révèle que 96 % des modèles deepfake visent des femmes. Ces cibles vont de grandes figures publiques aux utilisatrices avec un nombre restreint d’abonnés. Les victimes proviennent principalement de pays comme la Chine, la Corée, le Japon, le Royaume-Uni et les États-Unis.
Une création simplifiée et rapide
La technologie Low Rank Adaptation (LoRA) permet de générer ces modèles avec un minimum de ressources : seulement 20 images d’une personne, un ordinateur grand public et 15 minutes de traitement suffisent pour produire un modèle deepfake.
Des usages inquiétants et illégaux
Une partie importante de ces modèles est explicitement conçue pour créer des images intimes non consensuelles (NCII). Ils portent souvent des tags tels que « porn », « sexy » ou « nude ». Or, cette pratique est non seulement contraire aux conditions d’utilisation des plateformes hébergeant ces modèles, mais elle est également illégale dans plusieurs pays, dont le Royaume-Uni.
En effet, depuis avril 2023, le partage d’images deepfake à caractère sexuel est une infraction pénale en Angleterre et au Pays de Galles, et des mesures pour criminaliser leur création sont actuellement en discussion.
Un problème grandissant nécessitant des réponses urgentes
Will Hawkins, principal auteur de l’étude, insiste sur la nécessité d’outils techniques plus robustes, d’une application stricte des politiques des plateformes et d’une réglementation adaptée pour lutter efficacement contre ce fléau.
Cette recherche représente probablement un aperçu partiel du phénomène, car elle se base uniquement sur des modèles accessibles publiquement. Il est à craindre que des contenus beaucoup plus graves, notamment liés à des abus sur mineurs, circulent en dehors des plateformes publiques.
En somme, la démocratisation des outils deepfake expose à des risques majeurs pour la vie privée et la sécurité individuelle, en particulier pour les femmes, et appelle à une mobilisation urgente de tous les acteurs concernés.
👉 Source ici
