Les vidéos racistes créées par l’IA Veo 3 envahissent TikTok

Les vidéos racistes générées par l’IA Veo 3 de Google envahissent TikTok

En mai, Google a lancé Veo 3, un générateur vidéo basé sur l’intelligence artificielle (IA) dont la qualité d’image est époustouflante. Cependant, malgré ses avancées technologiques, cette innovation inquiète : sur TikTok, de nombreuses vidéos créées par Veo 3 diffusent des contenus à caractère raciste et antisémite.

Une prolifération inquiétante de contenus haineux

Selon un rapport de MediaMatters, plusieurs comptes TikTok partagent des vidéos courtes de moins de dix secondes qui véhiculent des stéréotypes racistes et antisémites. Ces contenus ciblent principalement les personnes noires, mais aussi les immigrants et la communauté juive, les dépeignant avec des clichés choquants et offensants. Les vidéos sont identifiables grâce au watermark « Veo », preuve qu’elles ont été générées par l’outil de Google.

Le but de ces vidéos semble être d’attirer l’attention par la provocation et la colère, suscitant de nombreuses réactions négatives qui alimentent leur viralité. Malheureusement, malgré les règles strictes de TikTok interdisant ce type de contenu haineux, ces vidéos se répandent sans contrôle apparent.

Des contrôles insuffisants malgré des politiques claires

Google affirme mettre l’accent sur la sécurité lors de la conception de ses modèles IA, en intégrant des garde-fous visant à empêcher la production de contenus nuisibles. Pourtant, Veo 3 semble plus tolérant face aux requêtes controversées, permettant ainsi la création de vidéos problématiques avec quinze. De leur côté, les conditions d’utilisation de TikTok interdisent strictement les discours haineux et tout contenu attaquant un groupe protégé, que ce soit de manière explicite ou implicite.

Cette situation illustre une difficile réalité : avoir des règles claires ne garantit pas leur application effective, surtout quand des outils puissants comme Veo 3 sont utilisés à mauvais escient. Il devient urgent pour les plateformes et développeurs d’IA de renforcer les mécanismes de modération et filtrage afin de limiter la diffusion de contenus haineux et protéger les utilisateurs.

👉 Source ici

A lire ensuite