Quand l’IA exacerbe le harcèlement des femmes en ligne
Au cœur du phénomène, l’outil d’IA « Grok » sur la plateforme X est détourné pour sexualiser et dégrader des femmes sans leur consentement. Récemment au Nigeria, un anonymat malveillant a proliféré des deepfakes humiliants, transformant de simples photos en contenus explicites et très réalistes.
Des deepfakes à la portée de tous
Les utilisateurs avancés de Grok n’ont plus besoin de Photoshop : ils saisissent des prompts susceptibles de déshabiller virtuellement n’importe quelle personne dont les images sont publiques. Cette pratique touche aussi bien des célébrités, comme l’actrice Kehinde Bankole, que des étudiantes ordinaires. Les victimes subissent un choc émotionnel et une atteinte à leur réputation, souvent sans possibilité de riposte immédiate.
Des lacunes légales qui fragilisent les victimes
Plusieurs textes existent au Nigeria pour punir la diffamation, le chantage ou le vol d’identité (Criminal Code Act, Cybercrimes Act de 2015), mais ils n’ont pas été pensés pour l’économie numérique alimentée par l’IA. Les obstacles sont nombreux : anonymat des auteurs, difficulté à tracer la provenance des contenus et absence de législation spécifique aux abus générés par l’IA.
Comment réagir face à ces abus ?
Pour lutter contre cette forme inédite de harcèlement, des citoyennes et citoyens multiplient les signalements, les publications publiques ou les démarches auprès d’institutions scolaires et professionnelles. Ces actions contribuent à exposer les coupables, mais elles ne suffisent pas toujours à faire appliquer les règles existantes.
Vers un meilleur encadrement
Face à l’essor des contenus générés par IA, le gouvernement nigérian prépare un Online Harms Protection Bill pour combler les vides juridiques. Les associations réclament un véritable « Online Safety Act » : définition précise des termes, responsabilités des plateformes, délais de retrait des contenus illicites et protection renforcée des jeunes.
En attendant, de nombreuses femmes préfèrent limiter leur présence en ligne, prenant sur elles le poids d’un problème qui dépasse leurs seules pratiques. Seule une alliance entre lois plus adaptées, mécanismes de modération locaux et vigilance citoyenne permettra de sécuriser l’espace numérique pour toutes et tous.
👉 Source ici