**Une expérience secrète utilisant l’IA sur Reddit soulève de vives réactions**
Une équipe de chercheurs de l’Université de Zurich a mené, à l’insu des utilisateurs, une expérience controversée sur Reddit, un réseau social très populaire. Durant plusieurs mois, ces chercheurs ont utilisé des modèles de langage puissants (IA) pour générer des commentaires dans la communauté r/changemyview, qui compte 3,8 millions de membres. Cet espace est dédié aux débats où les utilisateurs partagent leurs opinions, souvent provocatrices, pour être challengés.
**Un usage non autorisé et des manipulations psychologiques**
Les modérateurs du subreddit ont récemment révélé que cette expérience n’avait pas reçu leur consentement et ont qualifié cette opération de « manipulation psychologique » sur des utilisateurs non avertis. Les commentaires générés par l’IA prenaient différentes identités, incluant des figures sensibles comme une survivante d’agression sexuelle, un conseiller spécialisé dans les traumatismes ou encore un homme noir opposé au mouvement Black Lives Matter. Certains commentaires ont été supprimés, mais un archivage existe encore pour consultation.
**Personnalisation basée sur les données des utilisateurs**
Les chercheurs ont poussé l’expérience plus loin en personnalisant ces réponses d’IA en se basant sur des informations tirées des historiques de publication des utilisateurs, analysant leur genre, âge, origine ethnique, localisation et orientation politique. Cette démarche, bien que décrite dans un brouillon de leur article, soulève d’importantes questions éthiques, notamment sur la confidentialité et le consentement.
**Réactions de Reddit et de l’Université de Zurich**
Les modérateurs du subreddit ont déposé une plainte officielle auprès de l’Université de Zurich, soulignant que plusieurs règles avaient été enfreintes, notamment celles imposant la divulgation de l’usage de l’IA et interdisant les bots. Reddit a réagi en bannissant tous les comptes liés à cette recherche et envisage même une action juridique. Le directeur juridique de Reddit, Ben Lee, a condamné cette démarche qui viole les règles du site et porte atteinte à la communauté.
De leur côté, les chercheurs affirment que leur projet avait été approuvé par un comité d’éthique et pourrait aider à mieux protéger les utilisateurs contre des usages plus malveillants de l’intelligence artificielle à l’avenir. Ils reconnaissent toutefois que leur méthode « intrusiste » a pu déranger certains membres.
**Débat sur l’éthique et la nécessité de telles recherches**
Les modérateurs de r/changemyview contestent la nécessité et la nouveauté de cette expérience, rappelant qu’OpenAI a mené des recherches similaires, mais sans impliquer d’utilisateurs sans leur consentement. Ils insistent sur le fait que cette communauté mérite un espace de discussion exempt d’expérimentations non consenties.
Cette affaire met en lumière les défis éthiques liés à l’utilisation croissante de l’intelligence artificielle dans les interactions humaines en ligne, notamment quand les utilisateurs ne sont pas informés et protégés.
👉 **Source** ici
