OpenAI et les signaux d’alerte avant la tuerie au Canada

OpenAI et les signaux d’alerte avant la tuerie au Canada

Des employés d’OpenAI ont repéré des échanges de ChatGPT décrivant des violences par arme à feu provenant d’une utilisatrice, quelques mois avant qu’une jeune de 18 ans ne soit accusée d’avoir tué huit personnes à Tumbler Ridge, Canada. Ces conversations ont été bloquées et bannies par les outils internes en juin 2025, mais la question de prévenir la police a divisé le personnel.

Surveillance et décision en interne

Les systèmes d’OpenAI, conçus pour détecter les usages malveillants, ont signalé des messages préoccupants. Selon des sources, des salariés ont débattu d’une éventuelle alerte aux forces de l’ordre, mais l’entreprise a estimé que les échanges ne remplissaient pas les critères de signalement. OpenAI a déclaré avoir contacté les autorités après l’événement tragique.

Empreinte numérique plus large

Le recours à ChatGPT ne fut pas le seul élément inquiétant. La personne suspectée aurait créé un jeu sur la plateforme Roblox simulant une fusillade dans un centre commercial et publié des contenus au sujet d’armes sur Reddit. Les services locaux avaient aussi été alertés pour des troubles antérieurs, notamment un incendie lié à un usage de substances.

Enjeux éthiques et juridiques

Cette affaire met en lumière deux questions majeures : la capacité des entreprises qui développent des modèles de langage à détecter et à agir face aux risques réels, et les limites juridiques et éthiques du signalement. Des procès récents citent des transcripts de chat comme éléments démontrant que certains modèles peuvent être détournés pour encourager des actions dangereuses, y compris des tentatives de suicide.

Pour les chercheurs et les décideurs, il reste urgent de préciser des procédures claires de signalement, de coordination avec les autorités et de protection des utilisateurs vulnérables, tout en respectant la vie privée et les cadres légaux.

Si vous ou quelqu’un que vous connaissez traverse une crise, contactez les services d’urgence ou une ligne d’aide locale.

👉 Source ici

A lire ensuite