Anthropic : une erreur d’intelligence artificielle au cœur d’un procès juridique
Dans une affaire judiciaire en cours opposant la société Anthropic à des éditeurs de musique, une difficulté inattendue liée à l’intelligence artificielle (IA) a surgi. En effet, un avocat représentant Anthropic a dû présenter des excuses après que l’IA du chatbot Claude, développée par cette même entreprise, a généré une citation juridique erronée dans un document officiel du tribunal.
Une hallucination numérique qui pose problème
La « hallucination » de Claude, terme employé pour désigner une erreur factuelle produite par une IA, a conduit à la création d’une référence avec un titre et des auteurs inexactes. Malgré une vérification manuelle des citations, cette erreur a échappé à l’attention de l’équipe juridique. Anthropic a qualifié cette bévue d’« honnête erreur de citation » et non d’une tentative de fabrication de sources.
Cette situation intervient alors qu’un expert témoin d’Anthropic, Olivia Chen, a été accusée par les avocats de plusieurs éditeurs, dont Universal Music Group, d’avoir utilisé Claude pour citer des articles fictifs dans son témoignage. Ce qui a incité une juge fédérale, Susan van Keulen, à demander à Anthropic une réponse officielle.
Les enjeux plus larges autour de l’IA et du droit d’auteur
Le procès s’inscrit dans une série de litiges où les propriétaires de contenus protégés contestent l’utilisation de leurs œuvres dans la formation d’outils d’IA générative. Ces conflits illustrent les difficultés juridiques croissantes face à l’intégration rapide des technologies d’intelligence artificielle dans des domaines sensibles.
Les erreurs de l’IA dans le cadre légal ne sont pas un cas isolé. Récemment, un juge en Californie a sévèrement critiqué des cabinets d’avocats pour avoir soumis des recherches générées par IA fausses au tribunal. En Australie, une affaire similaire a révélé l’utilisation de ChatGPT pour préparer des documents judiciaires, avec des citations erronées.
Malgré les erreurs, l’IA continue de séduire le secteur juridique
Malgré ces déboires, les startups misant sur l’IA pour automatiser et améliorer le travail juridique attirent d’importants investissements. Par exemple, Harvey, une entreprise qui développe des modèles d’IA générative pour assister les avocats, est en discussion pour lever plus de 250 millions de dollars à une valorisation estimée à 5 milliards.
Cette situation montre à quel point le secteur juridique est à la fois confronté aux défis des technologies IA et curieux de leur potentiel pour transformer ses pratiques.
👉 Source ici