Anthropic accuse trois sociétés chinoises de distillation abusive de Claude
Anthropic, startup spécialisée dans l’IA, affirme que trois entreprises chinoises – DeepSeek, MiniMax et Moonshot – ont mis en place des campagnes à l’échelle industrielle pour exploiter son modèle Claude de façon frauduleuse. Selon l’annonce du 12 février, près de 24 000 comptes fictifs ont généré plus de 16 millions d’échanges avec Claude.
Qu’est-ce que la distillation ?
La distillation de modèles consiste à entraîner une IA plus légère à partir d’un modèle plus avancé. Bien que cette méthode soit courante et légitime, Anthropic met en garde contre ses usages malveillants : il est possible de récupérer des capacités sans les protections d’origine et d’accélérer artificiellement le développement d’IA concurrentes.
Les accusations contre DeepSeek, MiniMax et Moonshot
DeepSeek, connue pour ses modèles puissants et efficaces, est pointée du doigt pour avoir mené plus de 150 000 échanges ciblant les capacités de raisonnement de Claude. Elle aurait aussi sollicité des réponses « safe » pour des questions sensibles sur la politique chinoise.
MiniMax et Moonshot, quant à elles, auraient respectivement réalisé 13 millions et 3,4 millions d’échanges avec Claude. Anthropic souligne que ces pratiques illicites peuvent compromettre la sécurité et la confidentialité des IA distillées.
Risques géopolitiques et réponses attendues
Anthropic alerte sur le fait que des modèles distillés sans garde-fous pourraient être intégrés à des systèmes de surveillance ou à des opérations cyber offensives. La société appelle l’industrie, les fournisseurs de cloud et les régulateurs à renforcer la sécurité des puces et à encadrer la distillation pour limiter ces dérives.
Sur le plan législatif, des pistes comme la restriction d’accès à certains processeurs sont évoquées pour freiner la formation de modèles agressifs. OpenAI, pour sa part, a émis des remarques similaires dans son courrier aux autorités.
Enjeux clés :
- La distillation peut accélérer la diffusion de technologies sans contrôles adéquats.
- Les modèles non protégés risquent d’être exploités par des régimes autoritaires.
- Une coopération internationale et des mesures techniques sont nécessaires.
L’affaire met en lumière les défis de la propriété intellectuelle et de la sécurité dans un secteur où les modèles d’IA rivalisent en performance et en vitesse de développement.
👉 Source ici