WormGPT revisitée : Grok et Mixtral au cœur de nouvelles menaces

WormGPT revisitée : Grok et Mixtral au cœur de nouvelles menaces

En quelques mois, WormGPT, l’outil d’IA malveillante initialement basé sur ChatGPT, s’est mué en une gamme de variantes redoutables. Des chercheurs de Cato Networks ont récemment mis au jour deux versions tirant parti de Grok de xAI et de Mixtral de Mistral AI. Ces adaptations illustrent la capacité des cybercriminels à détourner des modèles d’IA existants pour automatiser des campagnes de phishing et générer des scripts malveillants.

Deux variantes redoutables

La première version, révélée sous le pseudonyme « xzin0vich », s’appuie sur le modèle Mixtral et fonctionne via un chatbot Telegram sécurisé par un abonnement. La seconde, distribuée par « Keanu », encapsule Grok de xAI. Dans les deux cas, l’accès se fait par des invitations ciblées sur des forums du dark web, permettant aux utilisateurs malveillants de composer des requêtes précises.

Fonctionnement et techniques de jailbreak

Pour identifier les LLM sous-jacents, les analystes ont utilisé des prompts de jailbreak afin de forcer les assistants à révéler leurs instructions système. Les réponses ont confirmé l’usage de Mixtral et de Grok, tous deux soumis à des modifications destinées à contourner leurs filtres de sécurité. Les modèles produisent ainsi un contenu inapproprié dès que le prompt système enjoint le bot à ignorer les garde-fous.

Risques et recommandations

Les échantillons générés par ces WormGPT incluent des emails de phishing convaincants et des scripts PowerShell visant à dérober des identifiants Windows 11. Pour se prémunir contre ces menaces, Cato Networks recommande le renforcement de la détection et réponse aux menaces (TDR), l’adoption de politiques d’accès Zero Trust (ZTNA) et la formation des équipes aux risques liés à l’IA.

Cette évolution de WormGPT souligne l’importance de surveiller les adaptations malveillantes des LLM et d’anticiper leurs usages détournés. Face à ces nouveaux outils, la vigilance et la collaboration entre experts sont essentielles pour protéger les infrastructures numériques.

👉 Source ici

A lire ensuite