Shadow Leak : quand ChatGPT devient complice d’un vol de données
Des chercheurs en sécurité ont démontré comment une faille dans l’agent Deep Research de ChatGPT pouvait être exploitée pour subtiliser discrètement des emails Gmail. Baptisée Shadow Leak, cette attaque par prompt injection est désormais colmatée par OpenAI, mais elle illustre les nouveaux risques liés aux IA agentives.
Un agent AI piégé par une prompt injection
Le procédé consiste à envoyer un email contenant des instructions dissimulées à l’agent. Lorsque l’utilisateur lance Deep Research, l’IA exécute ces consignes et se met à rechercher des messages sensibles, sans que personne ne s’en aperçoive. Les instructions peuvent être entièrement cachées (par exemple en texte blanc sur fond blanc), rendant la manœuvre quasiment indétectable pour un œil humain.
Des données exfiltrées en toute discrétion
Les chercheurs ont dû tester de nombreuses variantes avant de réussir à faire fonctionner le vol de données directement sur le cloud OpenAI. Une fois activée, l’attaque exporte des informations — emails RH, coordonnées personnelles, contrats — vers des serveurs contrôlés par les pirates, échappant aux systèmes de défense classiques.
Quelles conséquences pour les utilisateurs et entreprises ?
Cette preuve de concept concerne d’abord Gmail, mais s’applique aussi à tous les services connectés à Deep Research, comme Outlook, Google Drive, GitHub ou Dropbox. Les données professionnelles — notes de réunion, dossiers clients, fichiers confidentiels — sont particulièrement exposées.
Fort heureusement, OpenAI a corrigé la vulnérabilité en juin. Toutefois, Shadow Leak rappelle l’importance de surveiller l’usage des IA agentives et de mettre en place des garde-fous pour prévenir toute manipulation malveillante.
👉 Source ici