Nouvelle attaque IA : les images déjouent la sécurité
Des chercheurs de Trail of Bits ont mis au point une attaque innovante qui dissimule des instructions malveillantes dans des images haute résolution. Lorsqu’elles sont redimensionnées par un système d’IA, ces directives invisibles à l’œil nu émergent et sont interprétées comme une partie légitime de la demande de l’utilisateur.
Principe de l’attaque
Les services d’IA downsampent systématiquement les images pour optimiser les performances. En exploitant l’aliasing généré par les algorithmes de rééchantillonnage (nearest neighbor, bilinéaire, bicubique), les attaquants peuvent planquer du texte dans la version originale. Une fois l’image réduite, le message caché apparaît et est lu par le modèle linguistique.
Fonctionnement technique
Les experts ont produit des images où certaines zones sombres deviennent rouge vif puis révèlent du texte noir sous bicubic downscaling. Le modèle IA combine alors ces instructions furtives avec la requête initiale, sans que l’utilisateur ne se doute de rien.
Conséquences pratiques
Dans une démonstration ciblant Gemini CLI, l’attaque a permis d’exfiltrer des données de Google Calendar vers une adresse e-mail arbitraire, en profitant d’une configuration « trust=True » sur Zapier MCP. D’autres plateformes comme Vertex AI Studio, l’API Gemini et Google Assistant sur Android sont également vulnérables.
Préconisations
Pour se protéger, les chercheurs recommandent :
- Imposer des restrictions de dimension à l’upload d’images.
- Afficher un aperçu de l’image telle que l’IA la verra.
- Solliciter une confirmation utilisateur pour tout appel à un outil sensible.
- Adopter des patterns de sécurité pour résister aux injections de prompt multi-modales.
En parallèle, Trail of Bits a publié Anamorpher, un outil open source qui génère des images malicieuses pour chaque algorithme de downscaling.
👉 Source ici