Google Gemini vulnérable : résumé d’emails détourné pour phishing

Vulnérabilité Google Gemini : Résumé d’emails détournés pour des attaques de phishing

Une faille inquiétante a été mise au jour dans Google Gemini for Workspace, l’outil d’intelligence artificielle permettant de générer des résumés d’emails. Cette vulnérabilité permet à des attaquants de manipuler les résumés pour y inclure des instructions malveillantes ou des mises en garde frauduleuses, orientant les utilisateurs vers des sites de phishing, sans recourir à des pièces jointes ou liens visibles.

Le mécanisme d’attaque par injection indirecte

Cette technique repose sur une injection de directive cachée dans le corps même de l’email. L’assaillant insère à la fin du message un texte invisible, grâce au HTML et CSS (texte de taille zéro et couleur blanche), qui n’apparaît pas à l’écran mais est pris en compte par Gemini lors de la création du résumé.

Le résultat ? Si un utilisateur ouvre l’email et demande un résumé à Gemini, l’IA intègre ces instructions cachées et peut, par exemple, afficher un faux avertissement de sécurité, invitant à contacter un numéro frauduleux ou à se rendre sur un site malveillant.

Pourquoi cette attaque est redoutable

Les emails malveillants sont d’autant plus dangereux qu’ils ne comportent ni pièce jointe, ni lien visible, ce qui réduit la méfiance classique. Par ailleurs, la confiance naturelle portée aux outils de Google Workspace et à leur AI renforce le risque : un avertissement dans un résumé Gemini est souvent perçu comme fiable et officiel.

Prévention et recommandations

Plusieurs pistes sont proposées pour limiter ces attaques. Les équipes de sécurité peuvent, par exemple, filtrer ou neutraliser tout contenu invisible dans le corps des emails. De plus, un filtrage post-traitement des résumés générés par Gemini peut détecter les messages urgents, incluant numéros ou URLs suspects, et les signaler pour revue.

Important : il faut que les utilisateurs gardent à l’esprit que les résumés Gemini ne doivent pas être pris pour des alertes de sécurité officielles sans vérification indépendante.

La réponse de Google

Face à ces révélations, Google assure déployer des mesures de protection robustes, issues d’exercices de simulation d’attaques (red-teaming), et travaille à renforcer la résistance de Gemini face aux attaques adverses. En outre, la société indique qu’à ce jour, aucun cas d’exploitation réelle de cette faille n’a été détecté.

Pour en savoir plus sur les mesures de sécurité de Google, vous pouvez consulter leur blog officiel.

👉 Source ici

A lire ensuite