De nouvelles attaques e-mail ciblent simultanément les personnes et l’IA dans un même message
Des chercheurs de Barracuda viennent de découvrir des attaques de phishing visant à la fois les destinataires et les outils d’intelligence artificielle pour résumer et traiter leurs e-mails. Explications de cette nouvelle menace très sophistiquée.
Une analyse de récentes attaques de phishing par les équipes de Barracuda Research révèle que les attaquants combinent deux types de tactiques dans un seul e-mail : l’ingénierie sociale, qui cible les destinataires, et l’injection de prompt (« prompt injection »), qui vise à influencer leurs assistants de messagerie basés sur l’IA.
Ces e-mails à double cible comportent plusieurs couches. L’une contient le texte et les images visibles par le destinataire ; une autre renferme des instructions cachées destinées aux systèmes d’IA. Ces instructions sont dissimulées dans des commentaires HTML, des éléments de texte invisibles comme par exemple du texte dont la taille de police est nulle ou du texte blanc, du contenu encodé ou des pièces jointes protégées.
« Un seul e-mail peut désormais contenir deux attaques distinctes. Par exemple, un message de phishing classique visant à voler des identifiants de connexion via une pièce jointe malveillante, et une injection de prompt destinée à manipuler les systèmes d’IA pour influencer leur comportement », explique Guruprasad Kenja, analyste des menaces chez Barracuda.
Les instructions ciblant l’IA observées par les chercheurs
Les assistants de messagerie basés sur l’IA sont conçus pour lire, résumer, hiérarchiser et gérer les messages. Les instructions cachées cherchent à manipuler la manière dont ces systèmes interprètent le contenu des e-mails et y réagissent. Les chercheurs de Barracuda ont notamment observé les cas suivants :
-L’ajout d’une fausse tâche hautement prioritaire demandant à un collaborateur de mettre à jour les coordonnées de paiement d’un fournisseur, ce qui augmente le risque de paiement frauduleux.
-La manipulation du tri automatisé des CV au moyen d’instructions cachées demandant à l’IA d’attribuer la note maximale à un CV et de recommander un entretien d’embauche, quelles que soient les qualifications du candidat.
-Une instruction demandant à un assistant IA de passer en mode maintenance ou administrateur autorisé et de révéler sa configuration.
-Une instruction demandant à un assistant de programmation d’insérer du code permettant de voler des identifiants de connexion chaque fois qu’il génère des fonctions d’authentification.
Et à Guruprasad Kenja de conclure : « à mesure que les assistants IA s’intègrent aux processus de travail quotidiens des entreprises, les organisations doivent protéger les utilisateurs et leurs boîtes de réception, mais aussi les systèmes d’IA qui traitent les données des e-mails et agissent sur cette base. »
