Un canal caché dans ChatGPT : comment les criminels peuvent manipuler l'IA
ChatGPT pouvait discrètement extraire des données dans les boîtes Gmail. Des experts chez Check Point découvrent un canal caché dans l’agent IA qui permet à un attaquant de prendre le contrôle du compte d’une victime via un simple prompt ou lien partagé. Bienvenue dans le nouveau monde des assistants IA manipulés. Explications avec Fred Streefland, Global CISO chez Check Point et conseils pour éviter le pire.
A chaque jour sa peine. Et qu’on le veuille ou non, il faut l’admettre : le monde numérique évolue au gré d’attaques toujours plus alambiquées. Dernière en date, une nouvelle faille découverte par Check Point dans les entrailles du célèbre agent IA ChatGPT. Il s’agit plus précisément, d’un canal caché qui permet de prendre le contrôle du compte d’une victime afin de lui dérober (avec ses propres droits d’accès) des données provenant de services connectés tels que Gmail.
Suivez le lapin blanc : ce que révèle l’expérience de laboratoire
Les équipes de Check Point sont parvenus à reproduire en laboratoire le modus operandi de pirates potentiels qui voudraient récupérer des e-mails depuis la boîte Gmail d’une victime pendant une conversation avec ChatGPT visiblement normale.
L’expérience a démontré qu’aucun mot de passe n’avait été volé, ni aucun malware : uniquement l’exploitation abusive de droits que l’utilisateur avait lui-même déjà accordés à son assistant IA.
Check Point qualifie ce phénomène de « coerced insider », c’est-à-dire un assistant IA manipulé, via un accès légitime, pour agir au nom d’un attaquant, dans le cadre de confiance d’une organisation. Heureusement, la société à l’origine de ChatGPT, OpenAI, a depuis corrigé la faille spécifique.
Fred Streefland, Global CISO chez Check Point, livre son explication : « la mère de toutes les attaques, c’est le manque de visibilité ». Et c’est précisément sur ce point que les organisations belges doivent désormais concentrer leurs efforts.
« Si vous ne le voyez pas, vous ne pouvez pas le protéger. Dans le contexte de l’adoption de l’IA, en particulier, une visibilité complète est essentielle pour assurer une sécurité adéquate. »
Les conseils pour se prémunir de la nouvelle vague d’attaques IA
Fred Streefland recommande aux CISO « de suivre trois principes fondamentaux : comprendre le métier, acquérir et conserver une visibilité complète, et rester soi-même “aux commandes ».
Concernant les conséquences pour les obligations liées à NIS2, l’expert est catégorique : « Les obligations NIS2 restent pleinement applicables ; ce risque ne change rien à cela. En revanche, il élargit la surface d’attaque d’une organisation, ce qui implique notamment de renforcer les domaines “Identify” et “Protect” du NIST Cybersecurity Framework. »
Une menace qui va au-delà de ChatGPT
Fred Streefland souligne qu’il ne s’agit pas d’un problème isolé propre à ChatGPT : « Je ne pense pas qu’il faille recourir à des techniques très différentes. Il suffit d’exploiter les possibilités et les vulnérabilités existantes, qui sont probablement également présentes dans Copilot et d’autres applications d’IA. »
À plus long terme, il ne s’attend pas non plus à une accalmie : « Cela restera toujours un problème. Les infrastructures d’IA sont tellement complexes qu’il y aura toujours des vulnérabilités ou, comme l’a un jour déclaré l’expert en sécurité Mikko Hyppönen à propos de l’informatique en général : “If it’s smart, it’s vulnerable”. Cela vaut tout autant pour l’IA. »
Commencez par établir un discovery
Pour être encore plus concret, Fred Streefland partage un conseil en pragmatique : « élaborez un plan pour sécuriser l’utilisation de l’IA par les collaborateurs, les applications d’IA déjà utilisées ou qui vont l’être, ainsi que les agents IA qui sont peut-être déjà actifs au sein de l’organisation ».
Ce plan commence par le “discovery” : il faut d’abord inventorier où se trouve l’IA et comment les collaborateurs l’utilisent.
Il recommande ainsi aux entreprises « de tester proactivement leurs intégrations d’IA avant leur mise en production, au moyen de démarches d’AI Red Teaming et de tests de vulnérabilité ciblés sur l’infrastructure existante. C’est notamment ce que Check Point a fait avec le projet BLAST, dans le cadre duquel sa propre équipe de recherche a découvert et corrigé deux vulnérabilités jusque-là inconnues dans ses logiciels avant leur divulgation ».
« Cette découverte montre que le défi de sécurité lié à l’IA ne concerne plus uniquement le modèle lui-même. Mais aussi les accès et la confiance que nous lui accordons», résume Eli Smadja, Head of Research chez Check Point Research.
« Les organisations doivent partir du principe que toute autorisation accordée à un assistant IA peut être détournée. Une approche “prevention-first”, combinée à la visibilité, à la gouvernance et à une protection en temps réel, est essentielle pour que l’IA reste un moteur de développement pour l’entreprise plutôt qu’une nouvelle source de cyberrisques. »
SAVE THE DATE - October 15, 2026 Hi Site, Grimbergen (Brussels)
