AI Defense, l’outil de sécurisation agentique que tout le monde attendait ?

Les outils de cyberdéfense débarquent au rythme d'un métronome. Aujourd'hui, l’entreprise Sophos dévoile une solution conçue pour débusquer le Shadow AI dans les PME et sécuriser l’utilisation des agents intelligents en temps réel. L’outil baptisé AI Defense est capable d’identifier les outils d’IA utilisés par les employés tout en appliquant des politiques de sécurité là où ils sont exploités. Explications.

L’éditeur de solutions de cybersécurité, Sophos, lance une nouvelle solution destinée à identifier les outils d’IA utilisés par les employés (et les applications), y compris ceux n’ayant jamais été approuvés par les équipes de sécurité, et applique des politiques de sécurité quel que soit l’endroit où ils sont exploités. 

« Tout outil d’IA qu’une organisation ne parvient pas à détecter peut constituer une faille en matière de confidentialité, d’intégrité et de disponibilité », explique Kyle Falkenhagen, senior vice president of product management chez Sophos.

 Afin de couvrir rapidement un large segment de marché, l’entreprise a décidé de fournir son système de défense IA par le biais de sa plateforme Sophos Fusion. 

La solution fédère ainsi les contrôles des terminaux, réseaux, les processus d’authentification et les navigateurs en vue de former une ligne de défense unifiée.

 Des outils IA non approuvés utilisés dans la plupart des organisations

 Les équipes de Sophos X-Ops ont observé plusieurs phénomènes interpellant tout au long de l’année. « Des pirates qui utilisent des agents d’IA au sein du réseau d’un client pour développer et tester des modules de malwares, des criminels qui vendent des clés API obtenues par l’intermédiaire de courtiers pour accéder à des modèles d’IA de pointe, des forums clandestins où s’échangent des techniques de jailbreaking, ou encore des recruteurs opérant dans les milieux criminels à la recherche d’ingénieurs spécialisés dans les prompts d’IA ».

 Parallèlement, de nombreux outils d’IA non approuvés sont utilisés dans la plupart des organisations. Un sondage récent révélait que 69 % d’entre elles soupçonnent leurs employés de recourir à des agents et des outils d’IA non autorisés ou disposent de preuves dans ce sens. Sur le terrain, 82 % ont détecté des agents de Shadow AI dans leurs environnements au cours de l’année écoulée, tandis que 90 % des responsables informatiques s’inquiètent des risques liés à cette utilisation non contrôlée. 

Un problème qui ne fera que prendre de l’ampleur dans les années à venir puisqu’une étude d’IDC prévoit que le nombre d’agents d’IA atteindra 1,3 milliard d’ici 2028.

Un outil pour lutter contre l’explosion des fuites de données dans les PME

 Les agents IA constituent de nouvelles surfaces d’attaques qui débouchent sur de nombreuses fuites de données sensibles. Pour tenter d’y mettre un bémol, Sophos AI Defense a été conçu pour recueillir les signaux provenant des terminaux, des réseaux, des identités et des navigateurs afin de cartographier l’activité liée à l’IA dans un environnement. Ensuite, la solution analyse les comportements des personnes et identifie les données concernées, afin de distinguer les usages courants des activités nécessitant une intervention. 

« Des garde-fous en temps réel inspectent les prompts, les téléchargements et autres interactions avec l’IA au moment où elles se produisent », développe l’entreprise. Cette activité est également remontée dans Sophos Fusion, ce qui permet aux équipes de sécurité qui utilisent Sophos XDR, ainsi qu’aux analystes Sophos MDR, de mener des investigations et d’intervenir dans le cadre des workflows qu’elles connaissent déjà.

 « Les organisations adoptent l’IA plus rapidement qu’elles ne parviennent à la sécuriser, et la plupart des équipes de sécurité ne sont pas en mesure de répondre à trois questions fondamentales, à savoir quels outils d’IA sont utilisés, quelles données leur sont transmises et si cette activité est conforme aux politiques en vigueur », confie Kyle Falkenhagen, senior vice president of product management, Sophos. 

Étant donné que la nouvelle solution AI Defense fonctionne sur Sophos Fusion, les équipes de sécurité aux ressources limitées peuvent ainsi mettre en place immédiatement une protection des usages IA.  Quant aux fournisseurs de services gérés (MSP), ils peuvent dès aujourd’hui proposer la nouvelle solution à l’ensemble de leurs clients.