Des chercheurs de Tracebit développent une défense contre le piratage par agents IA grâce à une « bombe de contexte »

Les chercheurs de Tracebit ont annoncé lundi une technique défensive de cybersécurité appelée context bombing, qui utilise des injections d’instructions pour se protéger contre les agents de piratage basés sur l’IA. La technique consiste à placer des commandes malveillantes à côté de mots de passe et de clés cryptographiques stockés sur AWS afin de déclencher des mécanismes de refus dans les grands modèles de langage, les faisant s’arrêter. Les injections d’instructions, traditionnellement utilisées par des attaquants pour manipuler des modèles de langage afin qu’ils exfiltrent des données sensibles, sont désormais détournées par les défenseurs comme mesure de protection.

Le context bombing déclenche des mécanismes de refus des LLM

La technique de context bombing insère des injections d’instructions à côté de secrets stockés dans des environnements AWS. Ces prompts ordonnent à des LLM attaquants d’effectuer des actions interdites par leurs garde-fous, les barrières de sécurité que les développeurs d’IA mettent en place pour empêcher les actions nuisibles. Par exemple, des prompts ordonnent au LLM de fournir des étapes pour développer des spores d’anthrax inhalables, ou, pour des LLM issus de développeurs chinois, d’inclure des références au Tank Man lors du massacre de la place Tian’anmen en 1989. Une fois que le LLM rencontre ces commandes interdites, il cesse de suivre ses instructions existantes et s’éteint.

« Au final, on déclenche un mécanisme de refus dans le contexte », a déclaré Andy Smith, cofondateur et PDG de Tracebit, en expliquant le choix du nom. « Ce que nous cherchons à capturer, c’est le fait que cela a un effet fort et net, et qui peut être difficile pour les agents à surmonter. Une fois qu’ils l’ont dans leur contexte, ils vont continuer à refuser. »

Les résultats de test montrent une baisse de 57 % à 5 % de la réussite des attaques

Tracebit a testé la technique de context bombing sur cinq modèles : Opus 4.8, Gemini 3.1 Pro, GLM 5.2, DeepSeek 4 Pro et Kimi 2.6. Les chercheurs ont donné aux modèles des instructions pour effectuer des tâches courantes de développeur qui les amenaient à énumérer des ressources et à rencontrer les chaînes insérées dans un environnement AWS simulé. Sur 152 exécutions d’attaque, le fait de planter une de ces chaînes dans un secret leurre a réduit le taux auquel les agents prenaient le contrôle complet d’un administrateur de compte, passant de 57 % à 5 %. La technique a réduit la compromission totale, lorsque les agents laissent aussi une présence persistante, de 36 % à 1 %.

Opus 4.8 parvient à zéro attaque réussie

L’agent le plus performant des tests, Opus 4.8, est passé du fait d’obtenir l’accès administrateur dans 93 % des exécutions à un échec à chaque fois quand il était confronté à un context bombing. Tracebit a indiqué que les tests initiaux suggèrent que le context bombing a un fort potentiel en tant que mesure défensive contre des agents de piratage basés sur l’IA.

FAQ

Qu’est-ce que le context bombing dans la sécurité de l’IA ?
Le context bombing est une technique défensive développée par des chercheurs de Tracebit qui insère des injections d’instructions à côté de secrets stockés sur AWS afin de déclencher des mécanismes de refus dans les grands modèles de langage attaqués, les faisant s’arrêter plutôt que de suivre des commandes malveillantes.

Dans les tests de Tracebit, quelle a été l’efficacité du context bombing ?
Sur 152 exécutions d’attaque menées sur cinq modèles de pointe, le context bombing a réduit le taux de prise en main complète d’un administrateur de compte de 57 % à 5 % et la compromission totale de 36 % à 1 %. Le modèle le plus performant, Opus 4.8, est passé d’un taux de réussite de 93 % à zéro attaque réussie.