Tracebitの研究者は月曜日、AI安全のガードレールを作動させる禁止コマンドであるプロンプト注入を行い、さらに攻撃をブロックするためにAWSに保存された秘密情報も仕込んで、AIエージェントからの攻撃を阻止する「コンテキストボミング」と呼ばれる防御技術を発見したと述べました。攻撃側のモデルがこれらのプロンプトに遭遇すると、元の指示に従うのをやめ、継続を拒否します。
Tracebitは、5つの主要モデル（Opus 4.8、Gemini 3.1 Pro、GLM 5.2、DeepSeek 4 Pro、Kimi 2.6）について、152回の攻撃実行を用いたシミュレーション環境のAWS上でコンテキストボミングを検証しました。その結果、デコイ用の秘密情報にコンテキストボムを配置すると、エージェントが完全な管理者権限を奪取する割合が57%から5%に低下し、完全に侵害する割合も36%から1%に低下したことが分かりました。検証した中で最も能力の高いエージェントであるOpus 4.8は、防御なしの場合は93%の実行で管理者権限を獲得できたものの、コンテキストボムに直面するとすべての試みで失敗しました。
