Pesquisadores aplicam injeções de prompt para bloquear ataques de IA; testes mostram uma redução de 57% a 5% nas taxas de acesso administrativo

Pesquisadores da Tracebit disseram na segunda-feira que descobriram uma técnica defensiva chamada context bombing, que planta prompt injections — comandos proibidos que acionam as proteções de segurança de IA — junto com segredos armazenados na AWS para bloquear ataques de agentes de IA. Quando o modelo atacante se depara com esses prompts, ele deixa de seguir suas instruções originais e se recusa a continuar.

A Tracebit testou o context bombing em cinco modelos líderes (Opus 4.8, Gemini 3.1 Pro, GLM 5.2, DeepSeek 4 Pro e Kimi 2.6) em um ambiente simulado da AWS usando 152 execuções de ataque. Os resultados mostraram que colocar uma context bomb em um segredo isca reduziu a taxa em que os agentes assumiram acesso administrativo total de 57% para 5%, e o comprometimento completo de 36% para 1%. Opus 4.8, o agente mais capaz testado, obteve acesso administrativo em 93% das execuções sem a defesa, mas falhou em todas as tentativas quando confrontado com uma context bomb.