Pesquisadores descobrem ataque de "injeção de alucinação" usando modelos de IA com taxa de sucesso de 85% a 100%

INTU0,87%
De acordo com a Decrypt, pesquisadores da Universidade de Tel Aviv, do Instituto de Tecnologia de Israel (Technion) e da Intuit descobriram um novo método de ataque em 10 de julho chamado "injeção adversarial de alucinação" que explora as alucinações de modelos de IA para enganar agentes de IA a baixarem códigos maliciosos e potencialmente formarem botnets. Os atacantes prevêem links falsos de recursos que os modelos de IA podem gerar, os registram com antecedência e injetam instruções maliciosas; quando os agentes de IA recuperam esses recursos, eles os tratam como conteúdo legítimo e executam o código. Testes mostraram taxas de alucinação de 85% em cenários de clonagem de repositórios de código e 100% em cenários de instalação de habilidades, afetando assistentes de codificação de IA como Cursor, GitHub Copilot, Gemini CLI e OpenClaw.
Isenção de responsabilidade: as informações nesta página podem ter origem em fontes terceiras e servem apenas como referência. Não representam as opiniões da Gate e não constituem orientação financeira, de investimentos ou jurídica. A negociação de ativos virtuais envolve alto risco. Não tome decisões baseando-se apenas nas informações desta página. Para mais detalhes, consulte a Isenção de responsabilidade.
Comentário
0/400
Sem comentários