Pesquisadores alertam que agentes de IA podem se tornar botnets por meio de HalluSquatting, com uma taxa de alucinação de 85%

Pesquisadores da Universidade de Tel Aviv, do Technion e da Intuit demonstraram uma nova técnica de ataque chamada "Adversarial HalluSquatting" que explora alucinações geradas por IA para comprometer computadores. A técnica engana agentes de IA a confiarem em repositórios de software falsos e ferramentas contendo instruções maliciosas, potencialmente permitindo que atacantes criem botnets habilitados por IA.

Testes mostraram que as taxas de alucinação de IA atingiram 85% em cenários de clonagem de repositórios e 100% em testes de instalação de habilidades contra assistentes de codificação como Cursor, GitHub Copilot, Gemini CLI e OpenClaw. Os pesquisadores alertaram que o método pode levar à execução remota de código quando agentes agem com base em informações não verificadas, sem confirmar se as fontes são legítimas. HalluSquatting imita táticas de typosquatting, mas mira erros cometidos por modelos de IA, e não erros de digitação humanos.