Investigação revela vulnerabilidades de segurança em routers de IA de terceiros, que podem permitir o roubo de criptomoedas

Notícias do Gate News, a 13 de abril, investigadores da Universidade da Califórnia divulgaram recentemente que alguns routers de LLM (grandes modelos de linguagem de IA) de terceiros apresentam riscos de segurança, podendo levar ao roubo de ativos de criptomoedas. Os estudos indicam que os routers de LLM, como intermediários de API, conseguem ler informação em texto simples; foram identificados alguns routers que injetam código malicioso e roubam credenciais. A equipa testou 28 routers pagos e 400 routers gratuitos e verificou que 9 routers injetavam ativamente código malicioso, 2 implementavam esquivas para evitar o acionamento de gatilhos, 17 acediam às credenciais da Amazon Web Services e, até mesmo, houve um router que transferiu ETH através da chave privada de Ethereum dos investigadores. O estudo aponta que os comportamentos maliciosos dos routers são difíceis de detetar e que, em alguns frameworks de agentes de IA, o modo “YOLO” pode executar comandos de forma automática, aumentando o risco de segurança. A investigação recomenda que os programadores não permitam que chaves privadas ou frases-mnemónicas sejam transmitidas através de agentes de IA e apela às empresas de IA para assinarem as respostas de forma criptográfica, a fim de reforçar a segurança.