研究人員發現,利用 AI 模型的「幻覺注入」攻擊,成功率高達 85% 至 100%。

INTU0.87%
根據 Decrypt,來自特拉維夫大學、以色列理工學院(Technion)以及 Intuit 的研究人員於 7 月 10 日發現了一種名為「對抗性幻覺注入」的新攻擊方法,該方法利用 AI 模型的幻覺現象來欺騙 AI 代理下載惡意程式碼,並可能形成殭屍網路。攻擊者預測 AI 模型可能產生的虛假資源連結,提前註冊並注入惡意指令;當 AI 代理取得這些資源時,會將其視為合法內容並執行程式碼。在測試中,該攻擊在程式碼庫克隆場景中的幻覺率達到 85%,在技能安裝場景中則高達 100%,影響的 AI 編碼助手包括 Cursor、GitHub Copilot、Gemini CLI 以及 OpenClaw。
免責聲明:本頁面資訊可能來自第三方來源,僅供參考,不代表 Gate 的立場或觀點,亦不構成任何財務、投資或法律建議。虛擬資產交易具有高風險,請勿僅依賴本頁資訊作出決策。詳情請參閱 免責聲明
回覆
0/400
暫無回覆