AI 代理程式安全需要全系統防禦:Google、Meta 警告
Google 和 Meta 的安全研究人員警告,自主型 AI 代理需要全系統的防禦架構,以因應新興的安全風險。專家提醒,僅靠傳統資安工具不足以防範由 AI 代理帶來的威脅,因為這些代理能夠保留記憶、呼叫外部工具、與其他代理協調,並可在沒有直接人工監督的情況下持續運作。這項擔憂源自企業在工作流程中快速部署 AI 代理,涵蓋付款、客戶服務、程式碼編寫、資安,以及金融作業。與先前偏聊天機器人式的系統不同,代理式 AI 引入持久記憶系統、工具執行,以及自主工作流程,從而產生新的攻擊面。這些互聯系統中的安全失敗,往往不會侷限於單一環節——遭入侵的指令或惡意輸入可能在外部可見之前,先在多個層級之間擴散。 Security Gaps in AI Agent Systems A survey of 116 AI-agent security papers identified major gaps in defenses against "cross-session" and "stack-propagating" threats, which are capable of moving across
Oliver Grant·05-26 14:15