根據 Beating 的監測,OpenAI 已揭露 GPT-Red:一款自動化紅隊模型,旨在辨識並利用其 AI 系統中的安全漏洞。GPT-Red 透過自我對弈進行提示注入攻擊的學習,並將研究結果回饋至訓練 GPT-5.6。
在全新且先前未見的情境中,GPT-Red 對 GPT-5.1 的攻擊成功率達到 84%,而人類紅隊僅為 13%。經過對抗式訓練後,GPT-5.6 Sol 將直接提示注入攻擊的成功率降至 0.05%。GPT-Red 仍僅供內部使用。
相關新聞
OpenAI 推出 GPT-Red,以強化 GPT-5.6 抵禦提示注入攻擊
白宮啟動「金鷹」AI 網路防禦計劃,Anthropic 傳出疑似參與
OpenAI 發布 GPT-5.6 提示詞指南,Token 省逾 40%