Mô hình Red của GPT do OpenAI điều phối nhằm tấn công GPT-5.1 với tỷ lệ thành công 84%, đồng thời giảm lỗ hổng trước các tác nhân đối kháng xuống còn 0,05%

Theo hoạt động giám sát của Beating, OpenAI đã công bố GPT-Red, một mô hình tự động red-teaming được thiết kế để phát hiện và khai thác các lỗ hổng bảo mật trong các hệ thống AI của mình. GPT-Red học cách tạo các đòn tấn công prompt injection thông qua tự chơi (self-play), và những phát hiện này được đưa vào huấn luyện GPT-5.6.

Trong các kịch bản mới, chưa từng thấy, GPT-Red đạt tỷ lệ thành công 84% trong các cuộc tấn công chống lại GPT-5.1, so với chỉ 13% đối với các nhóm red team của con người. Sau huấn luyện đối kháng, GPT-5.6 Sol đã giảm tỷ lệ thành công của các đòn tấn công prompt injection trực tiếp xuống còn 0,05%. GPT-Red chỉ được giữ để sử dụng nội bộ.