Model Red GPT dari OpenAI Menyerang GPT-5.1 dengan Tingkat Keberhasilan 84%, Menurunkan Kerentanan Terhadap Serangan Adversarial hingga 0,05%

Berdasarkan pemantauan oleh Beating, OpenAI telah meluncurkan GPT-Red, sebuah model red-teaming otomatis yang dirancang untuk mengidentifikasi dan mengeksploitasi kerentanan keamanan pada sistem AI-nya. GPT-Red mempelajari cara menyusun serangan prompt injection melalui self-play, dengan temuan yang kemudian dimasukkan ke pelatihan GPT-5.6.

Dalam skenario baru yang belum pernah terlihat, GPT-Red mencapai tingkat keberhasilan serangan sebesar 84% terhadap GPT-5.1, dibandingkan hanya 13% untuk tim red-teaming manusia. Setelah adversarial training, GPT-5.6 Sol menurunkan tingkat keberhasilan serangan prompt injection langsung menjadi 0,05%. GPT-Red hanya tersedia untuk penggunaan internal.