OpenAI mengungkapkan minggu ini bahwa mereka berencana mengakuisisi startup keamanan AI Promptfoo, mengintegrasikan alat pengujian dan red-teaming perusahaan San Mateo, California tersebut ke dalam platform agen perusahaan mereka, Frontier.
OpenAI Menargetkan Kerentanan Agen AI dengan Pembelian Startup Promptfoo
Kesepakatan ini, yang diumumkan oleh OpenAI dan Promptfoo, akan membawa teknologi pengujian dan evaluasi keamanan otomatis Promptfoo ke dalam OpenAI Frontier, sebuah platform yang dirancang untuk membantu bisnis mengerahkan armada agen AI, sering disebut sebagai “rekan kerja AI.” Ketentuan keuangan tidak diungkapkan, dan akuisisi ini masih tunduk pada kondisi penutupan yang biasa.
Didirikan pada 2024 oleh Ian Webster dan Michael D’Angelo, Promptfoo membangun reputasi di kalangan pengembang untuk alat yang menguji secara stres model bahasa besar dan sistem agen. Perangkat lunaknya berfokus pada identifikasi kerentanan seperti serangan injeksi prompt, upaya jailbreak, kebocoran data, dan penyalahgunaan alat eksternal — masalah yang dapat muncul saat sistem AI terhubung ke data dan aplikasi dunia nyata.
Setelah kesepakatan selesai, sekitar 23 anggota tim Promptfoo akan bergabung dengan OpenAI. Perusahaan mengatakan alat sumber terbuka Promptfoo akan terus dipelihara dan didukung, sehingga pengembang dan organisasi yang menggunakan platform ini tidak akan mengalami gangguan.
Teknologi Promptfoo banyak digunakan untuk mensimulasikan serangan adversarial terhadap sistem AI. Platformnya mencakup red-teaming otomatis, pemindaian kode, deteksi kerentanan, dan alat perbaikan yang terintegrasi langsung ke dalam pipeline pengembangan seperti Github, Gitlab, dan Jenkins.
Perusahaan mengklaim adopsi di komunitas pengembang yang terus berkembang, termasuk lebih dari 350.000 pengembang secara keseluruhan dan lebih dari 130.000 pengguna aktif bulanan. Promptfoo juga melaporkan bahwa 127 perusahaan Fortune 500 — termasuk pengecer, penyedia telekomunikasi, dan perusahaan kesehatan — mengandalkan alatnya untuk pengujian dan evaluasi AI.
OpenAI meluncurkan Frontier pada 5 Februari 2026, menempatkannya sebagai sistem perusahaan untuk mengelola penyebaran besar agen AI yang dapat mengakses data perusahaan, melakukan tugas, dan berinteraksi dengan alat internal. Platform ini menyediakan kontrol identitas, kerangka tata kelola, dan pemantauan operasional yang dirancang untuk industri yang diatur.
Srinivas Narayanan, CTO aplikasi B2B OpenAI, mengatakan akuisisi ini akan membantu memperkuat kemampuan evaluasi dan keamanan bawaan Frontier.
“Promptfoo membawa keahlian rekayasa mendalam dalam mengevaluasi, mengamankan, dan menguji sistem AI dalam skala perusahaan,” kata Narayanan dalam sebuah pernyataan. “Kami bersemangat untuk membawa kemampuan ini langsung ke Frontier.”
CEO Promptfoo Ian Webster mengatakan integrasi dengan OpenAI dapat mempercepat upaya mengamankan penyebaran AI yang semakin kompleks. Saat agen mendapatkan akses ke data dan sistem operasional perusahaan, memvalidasi perilaku mereka menjadi jauh lebih menantang.
“Seiring AI agen menjadi lebih terhubung dengan data dan sistem nyata, mengamankan dan memvalidasi mereka menjadi lebih menantang dan penting dari sebelumnya,” kata Webster. “Bergabung dengan OpenAI memungkinkan kami mempercepat pekerjaan ini.”
Langkah ini mencerminkan pergeseran yang lebih luas dalam industri kecerdasan buatan saat perusahaan beralih dari chatbot eksperimental menuju agen perangkat lunak otonom yang mampu menjalankan alur kerja bisnis nyata. Akuisisi Promptfoo oleh OpenAI mengikuti akuisisi terbaru dari Peter Steinberger, pencipta Openclaw.
Dengan pergeseran ini muncul kekhawatiran yang meningkat terhadap risiko keamanan, mulai dari kebocoran data hingga agen yang melakukan tindakan tak diinginkan di dalam sistem perusahaan. Analis mengatakan alat red-teaming otomatis dan evaluasi semakin menjadi infrastruktur penting untuk penyebaran AI perusahaan.
Promptfoo telah mengumpulkan sekitar $23 juta dalam pendanaan ventura, termasuk pendanaan awal dari Andreessen Horowitz dan Seri A sebesar $18,4 juta yang dipimpin oleh Insight Partners pada 2025. Investor menggambarkan perusahaan ini sebagai pemain yang mendefinisikan kategori dalam keamanan aplikasi AI.
Bagi OpenAI, akuisisi ini menambahkan lapisan keamanan ke Frontier pada saat adopsi AI agen di perusahaan sedang meningkat — dan saat perusahaan yang menyebarkan agen tersebut menginginkan lebih sedikit kejutan dan lebih banyak pengaman.
FAQ 🔎
Promptfoo adalah platform keamanan AI yang menguji model bahasa besar dan agen AI terhadap kerentanan seperti serangan injeksi prompt, kebocoran data, dan eksploit jailbreak.
- Mengapa OpenAI mengakuisisi Promptfoo?
OpenAI berencana mengintegrasikan alat pengujian keamanan dan red-teaming Promptfoo ke dalam platform perusahaan Frontier untuk membuat penyebaran agen AI lebih aman dan lebih mudah dikelola.
- Apakah Promptfoo akan tetap sumber terbuka?
Ya, OpenAI mengatakan alat sumber terbuka Promptfoo akan terus dipelihara dan didukung untuk pengembang dan pengguna yang ada.
Frontier adalah platform perusahaan OpenAI untuk membangun, menyebarkan, dan mengelola armada agen AI yang dapat terhubung ke sistem perusahaan dan menjalankan alur kerja otomatis.
Penafian: Informasi di halaman ini dapat berasal dari pihak ketiga dan tidak mewakili pandangan atau opini Gate. Konten yang ditampilkan hanya untuk tujuan referensi dan bukan merupakan nasihat keuangan, investasi, atau hukum. Gate tidak menjamin keakuratan maupun kelengkapan informasi dan tidak bertanggung jawab atas kerugian apa pun yang timbul akibat penggunaan informasi ini. Investasi aset virtual memiliki risiko tinggi dan rentan terhadap volatilitas harga yang signifikan. Anda dapat kehilangan seluruh modal yang diinvestasikan. Harap pahami sepenuhnya risiko yang terkait dan buat keputusan secara bijak berdasarkan kondisi keuangan serta toleransi risiko Anda sendiri. Untuk detail lebih lanjut, silakan merujuk ke
Penafian.
