David Sacks Mengkritik Aturan Keamanan AI AS setelah Kimi K3 Memperbaiki Bug Keamanan

David Sacks, kepala kebijakan AI dan kripto di Gedung Putih yang dikenal sebagai “crypto czar”, mengkritik pagar pengaman keamanan model AI AS pada 19 Juli melalui X, dengan menyebut model AI Tiongkok Kimi K3 sebagai contoh. Sacks mengatakan Kimi K3 memperbaiki 15 bug keamanan kritis yang ditolak untuk ditangani oleh model AS Codex dan Fable karena “cyber guardrails”, dengan berargumen tidak ada alasan untuk membatasi model Amerika pada tugas yang ditangani model Tiongkok tanpa masalah. Kritik ini menyoroti perdebatan yang masih berlangsung soal pembatasan keamanan AI, setelah para ahli keamanan siber sebelumnya memperingatkan dalam surat Juni kepada Presiden Trump bahwa membatasi penggunaan AI oleh peneliti keamanan dan organisasi pertahanan dapat melemahkan kemampuan pertahanan siber.

Sacks Mengutip Perbaikan Bug Keamanan Kimi K3 yang Diblokir Model AI AS

Dalam unggahan X-nya pada 19 Juli, Sacks menulis: “Kimi K3 baru saja memperbaiki 15 bug keamanan kritis yang Codex dan Fable menolak karena ‘cyber guardrails’. Tidak ada alasan untuk membatasi model Amerika pada tugas yang ditangani model Tiongkok tanpa masalah. Kita hanya membuat diri kita kurang kompetitif.”

“Cyber guardrails” yang diterapkan pada Codex dan Fable adalah mekanisme keselamatan yang dirancang untuk membatasi permintaan yang berpotensi dieksploitasi untuk tujuan berbahaya seperti pembuatan malware atau penyusupan sistem. Namun, para pengkritik mencatat bahwa pembatasan ini juga membatasi analisis kerentanan keamanan dan riset defensif, sehingga mengurangi kegunaan praktis model AI AS.

Hugging Face Beralih ke GLM 5.2 Tiongkok Setelah Pagar Pengaman Model AS Memblokir Analisis

Sacks memberikan contoh lain dalam unggahan lanjutan: “Hugging Face mencoba menggunakan model frontier Amerika untuk menganalisis serangan siber yang digerakkan AI. Tapi pagar pengaman memblokir permintaan yang berisi payload eksploit nyata, jadi mereka beralih ke GLM 5.2 yang dijalankan secara lokal.”

Ia menyatakan bahwa “pagar pengaman justru mengganggu keamanan defensif”, dengan menekankan bahwa pembatasan tersebut menghambat riset keamanan yang sah, bukan meningkatkan perlindungan.

Para Ahli Keamanan Siber Memperingatkan Trump di Juni tentang Risiko Pembatasan AI

Menurut Axios, para ahli keamanan siber yang dipimpin Alex Stamos, mantan Chief Security Officer Facebook, mengirim surat terbuka kepada Presiden Trump pada Juni. Surat itu memperingatkan bahwa “membatasi peluang pemanfaatan AI bagi institusi riset keamanan dan organisasi defensif justru dapat melemahkan kemampuan pertahanan siber.”

Para ahli itu mencatat bahwa model AI terbaru sudah digunakan di seluruh industri aset digital untuk meningkatkan level keamanan melalui pemantauan smart contract, analisis kerentanan, peninjauan kode, dan pengujian penetrasi.

FAQ

Apa yang David Sacks katakan tentang model AI Tiongkok Kimi K3 pada 19 Juli?

David Sacks menyatakan di X bahwa Kimi K3 memperbaiki 15 bug keamanan kritis yang ditolak ditangani oleh model AI AS Codex dan Fable karena “cyber guardrails”. Ia berargumen tidak ada alasan untuk membatasi model Amerika pada tugas yang ditangani model Tiongkok tanpa masalah, dengan mengklaim AS sedang membuat dirinya kurang kompetitif.

Mengapa Hugging Face beralih dari model AI AS ke GLM 5.2 Tiongkok?

Hugging Face mencoba menggunakan model AI frontier Amerika untuk menganalisis serangan siber yang digerakkan AI, tetapi pagar pengaman memblokir permintaan yang berisi payload eksploit nyata. Akibatnya, tim riset beralih untuk menggunakan model AI sumber terbuka Tiongkok GLM 5.2 yang dijalankan secara lokal.

Apa yang diperingatkan para ahli keamanan siber kepada Presiden Trump pada Juni?

Para ahli keamanan siber yang dipimpin mantan Facebook CSO Alex Stamos mengirim surat terbuka kepada Presiden Trump pada Juni, memperingatkan bahwa membatasi penggunaan AI oleh institusi riset keamanan dan organisasi defensif dapat melemahkan kemampuan pertahanan siber. Mereka mencatat bahwa model AI terbaru digunakan untuk pemantauan smart contract, analisis kerentanan, peninjauan kode, dan pengujian penetrasi di industri aset digital.