CEO Google DeepMind Demis Hassabis menyerukan agar AS memimpin badan standar yang mengawasi model AI baru dan menilai risiko keamanan nasional, termasuk ancaman siber dan biologis, dalam sebuah artikel yang diposting di X pada Selasa. Pemenang Nobel itu mengatakan diperlukan tindakan mendesak untuk mengatasi risiko yang terkait dengan artificial general intelligence (AGI), seraya menyoroti bahwa model frontier sudah menimbulkan tantangan keamanan siber dan bahwa risiko nuklir serta bio mungkin segera muncul seiring kemampuan AI terus meningkat. Seruan tersebut muncul di tengah meningkatnya ketegangan regulasi, dengan Anthropic dan OpenAI yang baru-baru ini menghadapi kontrol ekspor sementara dan pembatasan peluncuran dari pemerintahan Trump.
Hassabis Mengusulkan Kemitraan Publik-Swasta yang Dipimpin AS untuk Pengawasan AI
Hassabis mengusulkan kemitraan publik-swasta yang dipimpin AS dan diawasi oleh pemerintah federal sebagai solusi untuk mengatasi ancaman AI. Ia mengatakan AS berada pada posisi yang baik untuk memimpin pengembangan kerangka kerja AI mengingat posisi ekonomi dan teknisnya. Badan yang diusulkan akan dimodelkan seperti kemitraan publik-swasta yang diawasi pemerintah secara federal atau organisasi swakelola, mirip Financial Industry Regulatory Authority (FINRA), dengan dewan yang mencakup para ahli teknis independen terkemuka serta perwakilan open-source.
Badan standar tersebut memerlukan pendanaan yang besar untuk menarik talenta teknis kelas dunia dan menyediakan sumber daya komputasi yang diperlukan untuk pengujian skala besar, dengan pendanaan kemungkinan berasal dari industri, kata Hassabis. Frontier labs pada awalnya secara sukarela akan membagikan model kepada badan tersebut untuk ditinjau hingga 30 hari sebelum rilis, sebelum menjadi wajib untuk penerapan di pasar AS setelah ditunjukkan efektif.
Uji spesifik untuk agentic AI bisa menyoroti upaya untuk membypass pagar pengaman keselamatan atau tanda-tanda penipuan, serta memastikan praktik terbaik seperti memberi watermark digital pada gambar yang dihasilkan AI dan menghasilkan token keluaran yang dapat dibaca manusia untuk memahami penalaran model, kata Hassabis.
Komentar tersebut muncul sebulan setelah Hassabis dan CEO Anthropic Dario Amodei menyerukan koalisi yang dipimpin AS untuk membentuk aturan dan standar seputar AI dalam pertemuan G7 dengan pemimpin teknologi dan kepala negara yang mencakup Presiden Donald Trump, menurut sumber yang berbicara kepada CNBC. Sam Altman dari OpenAI juga menyerukan badan serupa dalam sebuah artikel yang diterbitkan Financial Times awal bulan ini.
![chart visualization]()
Model AI Tiongkok Mendapat Daya Tarik saat Legislator AS Mempertimbangkan Pembatasan
Seruan untuk pengawasan regulasi yang lebih besar muncul ketika persaingan antara AS dan Tiongkok untuk mengembangkan dan menerapkan model AI memanas. Rilis model terbaru dari perusahaan Tiongkok, termasuk DeepSeek dan Z.ai, dipandang banyak pihak sangat kompetitif dibanding sistem frontier terkemuka dari Anthropic dan OpenAI, serta semakin mendapat daya tarik di kalangan perusahaan AS saat biaya AI meningkat.
Anggota parlemen AS saat ini sedang mempertimbangkan cara untuk membatasi adopsi yang terus meningkat terhadap model AI Tiongkok oleh perusahaan dalam negeri, yang diberitahukan oleh Kementerian Luar Negeri kepada CNBC sebagai menimbulkan kekhawatiran serius. Dalam beberapa minggu terakhir, Anthropic terkunci dalam negosiasi dengan pejabat setelah pemerintahan Trump untuk sementara memberlakukan kontrol ekspor atas sebuah model canggih. OpenAI juga menghadapi pembatasan setelah semula diminta oleh pemerintah AS untuk membatasi peluncuran model baru.
![Chinese AI models are gaining ground with U.S. companies]()
FAQ
Apa yang diusulkan Demis Hassabis pada Selasa?
Demis Hassabis, CEO Google DeepMind, menyerukan agar AS memimpin badan standar yang mengawasi model AI baru dan menilai risiko keamanan nasional termasuk ancaman siber dan biologis dalam sebuah artikel yang diposting di X pada Selasa.
Bagaimana badan standar AI yang diusulkan akan beroperasi?
Badan yang diusulkan akan dimodelkan seperti kemitraan publik-swasta yang diawasi secara federal yang mirip FINRA, dengan dewan yang mencakup para ahli teknis independen dan perwakilan open-source. Frontier labs pada awalnya secara sukarela akan membagikan model untuk ditinjau hingga 30 hari sebelum rilis, sebelum menjadi wajib untuk penerapan di pasar AS setelah ditunjukkan efektif. Pendanaan kemungkinan berasal dari industri untuk menarik talenta teknis dan menyediakan sumber daya komputasi untuk pengujian skala besar.
