Sekretaris Jenderal PBB António Guterres membuka Dialog Global pertama tentang Tata Kelola AI di Jenewa pada hari Senin, menyampaikan kepada 193 negara anggota bahwa kecerdasan buatan berkembang lebih cepat daripada kemampuan institusi untuk mengaturnya. Guterres memperingatkan bahwa penerapan AI melampaui bahkan para pengembang yang membangunnya, menggambarkan lintasan saat ini sebagai "eksperimen pada dirinya sendiri tanpa rencana, dan tanpa persetujuan." KTT ini menandai upaya multilateral pertama untuk menetapkan tata kelola AI internasional di bawah mandat PBB yang diciptakan oleh Kompak Digital Global 2024.
Guterres Memperingatkan Terhadap Pendekatan Vibe Coding dalam Tata Kelola AI
Guterres meminjam istilah "vibe coding"—yang diciptakan oleh Andrej Karpathy, anggota pendiri OpenAI dan mantan direktur AI di Tesla—untuk menggambarkan praktik membiarkan AI menulis perangkat lunak tanpa pengawasan manusia yang ketat. Ungkapan tersebut, yang baru-baru ini ditambahkan ke kamus Merriam-Webster, mengacu pada pemrograman berdasarkan perasaan: beri tahu AI apa yang Anda inginkan, biarkan AI menangani sisanya, jangan terlalu dekat melihatnya.
"Vibe coding bisa menghasilkan keajaiban," aku Guterres, karena semakin banyak orang mempercayai produk buatan AI. "Tetapi kita tidak bisa vibe-code kebenaran. Kita tidak bisa vibe-code masa depan umat manusia."
Dia memberi tahu ruangan bahwa AI mencapai satu miliar pengguna dalam dua tahun, dibandingkan dengan 15 tahun untuk internet. "Sistem saat ini bukan lagi alat yang menunggu instruksi—mereka menulis kode, bertindak secara online, dan membuat pilihan dengan pengawasan manusia yang semakin sedikit," katanya. "Institusi kita dibangun untuk mengatur mesin yang mengikuti perintah. Mereka belum siap untuk mesin yang memutuskan."
Kepala PBB Mengidentifikasi Tiga Risiko Inti AI: Kecepatan, Kekuasaan, dan Kebenaran
Guterres menarik tiga peringatan dari laporan awal Panel Ilmiah Internasional Independen tentang Kecerdasan Buatan, yang diterbitkan minggu lalu oleh 40 ilmuwan dari 140 negara. Panel tersebut menemukan bahwa saat ini tidak ada yang dapat menjamin AI tidak akan menyebabkan kerugian yang dahsyat.
Peringatan pertama adalah kecepatan: "Sebuah teknologi yang dapat membentuk kembali ekonomi, mengubah dunia kerja, mempengaruhi pemilu, dan menggeser keseimbangan keamanan sedang diterapkan lebih cepat daripada siapa pun—termasuk orang yang membangunnya—dapat mengikutinya," kata Guterres dalam pidato utamanya.
Yang kedua adalah kekuasaan: komputasi, data, dan bakat terkonsentrasi di segelintir perusahaan dan negara, mengunci sebagian besar dunia dari keputusan yang sudah membentuknya.
Yang ketiga adalah kebenaran. Guterres menyatakan bahwa kebohongan yang dimungkinkan oleh mesin kini membujuk seefektif fakta yang terverifikasi, mengikis "integritas ekosistem informasi kita" secara terus-menerus.
Guterres Meluncurkan Janji Keamanan Anak AI dan Menyerukan Larangan Senjata
Guterres mengumumkan Janji Keamanan Anak AI yang mewajibkan perusahaan untuk membuktikan keamanan melalui pengujian independen sebelum AI apa pun menjangkau anak-anak. Janji tersebut menetapkan toleransi nol untuk pembuatan gambar pelecehan seksual anak dan mewajibkan anak-anak yang mengalami tekanan dihubungkan ke dukungan manusia nyata daripada dibiarkan sendirian dengan chatbot. "Tidak ada anak yang boleh menjadi kelinci percobaan untuk AI yang tidak diatur," katanya.
Dia juga menyebut senjata otonom yang mematikan—mesin yang memilih dan membunuh target tanpa penilaian manusia—"secara moral menjijikkan" dan menuntut larangan berdasarkan hukum internasional. Negara-negara sudah berada di meja diskusi, catat Guterres, dan dia tidak menyarankan mereka untuk berlama-lama.
PBB Jadwalkan Dialog AI Kedua di New York untuk 2027
Dialog Global tentang Tata Kelola AI akan kembali diadakan di New York pada tahun 2027. Guterres juga menyerukan Majelis Umum untuk membuat Dana Global untuk AI yang berfokus pada akses komputasi bagi negara-negara berkembang. Dia menantang setiap perusahaan AI besar untuk menjalankan semua pusat data dengan energi terbarukan pada tahun 2030—tahun di mana dia memperkirakan fasilitas-fasilitas tersebut akan melampaui konsumsi listrik semua negara kecuali lima negara.
Tanya Jawab
Apa yang diperingatkan oleh Sekretaris Jenderal PBB Guterres tentang tata kelola AI di KTT Jenewa?
Guterres memperingatkan bahwa kecerdasan buatan berkembang lebih cepat daripada kemampuan institusi untuk mengaturnya, menggambarkan penerapan AI saat ini sebagai "eksperimen pada dirinya sendiri tanpa rencana, dan tanpa persetujuan." Dia menggunakan istilah "vibe coding"—membiarkan AI menulis perangkat lunak tanpa pengawasan manusia yang ketat—sebagai metafora untuk tata kelola yang pasif secara berbahaya, dengan menyatakan, "Kita tidak bisa vibe-code masa depan umat manusia."
Proposal konkret apa yang diajukan Guterres di KTT tata kelola AI?
Guterres meluncurkan Janji Keamanan Anak AI yang mewajibkan perusahaan untuk membuktikan keamanan melalui pengujian independen sebelum AI menjangkau anak-anak, mempertahankan toleransi nol untuk pembuatan gambar pelecehan seksual anak, dan menghubungkan anak-anak yang mengalami tekanan ke dukungan manusia nyata. Dia juga menuntut larangan hukum internasional terhadap senjata otonom yang mematikan dan menyerukan Dana Global untuk AI untuk menyediakan akses komputasi bagi negara-negara berkembang. Selain itu, dia menantang perusahaan AI besar untuk menjalankan semua pusat data dengan energi terbarukan pada tahun 2030.
Kapan PBB akan menggelar dialog tata kelola AI berikutnya?
Dialog Global kedua tentang Tata Kelola AI dijadwalkan akan kembali diadakan di New York pada tahun 2027.
