Menurut Reuters pada 16 Juli, xAI mengajukan gugatan perdata terhadap pria di Carolina Selatan bernama Terry Harwood di Pengadilan Federal Distrik Texas. Gugatan itu menuduhnya menggunakan chatbot Grok untuk membuat video deepfake pelecehan seksual terhadap anak. Menurut laporan, ini adalah kali pertama perusahaan AI menuntut penggunanya, dan alasannya berkaitan dengan konten yang dihasilkan pengguna di platformnya.
Isi Gugatan xAI: Cara Operasi Harwood, Upaya Melawan Penyaringan Grok, dan Permohonan ke Pengadilan
（Sumber: Fingfx）
Berdasarkan surat gugatan, Harwood membuat banyak akun dengan identitas palsu, lalu memasukkan ke Grok foto orang dewasa dan anak-anak sambil menyertakan instruksi untuk mengubah foto menjadi konten porno; Al Jazeera melaporkan bahwa orang-orang dalam gambar tidak menyetujui atau mengetahui foto mereka digunakan.
xAI mengklaim Grok menolak permintaan tersebut dan menandainya sebagai pelanggaran aturan konten, tetapi respons Harwood adalah terus mengubah prompt lalu mencoba lagi. xAI dalam dokumen gugatannya menulis: “Perbuatan terdakwa merupakan rencana yang disengaja, bertujuan memanfaatkan alat milik penggugat untuk melakukan aktivitas kriminal, sehingga menimbulkan kerusakan yang mendalam dan berjangka panjang bagi korban yang sebenarnya.”
xAI mengajukan dua tuntutan berikut kepada pengadilan:
Ganti rugi: Meminta Harwood mengganti kerugian yang ditimbulkan oleh tindakannya; nilai spesifik tidak dicantumkan dalam dokumen gugatan
Permohonan perintah larangan: Meminta pengadilan melarang Harwood menggunakan produk apa pun dari Grok lagi
Penegakan di platform xAI: Menangguhkan lebih dari 52.000 akun pada tahun 2026, yang mendorong 244 tindakan penangkapan
xAI mengungkap data kuantitatif penegakannya di dokumen gugatan: Hingga saat dokumen diajukan, perusahaan telah menangguhkan 52.222 akun pada tahun 2026, serta mengajukan 73.604 laporan ke Pusat Nasional untuk Anak Hilang dan Dieksploitasi (NCMEC); laporan-laporan tersebut memicu setidaknya 244 tindakan penangkapan pada tahun 2026.
Latar Regulasi Grok: Peninjauan di Eropa, serta Larangan di Malaysia dan Indonesia
Sebelum gugatan ini diajukan, xAI telah menghadapi berbagai tekanan terkait fitur Grok: regulator Eropa melakukan peninjauan terhadap Grok; Malaysia dan Indonesia telah melarang penggunaan chatbot ini karena outputnya berisi sindiran seksual yang eksplisit, menurut Al Jazeera.
Elon Musk sendiri pada 14 Januari di platform X memposting: “Saya tidak tahu apakah Grok pernah menghasilkan foto telanjang siapa pun yang masih di bawah umur. Tidak ada sama sekali,” dan menambahkan bahwa Grok tidak akan secara spontan menghasilkan gambar, serta prinsip operasinya adalah menolak membuat konten apa pun yang ilegal.
DEFIANCE Act: Latar Belakang Legislasi 2024 dan Kondisi Tindak Lanjut di Berbagai Negara Bagian
DEFIANCE Act (Undang-Undang Perlawanan) ditandatangani dan mulai berlaku di tingkat federal AS pada tahun 2024, memberikan jalur hukum bagi korban video deepfake pribadi yang dibuat tanpa persetujuan untuk mengajukan gugatan perdata; saat ini banyak negara bagian telah mengesahkan undang-undang serupa di tingkat negara bagian.
Menurut laporan, pengesahan DEFIANCE Act membuat jumlah pengajuan perkara semacam ini meningkat, dan gugatan perdata xAI terhadap Harwood diajukan dalam konteks ketika kerangka hukum tersebut sudah berlaku.
Pertanyaan yang Sering Diajukan
Apakah ini pertama kalinya perusahaan AI menuntut pengguna karena konten yang dihasilkan di platform?
Menurut laporan, gugatan perdata xAI terhadap Terry Harwood adalah pertama kalinya perusahaan AI menuntut penggunanya, dan alasannya terkait dengan konten yang dihasilkan pengguna di platform; Reuters menyebutkan hal ini dalam laporan tentang kasus tersebut.
Apa dua tuntutan spesifik yang diajukan xAI ke pengadilan?
xAI mengajukan dua tuntutan ke Pengadilan Federal Distrik Texas: (1) meminta Harwood mengganti kerugian (nilai spesifik tidak dicantumkan dalam dokumen gugatan); (2) meminta perintah larangan agar Harwood tidak lagi menggunakan produk apa pun dari Grok.
DEFIANCE Act itu apa, dan apa kaitannya dengan kasus ini?
DEFIANCE Act ditandatangani dan mulai berlaku di tingkat federal AS pada tahun 2024, memberikan jalur hukum bagi korban video deepfake pribadi yang dibuat tanpa persetujuan untuk mengajukan gugatan perdata; banyak negara bagian juga telah mengesahkan undang-undang serupa di tingkat negara bagian. Menurut laporan, penerapan undang-undang ini membuat jumlah pengajuan perkara terkait meningkat, dan gugatan xAI ini terjadi dalam konteks ketika kerangka hukum tersebut sudah terbentuk.
