600 karyawan Google menandatangani petisi: Menolak Gemini masuk ke jaringan militer rahasia Pentagon

Lebih dari 600 karyawan Google (termasuk lebih dari 20 wakil presiden dan eksekutif senior) menandatangani surat terbuka kepada CEO Sundar Pichai, meminta perusahaan menolak perjanjian baru yang memperluas Gemini ke jaringan rahasia Pentagon.
Karyawan menunjukkan bahwa dalam lingkungan rahasia, tidak ada entitas eksternal yang dapat mengendalikan sistem AI, dan langkah perlindungan yang ada secara teknis tidak dapat dilaksanakan.
(Penjelasan latar belakang: Panduan startup Y Combinator: Tren perkembangan AI Agent di masa depan?)
(Latar belakang tambahan: Penelitian Universitas California tentang fenomena “Kabut Otak AI”: 14% pekerja kantor terganggu oleh Agent dan otomatisasi, keinginan keluar kerja meningkat empat puluh persen)

Daftar Isi Artikel

Toggle

• Dari non-rahasia ke rahasia
• Paradoks struktural dalam lingkungan rahasia
• Menghilangnya diam-diam Prinsip AI Google, dan perbandingan dengan sejarah Maven

Lebih dari 600 karyawan Google menandatangani surat terbuka kepada CEO Sundar Pichai, termasuk peneliti senior DeepMind, lebih dari 20 wakil presiden dan eksekutif senior, meminta perusahaan agar tidak mengizinkan Gemini masuk ke jaringan militer rahasia Pentagon.

Dari non-rahasia ke rahasia

Mari kita rangkum dulu kerjasama kedua belah pihak. Pada akhir 2022, Google bersama AWS, Microsoft, dan Oracle memenangkan salah satu proyek pengadaan cloud utama Departemen Pertahanan AS, JWCC, dengan batas total 9 miliar dolar AS.

Pada Desember 2025, platform GenAI.mil berbasis Gemini resmi diluncurkan untuk lingkungan non-rahasia.

Hingga Maret 2026, agen AI Gemini telah didistribusikan ke seluruh 3 juta personel Departemen Pertahanan.

Semua ini masih merupakan aplikasi di lingkungan non-rahasia.

Namun, negosiasi perjanjian baru saat ini bertujuan memperluas fungsi Gemini ke lingkungan “rahasia”: yaitu jaringan tertutup yang dipisahkan secara fisik dari jaringan eksternal, yang khusus digunakan untuk operasi militer rahasia. Singkatnya: Gemini akan masuk ke pusat komando operasi.

Perbedaan posisi di meja negosiasi sangat jelas. Google berusaha menandai garis merah dalam kontrak: melarang penggunaan Gemini untuk melacak warga negara sendiri, atau melakukan pengambilan keputusan serangan tanpa intervensi manusia.
Namun, posisi Pentagon adalah “semua penggunaan yang sah”, tanpa menyisakan batasan yang jelas, dan secara tegas menetapkan bahwa pihak eksternal tidak boleh memiliki kendali atas sistem AI mereka.

Dua syarat ini bertentangan langsung. Dalam surat bersama, karyawan menunjukkan bahwa langkah perlindungan yang diajukan perusahaan “secara teknis tidak dapat dilaksanakan.”

Paradoks struktural dalam lingkungan rahasia

Penggagas surat menyoroti sebuah masalah mendasar: “Kerja rahasia secara definisi adalah tidak transparan.”
Artinya, begitu Gemini masuk ke jaringan rahasia, Google sendiri pun tidak bisa melihat apa yang dilakukannya.

Di lingkungan non-rahasia, Google dapat melakukan audit panggilan API, memantau keluaran model, mengatur pengamanan, dan melakukan intervensi saat menemukan masalah.
Di lingkungan rahasia, semua ini tidak ada.

Karyawan dalam surat tersebut menyebutkan kekhawatiran konkret: analisis profil individu (profiling, yaitu menggunakan AI untuk membangun model perilaku dan identitas target), serta menjadikan warga sipil tak bersalah sebagai target serangan.
Situasi penggunaan ini bukan asumsi, melainkan pola yang sudah ada dalam operasi militer berbantuan AI.

Dilema yang dihadapi manajemen Google saat ini adalah: secara teknis mereka tidak dapat menjamin kepada karyawan bahwa Gemini tidak akan digunakan untuk tujuan tertentu, karena mereka sama sekali tidak bisa memverifikasi di jaringan tersebut.

Menghilangnya diam-diam Prinsip AI Google, dan perbandingan dengan sejarah Maven

Pada Februari 2025, Google diam-diam mengubah Prinsip Penggunaan AI, menghapus ketentuan yang secara tegas melarang “pengembangan senjata atau pengawasan AI.”
CEO DeepMind Demis Hassabis menyatakan alasan perubahan ini adalah kompetisi kepemimpinan AI global sedang berlangsung, dan organisasi pengawas hak asasi manusia serta Amnesty International segera mengkritik perubahan tersebut secara terbuka.

Kasus Maven tahun 2018, dengan 4.000 karyawan yang menandatangani petisi dan setidaknya 12 orang mengundurkan diri, akhirnya memaksa Google untuk tidak memperpanjang kontrak, dan kontrak tersebut diambil alih oleh Palantir.

Maven Project Google dan Departemen Pertahanan AS tahun 2018

Proyek ini bertujuan menggunakan teknologi AI dan pembelajaran mesin Google untuk secara otomatis menganalisis citra udara dari drone, membantu militer AS dalam mengenali target.
Namun, proyek ini memicu perlawanan etika yang sengit di internal Google, menjadi titik balik penting dalam sejarah kolaborasi teknologi dan militer.

Keberhasilan kasus Maven sebagian karena pada 2018, aplikasi militer AI masih merupakan isu pinggiran, dan biaya reputasi Google lebih tinggi daripada nilai kontraknya.
Delapan tahun kemudian, AI telah menjadi inti dari infrastruktur pertahanan, dan Google bersama AWS serta Microsoft sedang bersaing secara agresif untuk mendapatkan kontrak besar.

Posisi pasar, tekanan politik, dan pola persaingan semuanya mengarah ke satu arah:
Sebuah surat tampaknya tidak cukup untuk melawan kepentingan pasar besar di balik kontrak-kontrak tersebut.