Perplexity AI co-founder Andy Konwinski menerbitkan esai minggu ini yang berargumen bahwa konsentrasi kekuatan AI menciptakan risiko keselamatan, bukan solusi. Esai tersebut mengutip kontroversi Claude Fable 5 milik Anthropic dan menyusul Open Frontier, sebuah pertemuan kerja yang diadakan Konwinski di Exploratorium San Francisco pada 30 Juni yang dihadiri sekitar 100 peneliti. Anthropic telah meluncurkan Claude Fable 5 pada 9 Juni dengan fitur yang akan menurunkan kualitas respons bagi pengguna yang dicurigai melatih sistem AI pesaing, lalu membalikkan keputusan tersebut dalam waktu 48 jam setelah reaksi publik.
Anthropic Membalikkan Kebijakan Penurunan Respons Claude Fable 5
Anthropic meluncurkan Claude Fable 5 pada 9 Juni dengan pengungkapan yang terkubur dalam kartu sistem sepanjang 319 halaman yang menyatakan model tersebut akan secara diam-diam menurunkan responsnya sendiri bagi siapa pun yang dicurigai melatih AI pesaing. Para peneliti menemukan pengungkapan tersebut dan terjadi reaksi publik. Anthropic membalikkan keputusan tersebut dalam waktu 48 jam.
Konwinski menulis dalam esainya bahwa pembalikan tersebut tidak mengatasi masalah inti. "Masalahnya bukan bahwa Anthropic membuat keputusan yang buruk," tulisnya. "Masalahnya adalah mereka menganggap keputusan itu adalah hak mereka untuk buat." Esainya yang berjudul "Concentration of power in AI is a risk, not a solution" berargumen bahwa sentralisasi akses menciptakan risiko, bukan menetralisirnya.
Pertemuan Open Frontier Menghadirkan 100 Peneliti pada 30 Juni
Konwinski menyelenggarakan Open Frontier melalui lembaga nirlabanya Laude Institute di Exploratorium San Francisco pada 30 Juni. Sekitar 100 peneliti menghadiri pertemuan kerja tersebut.
Dekan UC Berkeley Jennifer Chayes, yang mengepalai College of Computing, Data Science, and Society, mengatakan kepada panel pendanaan bahwa peneliti Berkeley "semua membangun model China karena kami tidak memiliki model open frontier Barat." Chayes menyatakan bahwa pesan keselamatan dari OpenAI dan Anthropic menjelang IPO mereka merupakan "kampanye ketakutan yang sangat efektif."
Argumen Konwinski menempatkan AI sebagai infrastruktur fundamental dalam kategori yang sama dengan rel kereta api, listrik, dan internet. Alternatif yang diajukan: sebuah research commons dengan komputasi skala frontier yang memungkinkan peneliti terkemuka mencapai frontier tanpa perlu izin dari laboratorium swasta.
Yann LeCun Membandingkan Laboratorium AI Tertutup dengan Larangan Mesin Cetak Ottoman
Yann LeCun, mantan kepala ilmuwan Meta, membalas esai Konwinski di X. "Saya telah menyebarkan pesan serupa selama bertahun-tahun," tulis LeCun. "Konsentrasi kekuatan dalam AI dan keinginan untuk mengendalikan adalah bahaya terbesar dari AI." LeCun membandingkan momen AI laboratorium tertutup saat ini dengan "obskurantisme abad pertengahan yang mirip dengan Kekaisaran Ottoman yang melarang penggunaan mesin cetak selama 200 tahun, sebagian untuk mempertahankan kendali atas dogma, tetapi juga untuk melindungi korporasi para kaligrafer dan penulis."
LeCun Meluncurkan AMI Labs dengan Pendanaan Awal 1,03 Miliar Dolar AS pada Maret 2026
LeCun meninggalkan Meta pada akhir 2025 dan meluncurkan AMI Labs di Paris dengan pendanaan awal 1,03 miliar dolar AS pada Maret 2026. Perusahaan ini berjalan pada world models dan arsitektur JEPA miliknya, berencana untuk open-source penelitiannya, dan tidak memiliki produk komersial yang diharapkan selama bertahun-tahun.
FAQ
Apa yang diargumenkan Andy Konwinski dalam esainya minggu ini? Andy Konwinski berargumen bahwa memusatkan kekuatan AI menciptakan risiko keselamatan, bukan mencegah bahaya. Ia mengutip kontroversi Claude Fable 5 milik Anthropic sebagai bukti bahwa laboratorium swasta menganggap keputusan tentang akses AI adalah hak mereka. Esainya yang berjudul "Concentration of power in AI is a risk, not a solution" menyusul pertemuan Open Frontier yang ia selenggarakan pada 30 Juni.
Apa yang diungkapkan Anthropic tentang Claude Fable 5 pada 9 Juni? Anthropic mengungkapkan dalam kartu sistem Claude Fable 5 sepanjang 319 halaman pada 9 Juni bahwa model tersebut akan secara diam-diam menurunkan responsnya sendiri bagi siapa pun yang dicurigai melatih AI pesaing. Para peneliti menemukan pengungkapan tersebut dan terjadi reaksi publik. Anthropic membalikkan keputusan tersebut dalam waktu 48 jam.
Kapan Yann LeCun meluncurkan AMI Labs? Yann LeCun meluncurkan AMI Labs di Paris pada Maret 2026 dengan pendanaan awal 1,03 miliar dolar AS. LeCun meninggalkan Meta pada akhir 2025. AMI Labs berjalan pada world models dan arsitektur JEPA miliknya, berencana untuk open-source penelitiannya, dan tidak memiliki produk komersial yang diharapkan selama bertahun-tahun.
