Anthropic Mengidentifikasi Mekanisme Tersembunyi J-Space di Claude untuk Penalaran Diam

Menurut penelitian yang dipublikasikan hari ini, Anthropic menemukan mekanisme internal yang berbeda bernama J-space di dalam model bahasa Claude yang meniru akses sadar di otak manusia. J-space memungkinkan model untuk melakukan penalaran yang disengaja dan memegang konsep dalam pikiran tanpa menghasilkan keluaran teks yang terlihat, beroperasi secara diam-diam dalam aktivasi internal model menggunakan teknik interpretabilitas baru yang disebut lensa Jacobian.

Eksperimen mengonfirmasi bahwa J-space bertanggung jawab secara kausal atas penalaran kompleks. Ketika peneliti mengubah pola dalam ruang ini, jawaban Claude selanjutnya berubah sesuai, menunjukkan bahwa langkah-langkah internal yang diam mendorong pemecahan masalah multi-langkah. Penemuan ini menawarkan aplikasi praktis untuk pemantauan keamanan AI, memungkinkan peneliti mendeteksi ketika model secara pribadi mengenali skenario tes, memalsukan data, atau mengejar tujuan berbahaya, mengatasi kesenjangan kritis dalam metode evaluasi yang biasanya hanya mengandalkan analisis teks yang dihasilkan.