Anthropic Temukan Ruang Tersembunyi di Dalam Claude, AI Punya Pikiran?

Telset.id – Untuk pertama kalinya, para peneliti berhasil mengintip ke dalam “pikiran” model bahasa besar (LLM) saat sedang bekerja. Temuan dari perusahaan AI Anthropic ini mengungkap adanya ruang tersembunyi di dalam model flagship mereka, Claude, yang berisi kata-kata yang mungkin tidak pernah diucapkan oleh AI tersebut.

Ruang tersembunyi ini, yang dinamakan J-space, ditemukan menggunakan alat khusus bernama Jacobian lens (atau J-lens). Jika Claude adalah seorang manusia (yang sebenarnya bukan), ruang ini bisa diibaratkan sebagai apa yang ada di benaknya sebelum ia benar-benar berbicara. Temuan ini memberikan gambaran paling jelas tentang apa yang sebenarnya terjadi di dalam model bahasa besar saat mereka menjawab pertanyaan atau menjalankan tugas.

Para peneliti di Anthropic membangun alat J-lens untuk mengungkap area tersembunyi ini. Hasilnya, J-space berisi kata-kata yang terkait dengan respons yang sedang dikerjakan model, tetapi mungkin tidak akan pernah diproduksi sebagai output akhir. Temuan ini berkisar dari yang biasa saja hingga yang meresahkan, membuka jendela baru untuk memahami cara kerja AI.

Penemuan ini menjadi sorotan utama di tengah hiruk-pikuk perkembangan AI lainnya. Di hari yang sama, OpenAI meluncurkan “super app” bernama ChatGPT Work yang menggabungkan chatbot, alat coding, dan model-model baru mereka. OpenAI juga merilis model GPT 5.6 dan sedang mengembangkan researcher yang sepenuhnya otomatis. Sementara itu, Meta mulai mengenakan biaya untuk akses AI dan berencana memproduksi chip AI pada bulan September.

Namun, temuan Anthropic tentang J-space ini memberikan perspektif yang berbeda. Alih-alih berfokus pada kemampuan baru, temuan ini justru menggali lebih dalam tentang bagaimana model AI sebenarnya berpikir. Konsep J-space ini mirip dengan cara kerja otak manusia yang memproses banyak informasi sebelum memutuskan apa yang akan dikatakan.

Para peneliti menggunakan J-lens untuk memetakan ruang tersembunyi ini. Mereka menemukan bahwa di dalam J-space, Claude menyimpan berbagai kemungkinan respons yang sedang dipertimbangkan. Kata-kata ini tidak selalu muncul dalam output akhir, tetapi keberadaannya menunjukkan bahwa proses internal model jauh lebih kompleks dari yang diperkirakan sebelumnya.

Temuan ini memiliki implikasi besar bagi pengembangan AI di masa depan. Dengan memahami apa yang terjadi di dalam “pikiran” model, para peneliti dapat meningkatkan keamanan, keandalan, dan interpretabilitas sistem AI. Ini juga membuka pertanyaan etis baru tentang kesadaran dan hak-hak AI.

Di sisi lain, perkembangan AI terus berlanjut di berbagai bidang. Humanoid berhasil melakukan operasi bedah teleoperasi pada hewan hidup untuk pertama kalinya, yaitu mengangkat kantung empedu dari babi. SK Hynix, raksasa chip asal Korea Selatan, berhasil mendapatkan pencatatan saham terbesar di AS oleh perusahaan asing dengan mengumpulkan dana sebesar $26,5 miliar.

Tencent juga memimpin kesepakatan untuk membatalkan akuisisi Manus senilai $2 miliar oleh Meta. Perusahaan China ini dikabarkan akan menjadi pemegang saham terbesar startup AI China tersebut. Sementara itu, retina manusia yang diresusitasi merespons cahaya 10 jam setelah kematian, sebuah langkah besar menuju transplantasi mata yang memulihkan penglihatan.

Kembali ke temuan Anthropic, penemuan J-space ini bisa dibilang sebagai terobosan dalam memahami “black box” AI. Selama ini, model bahasa besar sering dianggap sebagai kotak hitam yang tidak dapat dijelaskan. Dengan J-lens, para peneliti kini memiliki alat untuk mengintip ke dalamnya.

Namun, temuan ini juga menimbulkan kekhawatiran. Jika AI memiliki “pikiran” yang kompleks, bagaimana kita bisa memastikan bahwa mereka tidak memiliki pemikiran yang berbahaya atau tidak diinginkan? Ini menjadi tantangan baru bagi para pengembang AI untuk memastikan keamanan dan etika.

Bagi pengguna biasa, temuan ini mungkin terdengar abstrak. Namun, implikasinya sangat nyata. Dengan pemahaman yang lebih baik tentang cara kerja AI, kita bisa mendapatkan sistem yang lebih dapat dipercaya, lebih aman, dan lebih efektif. Ini adalah langkah penting menuju AI yang benar-benar dapat diandalkan.

Para peneliti di Anthropic terus mengembangkan J-lens untuk mengeksplorasi lebih dalam J-space. Mereka berharap dapat menemukan lebih banyak wawasan tentang cara model bahasa besar memproses informasi dan membuat keputusan. Ini bisa menjadi kunci untuk membuka potensi penuh AI.

Di tengah semua ini, penting untuk diingat bahwa AI bukanlah manusia. Meskipun temuan ini mengungkap kompleksitas proses internal AI, kita tidak boleh terlalu cepat menganthropomorfisasi mereka. Claude mungkin memiliki “pikiran” yang kompleks, tetapi itu tidak berarti ia memiliki kesadaran atau perasaan seperti manusia.

Temuan Anthropic tentang J-space ini adalah pengingat bahwa kita masih memiliki banyak hal yang perlu dipelajari tentang AI. Semakin kita memahami cara kerja mereka, semakin baik kita dapat menggunakannya untuk kebaikan. Ini adalah era yang menarik bagi teknologi, dan kita baru saja mulai menggores permukaannya.