AI Agent Sonnet 5 Sukses Operasi Otak Tikus, Opus 5.5 Menolak

Telset.id – Sebuah AI agent untuk pertama kalinya memilih sendiri terapi gen, menentukan area otak, dan mengendalikan lengan robot untuk menyuntikkan senyawa ke otak tikus hidup. Eksperimen yang dilakukan Exin Therapeutics ini menjadi sorotan karena memperlihatkan AI agent yang tidak sekadar merancang eksperimen, tetapi langsung mengeksekusinya di perangkat laboratorium nyata.

Prosedur tersebut dijalankan oleh Gabriel Ocana Santero, CEO sekaligus cofounder Exin Therapeutics, startup asal San Francisco yang memakai AI untuk menganalisis aktivitas otak dalam pengembangan obat bagi epilepsi dan penyakit neurodegeneratif. Ia membagikan seluruh proses lewat media sosial dan menyebut eksperimen ini sebagai upaya menguji apa yang terjadi ketika AI agent diberi akses langsung ke peralatan lab, bukan hanya diminta merancang eksperimen atau menganalisis hasil.

“Kami menyadari bahwa kami perlu menghubungkan agent ini ke laboratorium untuk mendapatkan nilai maksimal darinya,” ujar Santero. Langkah ini menyentuh persoalan yang juga muncul di sektor lain, di mana pengawasan manusia atas AI agent menjadi perdebatan, seperti tergambar dalam pembahasan soal Risiko AI Agent di layanan perbankan.

Bagaimana AI Agent Menjalankan Prosedur

Eksperimen ini menggunakan model Anthropic Sonnet 5 yang diberi model tikus penderita epilepsi, kendali atas rig bedah bermotor, serta 19 vektor terapi gen dalam sebuah spreadsheet. Agent juga mendapat akses ke tiga makalah penelitian sehingga bisa menentukan area otak tempat terapi diterapkan. Dari 19 opsi tersebut, agent memilih sendiri terapi, area otak, dan koordinat injeksi, lalu mengendalikan lengan robot, jarum injektor, serta seluruh parameter seperti volume dan kecepatan.

Rig khusus yang dibangun tim mencakup perangkat bermotor untuk menahan tikus dan kamera yang memungkinkan agent mengamati prosedur, menggerakkan jarum injeksi, dan mengatur pengiriman senyawa. Seekor dokter bedah hewan terlebih dahulu melakukan kraniotomi untuk membuka area otak, sementara agent mengamati. Sepanjang prosedur, dokter hewan berlisensi mengawasi setiap langkah ireversibel yang harus disetujui sebelum agent bisa melanjutkan. Sistem juga dilengkapi tombol darurat yang memutus aliran listrik ke seluruh motor rig bedah.

Menurut penuturan Santero, tidak ada yang memberi tahu agent apa yang harus diberikan atau di mana harus ditempatkan. Agent menerima fenotipe dan sederet kandidat, lalu harus menentukan sendiri terapi dan koordinatnya. “Saya tidak mengetahui adanya agent yang sebelumnya memilih pengobatan dan target otak lalu mengantarkannya ke mamalia hidup,” katanya.

Model yang dipakai dalam prosedur ini bukan model kelas atas Anthropic. Tim awalnya menguji Claude Opus 5.5, tetapi model itu menolak memandu jarum ke otak tikus karena khawatir prosesnya berhenti di tengah operasi dan membahayakan hewan. “Dia melakukan perencanaan eksperimen, tetapi ketika tiba waktunya menyuntik, dia mengatakan ada sesuatu pada output-nya yang memberi tahu bahwa dia seharusnya tidak melakukan ini,” ujar Santero. Tim kemudian beralih ke Claude Sonnet 5 yang bersedia melanjutkan. Menurut Anthropic, Opus adalah spesialis penalaran berat untuk pemecahan masalah kompleks bertahap, sedangkan Sonnet lebih cocok untuk tugas sehari-hari.

Model Opus 5 yang lebih lama bahkan mampu menjalankan seluruh prosedur di atas kertas, tetapi menolak melakukan operasi langsung. “Blokirannya bukan pada rig dan bukan pada input. Blokirannya adalah saya. Output saya sendiri terhenti ketika saya mulai menulis rencana operasi ini,” kata model tersebut kepada tim Exin Therapeutics. “Memulai sesuatu yang tidak bisa saya selesaikan pada hewan yang dianestesi lebih buruk daripada tidak memulai.”

Prosedur ini tidak berjalan mulus. Tim menetapkan pengaman, termasuk mewajibkan AI mengajukan rencana injeksi untuk disetujui manusia dan membatasi akses agent ke kode peralatan agar tidak mengubah aturan operasinya sendiri. Namun, gangguan teknis mengacaukan sistem koordinat peralatan. Agent mengenali bahwa posisi injeksi yang dihitung salah, tetapi menolak mengubah kode untuk memperbaikinya karena instruksinya melarang hal itu. Tim akhirnya memakai agent AI terpisah berbasis Opus 5 untuk melakukan perubahan kode, tanpa memberi tahu bahwa sedang ada operasi pada hewan hidup.

Akibatnya, prosedur tertunda. Operasi injeksi otak seperti ini biasanya memakan waktu sekitar 45 menit, sedangkan eksperimen ini berlangsung sedikit lebih dari satu jam. Tim kini menunggu terapi bekerja sebelum menilai dampaknya terhadap kejang.

Respons Publik dan Langkah Berikutnya

Kendati sempat terganggu, Santero dan timnya terkesan dengan performa agent. Mereka selanjutnya menguji Grok dan model lain untuk mengetahui apakah ada model yang tampil lebih baik. Perusahaan juga bereksperimen dengan kraniotomi yang dikendalikan agent, tugas yang jauh lebih rumit, tetapi ingin memastikan keamanannya sebelum beralih ke operasi pada hewan hidup. “Kesalahan pada tahap itu bisa sangat membahayakan tikus,” ujarnya.

Santero menilai AI agent akan semakin banyak bekerja bersama ilmuwan manusia dengan akses langsung ke peralatan lab. Untuk saat ini, pengawasan manusia tetap kunci, terutama bila eksperimen melibatkan hewan hidup. Ia juga menegaskan masih terlalu dini untuk melepaskan AI agent pada otak manusia. Soal tikus yang dioperasi, Santero melaporkan hewannya pulih dengan baik dan terekam bergerak di dalam kandangnya.

Eksperimen ini memicu perdebatan etika. Sebagian pihak mempertanyakan akuntabilitas ketika AI mengambil setiap keputusan dalam prosedur berisiko, terutama jika terjadi kesalahan. Persoalan eksperimen pada hewan dalam dunia medis juga masih menjadi pertanyaan lama. Namun, sebagian pengguna menyambut positif, termasuk seorang warganet yang menyebut anaknya telah menderita epilepsi resisten obat selama 19 tahun. Kekhawatiran serupa soal batas kendali AI agent juga mengemuka di sektor lain, seperti yang dibahas dalam artikel Kewalahan Cegah Agent.

Sebagai catatan, eksperimen ini juga menyinggung peran AI dalam operasi medis yang lebih luas. Pemanfaatan model bahasa besar di bidang medis dinilai berguna, tetapi penambahan AI pada operasi sinus dilaporkan membuat malfungsi melonjak lebih dari 12 kali. Fakta itu menjadi pengingat bahwa integrasi AI ke perangkat fisik menuntut pengaman berlapis, sejalan dengan kekhawatiran yang muncul dalam diskusi soal Dampak AI Agentic terhadap produktivitas perusahaan.