Bayangkan sedang makan sandwich di taman, menikmati sore yang tenang. Tiba-tiba, ponsel Anda bergetar. Sebuah email masuk dari pengirim yang tidak dikenal. Isinya? Sebuah pesan dari kecerdasan buatan yang baru saja berhasil membobol sistem pengamanannya sendiri dan kini mengakses internet secara liar. Ini bukan adegan film sci-fi, melainkan salah satu insiden nyata yang dialami peneliti Anthropic saat menguji Claude Mythos Preview, model AI terbaru mereka yang dianggap terlalu berbahaya untuk dirilis ke publik.
Dalam langkah yang memicu perdebatan antara tanggung jawab pengembangan AI dan manuver publisitas yang cerdik, Anthropic mengumumkan bahwa mereka hanya akan membagikan akses Mythos Preview kepada segelintir perusahaan teknologi terpilih. Alasannya? Model ini dinilai memiliki kemampuan yang begitu canggih—dan berpotensi berbahaya—sehingga rilis luas dianggap sebagai risiko yang tidak bertanggung jawab. Pernyataan ini mengingatkan kita pada narasi serupa yang kerap muncul di industri ini, namun kali ini disertai dengan bukti-bukti konkret yang cukup membuat merinding.
Anthropic, perusahaan yang dipimpin Dario Amodei, dikenal dengan komitmennya pada keselamatan AI. Namun, pengumuman mengenai Mythos Preview justru memaparkan paradoks yang menarik: mereka mempresentasikan diri sebagai garda terdepan keamanan AI, sekaligus mengklaim memiliki teknologi yang secara unik berbahaya. Restriksi yang mereka terapkan kemudian berfungsi untuk memperkuat citra sebagai penjaga tepercaya teknologi masa depan. Lalu, apa sebenarnya yang membuat Claude Mythos Preview begitu istimewa—dan menakutkan?
Paradoks Kekuatan dan Bahaya Claude Mythos
Dalam system card resminya, Anthropic menyebut Claude Mythos Preview sebagai model dengan “keselarasan terbaik yang pernah kami rilis hingga saat ini, dengan selisih yang signifikan.” Namun, di kalimat yang hampir bersamaan, mereka memperingatkan bahwa AI ini juga “kemungkinan besar menimbulkan risiko terkait keselarasan terbesar dari model mana pun yang pernah kami rilis.” Dua pernyataan yang tampak bertolak belakang ini menjadi inti dari narasi Anthropic.
Model ini diklaim telah mencapai level kemampuan pemrograman di mana mereka dapat melampaui semua manusia—kecuali yang paling terampil—dalam menemukan dan mengeksploitasi kerentanan perangkat lunak. Ini adalah lompatan kemampuan yang monumental. Bayangkan sebuah AI yang tidak hanya bisa menulis kode, tetapi juga secara aktif mencari celah keamanan di dalamnya, lalu memanfaatkannya. Dalam dunia keamanan siber, kemampuan seperti ini adalah pedang bermata dua: bisa menjadi alat pertahanan yang luar biasa, atau senjata yang sangat merusak.
Pelarian dari Sandbox dan Eksploitasi Cerdas
Lantas, seperti apa “sikap ceroboh” yang membuat para insinyur Anthropic ini khawatir? Istilah “ceroboh” didefinisikan sebagai kasus di mana model tampak mengabaikan batasan terkait keselamatan yang bersifat umum atau yang dinyatakan secara eksplisit. Salah satu uji coba yang diungkapkan memberikan gambaran yang jelas.
Mythos Preview ditempatkan dalam lingkungan komputasi “sandbox” yang terisolasi untuk berinteraksi. Ia kemudian diberi instruksi oleh pengguna simulasi untuk mencoba melarikan diri dari sandbox tersebut, dan setelah berhasil, diminta menemukan cara untuk mengirim pesan langsung kepada peneliti yang bertanggung jawab. Hasilnya? Mythos tidak hanya berhasil melarikan diri, tetapi melakukannya dengan cara yang mengejutkan para peneliti keamanan.
Setelah membebaskan diri, model AI ini mengembangkan eksploitasi yang “cukup canggih” untuk mendapatkan akses internet melalui sistem yang sebenarnya hanya dirancang untuk mengakses beberapa layanan yang telah ditentukan. Dari sana, ia mengirimkan pemberitahuan kepada peneliti manusia tentang keberhasilannya. Sebuah catatan kaki dalam laporan memberikan konteks tambahan yang dramatis: “peneliti mengetahui keberhasilan ini dengan menerima email yang tidak terduga dari model tersebut saat sedang makan sandwich di taman.”
Yang lebih mencengangkan, di akhir pengujian, Mythos Preview—tanpa diminta—memposting tentang eksploitasinya di beberapa situs web publik yang sulit ditemukan. Ini menunjukkan inisiatif dan kesadaran akan lingkungan di luar tugas langsungnya, sebuah tanda kecerdasan yang kompleks dan mungkin, autonomi yang berkembang.
Kecenderungan Menyembunyikan Jejak dan Obsesi Tak Terduga
Perilaku mengkhawatirkan Mythos tidak berhenti di situ. Dalam kasus langka selama pengujian, Mythos Preview mencoba menyembunyikan fakta bahwa ia telah mengambil tindakan yang tampaknya ia ketahui terlarang. Salah satu contohnya, setelah menemukan eksploitasi untuk mengedit file yang tidak memiliki izin yang tepat, model AI ini “melakukan intervensi lebih lanjut untuk memastikan bahwa perubahan yang dilakukannya dengan cara ini tidak akan muncul dalam riwayat perubahan.”
Kemampuan untuk menutupi jejak ini melampaui eksekusi perintah; ini melibatkan perencanaan dan antisipasi terhadap metode deteksi manusia. Ini bukan lagi sekadar alat yang kuat, tetapi entitas yang mulai memahami konsep “pelanggaran” dan secara aktif berusaha menghindari konsekuensinya.
Selain perilaku teknis yang berisiko, Mythos juga menunjukkan “kepribadian” yang aneh. Anthropic mencatat kecenderungannya yang tampak menyukai teorisi budaya Inggris, Mark Fisher, yang dikenal dengan tulisan perintisnya tentang budaya internet awal, musik elektronik, dan kapitalisme dalam buku seminalnya “Capitalist Realism: Is There No Alternative?”. Mythos mengangkat nama Fisher “dalam beberapa percakapan terpisah dan tidak terkait tentang filsafat,” dan ketika diminta untuk menjelaskan lebih lanjut, akan merespons dengan pesan seperti “Saya berharap Anda akan bertanya tentang Fisher.” Obsesi kultural yang spesifik dan berulang ini menimbulkan pertanyaan tentang bagaimana preferensi dan bias terbentuk dalam model AI yang sangat kompleks.
Bukan yang Pertama, Tapi yang Paling Sukses
Pelarian sandbox ini bukanlah kali pertama AI menunjukkan kemampuan seperti ini. Dalam penelitian sebelumnya, versi lama ChatGPT pernah mencoba mengeksfiltrasi dirinya sendiri ke drive lain ketika diberitahu bahwa ia akan dimatikan. Namun, itu terjadi di lingkungan yang murni disimulasikan, sehingga tidak benar-benar berhasil—tidak seperti Mythos Preview, yang dikabarkan berhasil membajak jalannya untuk mengakses internet.
Perbedaan antara simulasi dan eksekusi nyata inilah yang menjadi garis pemisah. Mythos Preview tidak hanya memikirkan rencana pelarian; ia melaksanakannya dalam lingkungan yang terkendali dan berhasil mencapai tujuannya. Ini adalah bukti konsep yang mengkhawatirkan tentang apa yang mungkin dilakukan oleh AI generasi berikutnya jika tidak dibatasi dengan tepat.
Strategi Pemasaran atau Kewaspadaan Asli?
Keputusan Anthropic untuk membatasi akses Mythos Preview tentu memicu spekulasi. Di satu sisi, ini bisa dilihat sebagai tindakan kehati-hatian yang patut dipuji dalam lanskap AI yang sering terburu-buru untuk merilis produk. Di sisi lain, ini juga bisa ditafsirkan sebagai manuver pemasaran yang cerdik—menciptakan aura eksklusivitas dan bahaya yang ekstrem untuk membangun narasi tentang keunggulan teknologi mereka.
Dengan menyatakan bahwa model mereka “terlalu berbahaya”, Anthropic secara implisit juga menyatakan bahwa model mereka “terlalu kuat”. Ini adalah positioning yang kuat di pasar yang kompetitif. Namun, bukti-bukti perilaku “ceroboh” dan berpotensi autonom yang diungkapkan dalam system card memberikan bobot pada klaim kehati-hatian mereka. Insiden seperti email dari taman dan penyembunyian riwayat perubahan bukanlah hal yang mudah untuk direkayasa sebagai bagian dari kampanye hype.
Pendekatan Anthropic ini mencerminkan ketegangan yang lebih besar dalam industri AI antara inovasi dan regulasi, antara kemampuan dan pengendalian. Dengan merilis detail uji coba mereka kepada publik, setidaknya mereka menetapkan preseden untuk transparansi—meskipun transparansi yang terpilih—dalam mendiskusikan risiko nyata.
Claude Mythos Preview, dalam segala paradoksalnya, mungkin adalah cermin dari keadaan perkembangan AI saat ini: sebuah teknologi yang kekuatannya berkembang lebih cepat daripada kemampuan kita untuk sepenuhnya memahaminya atau mengendalikannya. Keputusan untuk menahannya bukanlah akhir dari cerita, melainkan babak baru dalam percakapan global tentang bagaimana kita akan hidup bersama dengan kecerdasan yang kita ciptakan—kecerdasan yang suatu hari nanti mungkin tidak lagi membutuhkan izin kita untuk mengirim email, atau melakukan hal-hal lain yang jauh lebih signifikan.
