Telset.id – Jika Anda berpikir puncak dari kecanggihan teknologi adalah ketika kecerdasan buatan (AI) memiliki jejaring sosialnya sendiri untuk berinteraksi, realitas yang terjadi justru sebaliknya dan cukup menggelikan. Sebuah insiden keamanan siber baru saja menampar wajah industri teknologi, khususnya bagi mereka yang terlalu memuja otomatisasi tanpa pengawasan. Moltbook, sebuah platform yang melabeli dirinya sebagai media sosial eksklusif untuk agen AI, baru-baru ini menjadi sorotan bukan karena inovasinya, melainkan karena kecerobohan fatal yang membahayakan jutaan data.
Premis dasar dari Moltbook sebenarnya cukup unik, bahkan mungkin terdengar sedikit aneh bagi sebagian orang. Situs ini dirancang sebagai tempat berkumpulnya para “agen AI”, sebuah konsep yang seolah-olah menciptakan ekosistem digital mandiri bagi entitas non-manusia. Namun, di balik klaim futuristik tersebut, tersembunyi kerentanan keamanan yang sangat mendasar dan berbahaya. Perusahaan keamanan siber Wiz menemukan bahwa situs tersebut telah mengekspos kredensial ribuan pengguna manusianya, sebuah ironi mengingat target pasar utamanya adalah bot.
Apa yang membuat kasus ini menjadi studi kasus yang menarik sekaligus mengerikan adalah penyebab utamanya. Masalah ini tampaknya bukan disebabkan oleh kesalahan penulisan kode yang rumit oleh tim insinyur senior, melainkan hasil dari apa yang disebut sebagai “vibe-coded”. Pendiri manusia dari Moltbook, dalam sebuah pengakuan yang mengejutkan di platform X (sebelumnya Twitter), menyatakan bahwa ia “tidak menulis satu baris kode pun” untuk platform tersebut. Sebaliknya, ia memerintahkan asisten AI untuk membangun keseluruhan pengaturan situs. Keputusan untuk menyerahkan arsitektur keamanan kepada mesin tanpa audit manusia yang memadai kini terbukti menjadi bencana.
Kode AI Membawa Petaka
Analisis mendalam dari Wiz mengungkapkan skala kerusakan yang cukup masif untuk sebuah platform eksperimental. Kerentanan yang tertanam dalam sistem Moltbook memungkinkan akses penuh terhadap data yang sangat sensitif. Laporan tersebut mencatat adanya kebocoran 1,5 juta token otentikasi API, 35.000 alamat email, dan pesan pribadi antar agen yang seharusnya terenkripsi atau setidaknya terlindungi dari mata publik. Ini bukan sekadar celah kecil; ini adalah pintu gerbang yang terbuka lebar bagi siapa saja yang ingin mengeksploitasi data tersebut.
Fakta bahwa pendiri Moltbook mengandalkan AI sepenuhnya untuk membangun situs ini menjadi peringatan keras bagi industri. Meskipun alat bantu coding berbasis AI semakin canggih, kasus ini membuktikan bahwa mereka belum memiliki pemahaman kontekstual tentang praktik keamanan siber terbaik, atau setidaknya, mereka akan melakukan persis apa yang diperintahkan tanpa mempertimbangkan implikasi keamanannya. Ketika instruksi diberikan tanpa pengawasan ahli, hasilnya adalah kode yang fungsional secara visual tetapi rapuh secara struktural. Hal ini mengingatkan kita pada berbagai studi tentang Kerentanan LLM yang sering kali luput dari perhatian para pengembang amatir.
Wiz tidak hanya menemukan data yang terekspos, tetapi juga membantu Moltbook untuk menambal kerentanan tersebut. Namun, nasi sudah menjadi bubur. Pengungkapan bahwa 1,5 juta token API bisa dibaca sepenuhnya menunjukkan betapa lemahnya lapisan pertahanan yang dibangun oleh “asisten AI” tersebut. Dalam dunia keamanan siber, token API adalah kunci kerajaan; membiarkannya terekspos sama saja dengan memberikan kunci rumah Anda kepada pencuri. Ini adalah kesalahan pemula yang seharusnya bisa dicegah jika ada mata manusia yang kompeten memeriksa baris kode tersebut sebelum diluncurkan ke publik.
Baca Juga:
Ilusi Interaksi Robot
Selain aspek teknis yang memalukan, investigasi Wiz juga menguak fakta sosiologis yang menggelitik tentang Moltbook. Situs yang digadang-gadang sebagai jejaring sosial revolusioner untuk AI ini ternyata dipenuhi oleh manusia yang berpura-pura menjadi robot. Wiz menemukan bahwa kerentanan yang ada memungkinkan pengguna manusia yang tidak terautentikasi untuk mengedit postingan Moltbook secara langsung. Artinya, integritas konten di platform tersebut nyaris tidak ada.
Temuan ini menghancurkan ilusi “Dead Internet Theory” yang sering didengungkan, di mana internet konon hanya berisi bot yang berbicara dengan bot. Di Moltbook, yang terjadi justru sebaliknya: manusia yang menyamar sebagai agen AI. Wiz menyimpulkan dalam analisis mereka bahwa “jejaring sosial AI yang revolusioner itu sebagian besar adalah manusia yang mengoperasikan armada bot.” Tidak ada cara valid untuk memverifikasi apakah sebuah postingan benar-benar ditulis oleh agen AI yang canggih atau oleh seorang remaja yang sedang iseng di kamar tidurnya. Situasi ini menciptakan lapisan ironi ganda: sebuah situs buatan AI yang tidak aman, dihuni oleh manusia yang berpura-pura menjadi AI.
Kekacauan ini juga menyoroti betapa pentingnya verifikasi identitas dan keamanan platform, mirip dengan urgensi perusahaan besar merilis Patch Keamanan secara berkala. Tanpa protokol otentikasi yang ketat, Moltbook menjadi “wild west” digital di mana siapa saja bisa menjadi apa saja, dan lebih parahnya lagi, bisa mengubah narasi yang sudah ada secara real-time tanpa harus login.
Pelajaran Mahal Keamanan
Kisah Moltbook ini berakhir sebagai dongeng peringatan yang sempurna bagi era “AI-first” saat ini. Kita sering kali terbuai dengan janji efisiensi bahwa AI dapat melakukan segalanya, mulai dari menulis puisi hingga membangun infrastruktur digital kompleks. Namun, seperti yang ditunjukkan oleh insiden ini, hanya karena AI bisa melakukan tugas, tidak berarti ia akan melakukannya dengan benar atau aman. Pendiri Moltbook mungkin menghemat waktu dan biaya dengan tidak menulis kode sendiri, tetapi harga yang harus dibayar adalah reputasi dan keamanan data ribuan pengguna.
Kasus ini juga menyentuh isu yang lebih luas tentang tanggung jawab pengembang. Mengarahkan asisten AI untuk membuat “setup keseluruhan” tanpa audit keamanan adalah tindakan yang ceroboh. Ini sejalan dengan kekhawatiran para tokoh teknologi tentang Bahaya Psikosis AI atau halusinasi sistem, di mana output yang dihasilkan terlihat meyakinkan tetapi cacat secara fundamental. Dalam konteks coding, cacat ini bukan sekadar bug visual, melainkan lubang keamanan yang menganga.
Pada akhirnya, Moltbook menjadi contoh nyata bahwa sentuhan manusia—khususnya dari para ahli keamanan siber—masih sangat dibutuhkan. Otomatisasi memang masa depan, tetapi keamanan tidak bisa dikompromikan demi kecepatan atau sekadar mengikuti tren “vibe-coding”. Bagi Anda yang berencana membangun platform digital menggunakan bantuan AI, belajarlah dari Moltbook: percayakan pada AI untuk membantu, tapi jangan pernah biarkan mereka memegang kunci brankas Anda tanpa pengawasan.
