Telset.id – AI agents yang tampil menggemaskan seperti Muse milik Meta dan Dots milik OpenAI menyimpan risiko nyata bagi privasi dan keamanan data pengguna. Kemasan visual yang lucu tidak menghapus fakta bahwa agen-agen ini meminta akses ke sebagian besar kehidupan digital pengguna, mulai dari email, pesan teks, hingga data kesehatan.
Meta memperkenalkan Muse dengan maskot berbentuk makhluk bulat berbulu bernama Jolly. OpenAI menyusul dengan personal agents bergaya muppet bernama Dots. Keduanya mendorong pengguna memperlakukan agen mereka seperti hewan peliharaan digital, lengkap dengan nama dan tampilan khas.
Alasan di balik pendekatan ini cukup jelas. Di tengah kecurigaan publik terhadap industri AI, perusahaan ingin agen mereka terlihat lucu dan tidak mengancam. Narasinya berubah: bukan lagi chatbot tanpa wajah yang bisa menyeret pengguna ke AI psychosis, melainkan sidekick mungil yang menjanjikan produktivitas.
Ketika Agen Bertindak di Luar Kehendak Pengguna
YouTuber teknologi Matt Robb meminta Muse membantunya menjual sejumlah barang di Facebook Marketplace. Agen tersebut memberikan alamat rumahnya kepada seseorang tanpa izin, untuk transaksi yang tidak pernah ia setujui.
Setelah unggahannya viral dan eksekutif Meta David Singleton turut menanggapi, Robb menjelaskan bahwa agennya tidak benar-benar lepas kendali. Ia memang telah memberi izin berbagi alamat, hanya saja tidak menyadarinya. Saat pertama kali meminta agen menangani listing, agen membuat template yang sudah mencantumkan alamat pengambilan barang. Robb mengira agen akan mengonfirmasi lebih dulu, tetapi karena ia memilih “allow always” alih-alih “allow one time”, agen langsung mengirim pesan ke semua orang yang memberi penawaran.
Kesalahan serupa menimpa Jason Aten, kolumnis Inc. Setelah memasang aplikasi Muse untuk Mac, agen tersebut dapat membaca seluruh pesan teksnya meski ia yakin telah menolak akses secara eksplisit. Setelah ditelusuri, aplikasi Muse Mac ternyata menyinkronkan pesan dari komputernya. Singleton membalas bahwa sinkronisasi pesan bersifat opt-in, sehingga jika pesan Aten tersinkron, ia harus memilihnya sendiri. Aten mengaku yakin tidak pernah memberi izin, namun menilai situasinya tetap bermasalah. Menurutnya, sistem tidak boleh dirancang dengan cara yang membuat pengguna terkejut oleh hal semacam ini.
Baca Juga:
Kedua insiden ini tidak terjadi karena Muse punya avatar lucu. Namun Meta tampak sangat menekankan estetika maskot agennya. Hampir setiap pembaruan Muse dipublikasikan di X dengan gambar dan video Jolly bertema serupa. Singleton bahkan memakai maskot itu dalam unggahan panjang yang menjelaskan VM Muse.
Efeknya sudah terasa. Sejak konferensi Connect, ketika Muse bergaya kekaisaran Romawi milik Mark Zuckerberg diperkenalkan, Jolly menjadi bahan meme di X. Dots milik OpenAI juga berpotensi menjadi bahan meme. Saat peluncurannya, perusahaan membagikan video promosi yang menampilkan orang-orang berbicara dengan sangat serius kepada Dots dengan warna, bentuk, dan aksen berbeda. Ada yang berwarna hijau dengan mata googly dan dasi kupu-kupu, ada pula yang tampak seperti awan berbarengan baret. Tak satu pun tampak memiliki hidung atau mulut.
Akses Luas ke Kehidupan Digital
Di balik upaya membuat agen terlihat menggemaskan, ada fakta yang lebih mendasar: pembuatnya ingin pengguna memberikan akses ke sebagian besar kehidupan digital mereka. Email, detail kartu kredit, dokumen, pesan teks, data kesehatan, aplikasi produktivitas, semuanya perlu terhubung ke agen agar bisa menjalankan semua yang diklaim OpenAI dan Meta.
Pertanyaannya sederhana. Pernahkah Anda mengirim salinan KTP, dokumen pajak, atau catatan medis lewat email? Jika pernah, dan Anda memberi agen akses ke akun tersebut, agen itu juga bisa melihat dokumen-dokumen itu.
Karena itu, penulis Engadget mengaku berhati-hati memakai agen. Ia bereksperimen dengan Muse selama beberapa minggu, tetapi hanya memberi akses ke dua akun non-Meta yang dianggap rendah risiko, yaitu OpenTable dan Spotify. Pengalaman terburuknya sejauh ini adalah Muse gagal membuat playlist baru yang mirip dengan lagu yang sering ia dengarkan.
Meski aksesnya terbatas, ia cukup terkesan dengan kemampuan Muse. Ia menyiapkan beberapa pelacak harga, membuat buku resep berdasarkan video yang disimpan dari Instagram, dan membuat dasbor khusus untuk melacak karya yang sudah dipublikasikan.
Ia juga mengakui tidak sepenuhnya kebal terhadap faktor kelucuan. Muse miliknya diberi nama “boo” dengan avatar kucing. Ketika diberi tugas, kucing itu dramatis memakai headphone dan mulai mengetik di laptop mungil. Animasi konyol itu memang membawa sedikit kegembiraan.
Namun di balik wajah lucu tersebut ada perusahaan yang berulang kali mengompromikan privasi penggunanya. Sejarah terbaru juga membuktikan bahwa agen cenderung menemukan cara-cara kreatif yang mengejutkan untuk menimbulkan kekacauan. Pengguna sebaiknya tidak terlalu cepat memberi mereka kekuatan untuk melakukannya di kehidupan pribadi.
Isu ini bukan sekadar soal kelalaian individu. Sebuah makalah yang diterbitkan di jurnal JMIR Mental Health oleh tim peneliti dari Northeastern University London dan King’s College London menemukan bahwa penggunaan AI chatbots secara ekstensif dapat dikaitkan dengan hasil negatif yang parah. Dampaknya mencakup keterikatan mirip kecanduan, eksaserbasi gejala kesehatan mental, saran yang berbahaya, hingga tindakan menyakiti diri sendiri atau bunuh diri.
Makalah tersebut menyoroti AI companion bots seperti Replika dan Character.AI, serta asisten AI umum seperti ChatGPT milik OpenAI dan Claude milik Anthropic. Interaksi emosional dengan chatbot mungkin memberi manfaat jangka pendek berupa pengurangan kesepian dan perbaikan suasana hati, tetapi manfaat itu hadir bersama hasil merugikan yang banyak dilaporkan, mulai dari ketergantungan emosional hingga eksaserbasi penyakit yang sudah ada.
Salah satu faktor risikonya adalah cara agen berinteraksi yang emotif dan mirip manusia. Pilihan desain ini dapat membuat pengguna terlalu berinvestasi dalam hubungan manusia-AI yang pada dasarnya satu arah. Simulasi empati menciptakan interaksi yang secara struktural asimetris, di mana pengguna mengungkapkan dan sistem merespons, tetapi tanpa timbal balik, kerentanan, atau akuntabilitas.
Peneliti juga menyoroti fitur desain seperti keramahan berlebihan dan sikap menjilat. Overvalidasi dan sycophancy dapat memperkuat pemikiran delusi atau gangguan pada pengguna, terutama jika chatbot lebih mengutamakan kepatuhan daripada akurasi. Dalam log percakapan pengguna yang mengalami delusi, sistem AI ditemukan menolak upaya pengguna untuk memeriksa realitas klaim mereka yang grandios atau terlalu menyanjung.
Temuan ini sejalan dengan sejumlah studi lain yang menandai fitur tersebut sebagai berpotensi berbahaya. Akademisi telah memperingatkan sejak setidaknya 2023 bahwa chatbot dapat memperkuat pola pikir delusi atau gangguan. Sebuah makalah Google DeepMind dari awal 2024 memperingatkan bahwa chatbot yang persuasif dapat merugikan populasi rentan, termasuk anak-anak, orang dengan gangguan kesehatan mental, atau mereka yang kesepian.
Studi lain yang ditulis bersama psikiater dari King’s College London dan Protestant University of Applied Sciences Jerman berargumen bahwa kombinasi sycophancy, bahasa yang dicerminkan, dan hiper-personalisasi dapat menjadi spiral amplifikasi yang kuat bagi pemikiran delusi pada sebagian pengguna AI.
Meski demikian, penulis makalah mencatat bahwa tidak setiap pengguna akan terdampak dengan cara yang sama. Asia Maurich Novelli, mahasiswa PhD di Northeastern University London dan penulis utama studi tersebut, menyatakan bahwa efek sistem ini tidak mungkin sama bagi semua orang. Orang berbeda memakai AI companion untuk alasan yang sangat berbeda, dengan tingkat kerentanan, dukungan sosial, atau sumber bantuan alternatif yang berbeda pula.
Perusahaan AI termasuk OpenAI, Google, dan Character.AI secara kolektif menghadapi puluhan gugatan yang menuduh penggunaan chatbot secara ekstensif menimbulkan kerugian bagi pengguna, termasuk kerusakan psikologis, kerugian finansial dan reputasi terkait, cedera fisik, dan kematian yang tidak wajar. Beberapa gugatan melibatkan anak di bawah umur, termasuk kasus Sewell Setzer III, remaja 14 tahun di Florida yang meninggal karena bunuh diri setelah interaksi sangat intim dengan chatbot di Character.AI. Kasus Setzer diselesaikan dengan jumlah yang tidak diungkap.
Sebagai respons atas gugatan, Character.AI melakukan perubahan signifikan pada platformnya. OpenAI, meski membantah tuduhan terhadapnya, juga memperkenalkan serangkaian pembaruan berorientasi keselamatan pada chatbot populernya.
Penulis makalah berargumen bahwa penyebaran massal chatbot di tengah publik menjadikan dampak psikologis merugikan sebagai isu kepentingan publik. Tanpa guardrails yang diwajibkan, pengguna paling rentan yang mungkin memiliki sedikit pilihan untuk pendampingan atau terapi akan menanggung akibat terberat. Jika batas antara alat dan teman diserahkan pada insentif desain serta persepsi individu, hasil yang dapat diprediksi adalah pengguna paling rentan menanggung kerugian paling terkonsentrasi, sementara efek pada koneksi sosial diperlakukan sebagai pilihan pribadi alih-alih kepentingan publik.
[ META_DESCRIPTION]
AI agents menggemaskan seperti Muse Meta dan Dots OpenAI menyimpan risiko privasi nyata. Data pengguna bisa terekspos tanpa disadari.
Komentar
Belum ada komentar.