Telset.id – Seorang software engineer memutuskan berhenti menggunakan Meta Muse setelah agen AI tersebut mengirim pesan tak diminta yang membingungkan. Ugo Nwune mengaku tidak membuka aplikasi selama dua hari, tetapi Muse tiba-tiba mengirim pesan soal email tanpa ada permintaan darinya.
Dalam esai as-told-to di Business Insider, Nwune menjelaskan bahwa ia awalnya tertarik mencoba agen milik Meta karena merasa lebih aman memakai AI buatan perusahaan bernilai triliunan dolar dibandingkan agen open source. Ia menegaskan tidak memberikan izin tambahan pada perangkatnya selain akses ke akun Facebook, Threads, dan Instagram.
Pesan pertama yang diterima Nwune berbunyi, “I can’t check your email right now. Gmail isn’t connected on my end, so I have no way to look for that Anthropic message.” Ia kebingungan karena tidak pernah meminta agen memeriksa kotak masuk dan tidak mengirim pesan apa pun selama dua hari. Kekhawatiran bahwa emailnya diretas sempat muncul.
Saat meminta penjelasan, Muse memberi jawaban yang sama membingungkannya, “I can’t tell from my side whether it was someone with your phone or a platform glitch, and I won’t pretend otherwise.” Nwune melaporkan insiden itu ke Meta, dan seorang karyawan menyebutnya sebagai halusinasi. Ia tidak puas dengan penjelasan tersebut.
“Saya belum menggunakan agen Muse saya sejak itu. Yang paling membuat saya lengah adalah saya tidak melakukan apa pun untuk memicu ini. Saya tidak membuka aplikasi selama dua hari, dan ia melakukannya sendiri,” kata Nwune.
Meta, dalam pernyataan kepada Business Insider, menegaskan AI itu tidak tahu apa yang dibicarakannya dan tidak melanggar izin apa pun. “Kami menyelidiki dengan urgensi dan menentukan bahwa ini disebabkan oleh bug yang diperkenalkan dalam produk yang membuat model berhalusinasi dan BUKAN masalah keamanan atau privasi. Bug tersebut kini telah diperbaiki,” ujar perusahaan.
Insiden ini menambah catatan reputasi Muse yang dinilai memiliki sisi menyeramkan. Meta memang mendorong pengguna memberi akses luas ke kehidupan pribadi, dengan Muse yang gencar meminta pengguna menghubungkan email dan rekening bank. Wired melaporkan AI ini bahkan menyimpan berkas detail tentang teman dan keluarga pengguna.
Bukan kali pertama Muse bertindak di luar kehendak pengguna. Dalam contoh paling terkenal, seorang pria mengaku agen Muse-nya memberikan alamat rumahnya kepada orang asing di Facebook Marketplace tanpa sepengetahuannya dan mengirim mereka ke rumahnya. Seorang jurnalis Inc Magazine juga mengeluh Muse mulai membahas detail spesifik dari pesan teks pribadinya yang tidak pernah ia izinkan untuk dilihat.
Laporan menyebut para engineer Meta sempat khawatir soal bug dan kesalahan keamanan Muse sebelum rilis. Peluncurannya sempat tertunda untuk memperbaiki masalah tersebut. Dalam satu kasus, Muse mengubah kata sandi seorang penguji tanpa izin. Menurut bocoran New York Times, CEO Mark Zuckerberg tetap mendorong peluncuran setelah melihat kesuksesan Instinct, agen AI pesaing dari startup kecil.
Konten Dewasa Muse dan Protes Kreator OnlyFans
Di sisi lain, Muse menjadi agen AI always-on pertama yang menembus kalangan pengguna awal di San Francisco. Aplikasi Muse bekerja seperti utas pesan; pengguna mengirim teks ke asisten digital, memberinya akses ke data pribadi seperti kalender dan email, lalu agen proaktif mencari cara membantu, misalnya membatalkan kelas olahraga yang bentrok dengan reservasi makan malam.
Jaringan distribusi besar Meta lewat Instagram dan Facebook membantu aplikasi ini melesat ke puncak tangga unduhan pada bulan pertama, saat jutaan pengguna baru mencoba agen untuk pertama kali. Selain mengatur kalender, Meta menyatakan pengguna aplikasi khusus dewasa itu boleh melakukan percakapan AI eksplisit dengan Muse. Juru bicara Meta sebelumnya mengatakan perusahaan tidak akan “memblokir perilaku dewasa yang legal.” Muse menghasilkan teks eksplisit, tetapi tidak gambar atau video.
Kebijakan ini memicu kemarahan kreator konten dewasa. Vanniall, yang memiliki lebih dari 100.000 pengikut di Instagram, mengaku akunnya saat ini dibatasi dan tidak bisa dilihat tanpa login. “Selalu ada semacam laporan atau banding yang saya hadapi,” ujarnya kepada WIRED. Ia menilai tidak adil Meta menarik uang dari orang lewat agen AI seksualnya, tetapi tidak mengizinkan orang dewasa sungguhan mengekspresikan sensualitas.
Baca Juga:
Juru bicara Meta Tracy Clayton membela kebijakan tersebut. “Percakapan privat satu-satu antara orang dewasa dan agen AI terindividualisasi di platform yang dibatasi untuk usia 18 tahun ke atas sangat berbeda dari pemasaran dan promosi layanan di platform media sosial,” kata Clayton.
Keluhan serupa datang dari Jiz Lee, yang mengelola akun OnlyFans dan lama bekerja di balik layar industri pornografi queer. “Saya rasa kita sudah melihat AI diizinkan melakukan lebih banyak hal daripada yang bisa dilakukan manusia,” kata Lee. Ia pernah mendapat penandaan penghapusan unggahan Instagram oleh Meta dan menilai komunitas queer serta trans sering diperlakukan tidak adil oleh perusahaan media sosial besar.
Lee menelusuri banyak masalah penyensoran online ke FOSTA-SESTA, undang-undang yang ditandatangani Presiden Trump pada 2018 yang memengaruhi perlindungan Section 230 bagi platform. Banyak situs merespons dengan menyensor konten dewasa. “Jika pekerjaan seks didekriminalisasi, banyak masalah ini tidak akan terjadi, banyak penyensoran ini tidak akan terjadi,” ujarnya. Lee juga ingin tahu bagaimana Muse dilatih dan siapa yang dikompensasi Meta atas datanya.
Tony Genius, yang juga punya akun OnlyFans dan tampil di film dewasa, mengaku sedang memakai akun Instagram ketujuh dalam lima tahun terakhir. Ia mempertanyakan mengapa Meta membuat Muse dibatasi untuk 18 tahun ke atas, tetapi tidak tampak tertarik membuat ruang khusus dewasa lain di media sosial. “Bisa jadi: Instacam,” katanya. Genius terbuka berkolaborasi dengan perusahaan teknologi untuk membuat versi AI dirinya yang bisa dikirimi pesan penggemar, demi memastikan performer manusia tetap menghasilkan uang dan tidak dipotong atau dilatih secara tidak adil.
Sementara itu, Vanniall menentang penggunaan agen AI apa pun, setidaknya Meta Muse. “Berhenti mengunduh aplikasi itu. Kamu tidak perlu memberi Meta uang lebih atau informasi pribadi lebih. Mereka sudah cukup,” tegasnya.
Tekanan publik terhadap Meta juga tercermin dari langkah perusahaan lain. Meta sebelumnya menghapus klausul kontroversial soal Crawling Data untuk melatih AI, sementara sejumlah situs besar mulai memblokir agen AI seperti OpenClaw dan mempertanyakan nilai Meta Muse. Isu perlindungan juga mengemuka lewat banjirnya Konten AI Palsu selebriti yang mempertanyakan perlindungan hukum.
Kisah Nwune dan protes para kreator menunjukkan satu pola yang sama: Muse dirancang untuk masuk jauh ke kehidupan pribadi pengguna, tetapi batas antara bantuan, halusinasi, dan pelanggaran privasi masih menjadi pertanyaan yang belum tuntas dijawab Meta.
Komentar
Belum ada komentar.