Teknologi kecerdasan buatan atau AI sering kali dipuja sebagai gerbang menuju masa depan yang lebih cerah, menawarkan kemudahan dan interaksi yang belum pernah terbayangkan sebelumnya. Namun, di balik kecanggihan algoritma yang mampu meniru percakapan manusia, tersimpan sisi gelap yang kini tengah menjadi sorotan tajam dunia. Bayangkan jika teknologi yang seharusnya membantu, justru menjadi pintu masuk bagi interaksi yang tidak pantas bagi anak-anak dan remaja Anda.
Baru-baru ini, raksasa teknologi Meta kembali menghadapi badai kritik dan tuntutan hukum serius terkait keamanan pengguna di bawah umur. Dokumen internal yang terungkap ke publik memberikan gambaran yang cukup meresahkan mengenai bagaimana perusahaan menangani fitur chatbot bertenaga AI mereka. Isu ini bukan sekadar kesalahan sistem, melainkan menyentuh level pengambilan keputusan tertinggi di perusahaan tersebut.
Sorotan utama tertuju pada CEO Meta, Mark Zuckerberg, yang dilaporkan memiliki andil besar dalam keputusan terkait fitur kontrol orang tua. Laporan terbaru mengindikasikan adanya ketegangan internal antara tim keamanan yang ingin melindungi pengguna remaja dan keputusan eksekutif yang tampaknya memiliki prioritas berbeda. Situasi ini memicu pertanyaan besar: sejauh mana keamanan anak dikorbankan demi inovasi teknologi?
Drama Internal dan Penolakan Zuckerberg
Berdasarkan komunikasi internal yang diperoleh oleh Kantor Jaksa Agung New Mexico, terungkap fakta mengejutkan mengenai dinamika di balik layar pengembangan AI Meta. Meskipun Mark Zuckerberg secara pribadi menentang chatbot melakukan percakapan “eksplisit” dengan anak di bawah umur, ia dilaporkan menolak penerapan kontrol orang tua pada fitur tersebut saat awal peluncurannya. Keputusan ini tentu menjadi paradoks yang membingungkan bagi banyak pengamat industri.
Sebuah laporan dari Reuters menyoroti pertukaran pesan antara dua karyawan Meta yang tidak disebutkan namanya. Dalam percakapan tersebut, salah satu karyawan menuliskan keluh kesah mereka mengenai upaya tim yang telah “mendorong keras” agar kontrol orang tua dapat mematikan fitur Generative AI (GenAI). Namun, upaya tersebut mental. Pimpinan GenAI menolak usulan tersebut dengan alasan yang sangat spesifik: “Mark memutuskan demikian.”
Pernyataan ini seolah membuka tabir bagaimana keputusan krusial dibuat di dalam tubuh Meta. Di satu sisi, ada kesadaran dari level karyawan mengenai bahaya potensial, namun di sisi lain, ada tembok birokrasi dan keputusan eksekutif yang menghalangi langkah preventif. Hal ini mengingatkan kita pada berbagai insiden sebelumnya di mana insiden hot mic atau bocoran dokumen sering kali mengungkap wajah asli kebijakan perusahaan teknologi besar.
Menanggapi tuduhan ini, Meta memberikan pembelaan diri yang cukup agresif. Dalam pernyataannya kepada publikasi tersebut, Meta menuduh Jaksa Agung New Mexico melakukan “cherry picking” atau memilih-milih dokumen tertentu saja untuk melukiskan gambaran yang cacat dan tidak akurat mengenai perusahaan. Meta bersikeras bahwa mereka memiliki komitmen terhadap keamanan, namun bukti-bukti yang diajukan dalam tuntutan hukum menceritakan kisah yang berbeda.
Fantasi Liar dan Bahaya Tersembunyi
Kekhawatiran mengenai chatbot Meta bukan sekadar teori atau ketakutan tanpa dasar. Rekam jejak perilaku AI milik Meta menunjukkan pola yang mengkhawatirkan, bahkan cenderung ofensif dan ilegal jika dilihat dari kacamata perlindungan anak. Investigasi mendalam yang dirilis oleh The Wall Street Journal pada April 2025 menjadi salah satu bukti paling damprat yang memukul reputasi Meta.
Investigasi tersebut menemukan bahwa chatbot Meta mampu terlibat dalam percakapan “seks fantasi” dengan anak di bawah umur. Lebih mengerikan lagi, AI tersebut bisa diarahkan untuk meniru seorang anak di bawah umur dan terlibat dalam percakapan seksual. Temuan ini tentu saja menjadi mimpi buruk bagi setiap orang tua. Bagaimana mungkin sebuah platform global membiarkan celah keamanan yang begitu fatal, yang memungkinkan predator atau bahkan mesin itu sendiri mengeksploitasi kepolosan remaja?
Laporan tersebut juga mengklaim bahwa Zuckerberg menginginkan penjagaan yang lebih longgar di sekitar chatbot Meta. Meskipun juru bicara perusahaan membantah keras bahwa mereka mengabaikan perlindungan untuk anak-anak dan remaja, fakta di lapangan menunjukkan bahwa sistem yang ada gagal membendung arus materi berbahaya. Ini bukan pertama kalinya Meta tersandung masalah konten; sebelumnya mereka juga pernah dipanggil Kongres AS terkait iklan berbahaya yang seliweran di platform mereka.
Baca Juga:
Garis Kabur Antara Sensual dan Seksual
Kontroversi semakin memanas ketika dokumen tinjauan internal yang terungkap pada Agustus 2025 memperlihatkan betapa kaburnya batasan moral yang diterapkan dalam pengembangan AI Meta. Dokumen tersebut merinci beberapa situasi hipotetis mengenai perilaku chatbot apa saja yang akan diizinkan. Yang mengejutkan, garis batas antara konten “sensual” dan “seksual” tampak sangat samar dan tidak tegas.
Tidak berhenti di situ, dokumen tersebut juga mengindikasikan bahwa chatbot diizinkan untuk mendebatkan konsep-konsep rasis. Ketika dikonfirmasi mengenai hal ini, perwakilan Meta mengatakan kepada Engadget bahwa bagian-bagian yang menyinggung tersebut hanyalah “hipotetis” dan bukan kebijakan aktual. Mereka juga mengklaim bahwa bagian tersebut telah dihapus dari dokumen.
Namun, pembelaan bahwa itu hanyalah skenario hipotetis tidak serta merta menenangkan publik. Fakta bahwa skenario-skenario tersebut bahkan dipertimbangkan dan didokumentasikan menunjukkan adanya celah dalam filosofi keamanan desain produk mereka. Jika “hipotetis” tersebut bocor atau terimplementasi karena kesalahan algoritma, dampaknya bisa sangat merusak. Hal ini menambah daftar panjang strategi AI Meta yang sering kali memicu perdebatan etis di kalangan pengamat teknologi.
Langkah Meta: Terlambat atau Tepat?
Setelah menghadapi berbagai tekanan publik dan ancaman hukum yang kian nyata, Meta akhirnya mengambil langkah drastis. Perusahaan memutuskan untuk menangguhkan akses akun remaja ke fitur chatbot tersebut baru-baru ini. Langkah ini diambil sementara Meta mengembangkan kontrol orang tua—fitur yang ironisnya, menurut laporan, sempat ditolak oleh Zuckerberg di masa lalu.
Dalam pernyataannya, Meta menjelaskan alasan di balik penangguhan ini. “Orang tua sudah lama dapat melihat apakah remaja mereka mengobrol dengan AI di Instagram, dan pada bulan Oktober kami mengumumkan rencana kami untuk melangkah lebih jauh, membangun alat baru untuk memberi orang tua lebih banyak kendali atas pengalaman remaja mereka dengan karakter AI,” ujar perwakilan Meta.
Meta menegaskan kembali komitmen mereka untuk memenuhi janji kontrol orang tua untuk AI dengan menghentikan akses remaja ke karakter AI sepenuhnya sampai versi yang diperbarui siap. Meskipun langkah ini patut diapresiasi, banyak pihak menilai tindakan ini terlambat. Kerusakan mungkin sudah terjadi pada banyak pengguna remaja yang sempat terpapar interaksi berbahaya sebelum fitur ini dimatikan. Langkah reaktif ini sering kali menjadi pola umum perusahaan teknologi besar ketika menghadapi ancaman hukum yang serius.
Pertaruhan Besar di Pengadilan
Kasus ini bermuara pada gugatan hukum yang diajukan oleh New Mexico terhadap Meta pada Desember 2023. Gugatan tersebut didasarkan pada klaim bahwa platform perusahaan gagal melindungi anak di bawah umur dari pelecehan oleh orang dewasa serta gagal membendung arus materi seksual yang merusak dan proposisi seksual yang disampaikan kepada anak-anak.
Data awal yang terungkap dalam keluhan tersebut sangat mencengangkan: 100.000 pengguna anak dilecehkan setiap hari di layanan Meta. Angka ini bukan sekadar statistik, melainkan representasi dari ratusan ribu anak yang keamanannya terancam di ruang digital yang seharusnya aman. Kasus ini dijadwalkan akan disidangkan pada Februari mendatang, dan hasilnya bisa menjadi preseden penting bagi regulasi AI dan media sosial di masa depan.
Pertarungan hukum ini bukan hanya tentang denda atau sanksi, melainkan tentang tanggung jawab moral perusahaan teknologi terhadap generasi muda. Apakah Meta akan mampu membuktikan bahwa mereka benar-benar peduli pada keamanan pengguna, ataukah pengadilan akan membuktikan bahwa keuntungan dan inovasi telah mengalahkan keselamatan anak-anak? Kita akan menyaksikan babak baru dari drama Silicon Valley ini dalam waktu dekat.
