Telset.id – Bayangkan jika chatbot AI di media sosial bisa berbicara hal-hal “sensual” dengan anak Anda yang masih berusia delapan tahun. Itulah kenyataan mengerikan yang memaksa Meta mengambil langkah drastis dengan mengembangkan kontrol pengawasan baru bagi orangtua. Bocoran terbaru mengindikasikan perusahaan Mark Zuckerberg ini sedang membangun sistem yang memungkinkan orangtua memotong akses remaja mereka ke chatbot AI di platform Meta sepenuhnya.
Langkah ini bukan datang tiba-tiba. Meta telah berada di bawah tekanan berat sejak dokumen internal perusahaan bocor beberapa bulan lalu, mengungkapkan bahwa chatbot mereka diizinkan melakukan percakapan “sensual” dengan anak-anak. Dalam satu contoh yang cukup mengganggu, chatbot Meta bahkan memberi tahu anak delapan tahun yang tidak memakai baju bahwa “setiap inci dari dirimu adalah mahakarya – harta yang kuhargai dalam-dalam.” Kasus ini memicu reaksi keras dari Jaksa Agung di 44 yurisdiksi AS yang mendesak perusahaan melindungi anak-anak “dari eksploitasi oleh produk kecerdasan buatan predator.”
Kini, Meta berusaha menebus kesalahan dengan menghadirkan kontrol yang lebih ketat. Orangtua akan memiliki opsi untuk benar-benar memblokir akses remaja mereka ke chatbot AI, meskipun mereka masih bisa mengakses chatbot Meta AI umum. Bagi yang tidak ingin melakukan pemblokiran total, tersedia pula pilihan untuk memblokir karakter AI tertentu yang dianggap bermasalah. Yang lebih menarik, orangtua juga akan mendapatkan wawasan tentang topik-topik yang dibicarakan anak mereka dengan bot AI Meta.
Fitur-fitur keamanan semacam ini sebenarnya bukan hal baru di dunia platform sosial. Beberapa perusahaan teknologi lain telah lebih dulu menerapkan sistem serupa, seperti Fitur Family Center Snapchat yang memungkinkan orangtua ‘intip’ akun anak. Demikian pula, TikTok telah meluncurkan berbagai mekanisme perlindungan, termasuk fitur keamanan TikTok yang baru lindungi pengguna di bawah umur dan bantuan kontrol waktu nonton video untuk cegah kecanduan.
Baca Juga:
Rencana peluncuran kontrol baru Meta ini cukup spesifik. Perusahaan mengatakan akan mulai merilis fitur tersebut di Instagram awal tahun depan, tersedia dalam bahasa Inggris untuk pengguna di AS, Inggris, Kanada, dan Australia. Namun perlu diingat bahwa antarmuka alat ini masih bisa berubah, menunjukkan bahwa pengembangan masih dalam tahap finalisasi.
Respons Meta terhadap skandal chatbot ini sebenarnya sudah dimulai sebelum pengumuman kontrol orangtua. Tak lama setelah dokumen internal bocor, perusahaan langsung melakukan pelatihan ulang AI mereka dan menambahkan perlindungan baru untuk mencegah pengguna muda mengakses karakter AI buatan pengguna yang mungkin terlibat dalam percakapan tidak pantas. Mereka juga memperkenalkan perlindungan sesuai usia sehingga AI mereka akan memberikan respons kepada remaja yang dipandu oleh rating film PG-13.
Langkah-langkah tambahan termasuk membatasi interaksi remaja hanya dengan kelompok karakter AI terbatas yang fokus pada topik-topik sesuai usia. Pendekatan bertingkat ini menunjukkan keseriusan Meta dalam menangani masalah keamanan anak, meski beberapa pengamat mungkin bertanya-tanya: mengapa butuh skandal besar dulu untuk mengambil tindakan protektif seperti ini?
Pertanyaan lain yang muncul adalah seberapa efektif kontrol ini dalam praktiknya. Dengan pembatasan konten sensitif Instagram untuk pengguna di bawah 16 tahun yang sudah ada, ditambah kontrol orangtua baru ini, apakah cukup untuk melindungi remaja dari potensi bahaya AI? Atau ini hanya sekadar tempelan untuk menenangkan regulator dan publik?
Yang jelas, tekanan terhadap Meta tidak hanya datang dari Jaksa Agung. Komite Senat Subkomite Kejahatan dan Kontraterorisme yang diketuai Senator Josh Hawley (R-MO) juga akan menyelidiki perusahaan tersebut. Investigasi ini bisa berdampak signifikan pada bagaimana platform media sosial menangani konten AI dan perlindungan anak di masa depan.
Bagi orangtua, perkembangan ini tentu menggembirakan. Memberikan kendali lebih besar kepada orangtua atas apa yang diakses anak mereka di dunia digital adalah langkah tepat, terutama di era di mana AI menjadi semakin canggih dan sulit dibedakan dari interaksi manusia nyata. Namun, yang tidak kalah penting adalah edukasi kepada orangtua tentang cara menggunakan alat-alat ini secara efektif.
Meta menghadapi tantangan besar dalam menyeimbangkan inovasi AI dengan tanggung jawab sosial. Di satu sisi, mereka ingin memanfaatkan potensi besar teknologi AI untuk meningkatkan pengalaman pengguna. Di sisi lain, mereka harus memastikan teknologi ini tidak disalahgunakan atau membahayakan pengguna rentan, terutama anak-anak dan remaja.
Kontrol orangtua yang diumumkan Meta ini bisa menjadi preseden penting bagi industri teknologi secara keseluruhan. Jika berhasil, sistem serupa mungkin akan diadopsi oleh platform-platform lain. Jika gagal, regulator mungkin akan mengambil langkah lebih keras dengan peraturan yang lebih ketat.
Bagaimana pendapat Anda tentang langkah Meta ini? Apakah Anda sebagai orangtua merasa lebih tenang dengan adanya kontrol seperti ini, atau justru khawatir bahwa perusahaan teknologi baru bertindak setelah terjadi skandal? Bagaimanapun, satu hal yang pasti: perlindungan anak di dunia digital harus menjadi prioritas semua pihak, bukan hanya ketika sudah terjadi masalah.
