Telset.id – Meta kini akan mengirimkan pemberitahuan langsung kepada orang tua jika remaja mereka berdiskusi mengenai bunuh diri atau menyakiti diri sendiri dengan chatbot Meta AI. Langkah ini merupakan respons terhadap tekanan regulasi dan kekhawatiran publik tentang keamanan kecerdasan buatan bagi pengguna muda.
Kebijakan baru ini mulai berlaku bagi orang tua yang menggunakan fitur Instagram Parental Supervision di Amerika Serikat, Inggris, Australia, dan Kanada. Meta berencana memperluas jangkauan fitur ini secara global hingga akhir tahun 2026. Dengan adanya notifikasi ini, orang tua dapat lebih waspada terhadap kondisi mental anak mereka.
Meta telah membangun sistem AI khusus untuk mengidentifikasi percakapan di mana seorang remaja secara jelas menyebutkan keinginan untuk menyakiti diri sendiri. Setiap percakapan yang ditandai oleh AI akan melalui proses peninjauan manual sebelum peringatan dikirimkan kepada orang tua. Hal ini dilakukan untuk mengurangi risiko kesalahan deteksi.
“Kami memahami betapa mengkhawatirkannya peringatan ini bagi orang tua,” tulis Meta dalam sebuah posting blog. “Itulah sebabnya, seiring kami terus meningkatkan deteksi, semua obrolan yang ditandai oleh AI kami akan ditinjau secara manual sebelum peringatan dikirim. Jika niat seorang remaja ambigu, kami akan lebih berhati-hati dan memberi tahu orang tua.”
Meta menyadari bahwa pendekatan ini mungkin menyebabkan beberapa peringatan yang tidak perlu. “Meskipun itu berarti kami terkadang dapat memberi tahu orang tua ketika mungkin tidak ada alasan untuk khawatir, kami merasa ini adalah titik awal yang tepat, dan kami akan terus memantau untuk memastikan kami berada di jalur yang benar,” lanjut pernyataan tersebut.
Pembaruan ini melengkapi fitur yang sudah ada sebelumnya, di mana Meta telah mengirimkan peringatan kepada orang tua ketika remaja mereka berulang kali mencari istilah bunuh diri atau menyakiti diri sendiri di Instagram. Fitur baru ini juga merupakan pengembangan dari kemampuan orang tua untuk melihat topik yang dibahas remaja mereka dengan Meta AI selama seminggu terakhir.
Selain notifikasi, Meta juga mengumumkan bahwa pengaturan “Limited Content” kini berlaku untuk Meta AI. Fitur ini memungkinkan orang tua menempatkan remaja mereka dalam pengalaman Instagram yang lebih terbatas dan aman. Sebelumnya, Meta AI telah dilatih untuk menghindari percakapan seksual, romantis, atau diskusi terkait alkohol dengan remaja.
Dengan pengaturan Limited Content, chatbot akan menolak lebih banyak jenis prompt yang dianggap tidak pantas atau berbahaya. Ini memberikan lapisan perlindungan tambahan bagi pengguna remaja yang mungkin rentan terhadap konten berbahaya.
Baca Juga:
Meta juga mengumumkan kemampuan untuk menghubungi layanan darurat jika percakapan seseorang dengan Meta AI, baik pengguna dewasa maupun remaja, menunjukkan risiko bunuh diri yang akan segera terjadi. Langkah ini memperluas praktik yang sudah diterapkan Meta ketika seseorang mengunggah konten di Facebook atau Instagram yang mengindikasikan risiko serupa.
Keputusan Meta ini muncul di tengah meningkatnya pengawasan dari regulator dan orang tua terhadap bagaimana chatbot AI merespons pengguna yang berada dalam krisis, terutama remaja. Pertanyaan tentang tanggung jawab ini semakin membentuk cara perusahaan AI merancang dan memasarkan produk mereka.
Dengan kebijakan baru ini, Meta berupaya menunjukkan komitmennya terhadap keselamatan pengguna sekaligus mengantisipasi potensi masalah hukum di masa depan. Industri teknologi secara keseluruhan tengah bergulat dengan bagaimana menyeimbangkan inovasi AI dengan perlindungan pengguna yang rentan.
Langkah Meta ini juga sejalan dengan tren yang lebih luas di industri teknologi untuk meningkatkan fitur keamanan bagi pengguna muda. Perusahaan lain seperti TikTok dan Snapchat juga telah memperkenalkan berbagai fitur perlindungan remaja dalam beberapa tahun terakhir.
Namun, efektivitas kebijakan ini masih perlu diuji. Sistem deteksi AI yang akurat menjadi tantangan tersendiri, mengingat Meta sendiri mengakui bahwa beberapa peringatan mungkin tidak akurat. Peninjauan manual oleh staf juga membutuhkan sumber daya yang tidak sedikit.
Meta berjanji akan terus memantau dan menyempurnakan sistem ini. “Kami akan terus memantau untuk membantu memastikan kami berada di tempat yang tepat,” tulis perusahaan tersebut. Ini menunjukkan bahwa kebijakan ini bersifat dinamis dan dapat berubah seiring waktu berdasarkan umpan balik dan data.
Bagi orang tua, fitur baru ini memberikan alat tambahan untuk memantau kesehatan mental anak mereka. Namun, para ahli mengingatkan bahwa teknologi hanyalah salah satu bagian dari solusi. Komunikasi terbuka antara orang tua dan anak tetap menjadi faktor kunci dalam mencegah tragedi.
Meta juga menghadapi tantangan terkait privasi. Memberi tahu orang tua tentang isi percakapan pribadi remaja dengan AI dapat menimbulkan kekhawatiran tentang pengawasan dan kepercayaan. Perusahaan perlu memastikan bahwa keseimbangan antara keselamatan dan privasi tetap terjaga.
Selain itu, kebijakan ini juga menyoroti peran perusahaan teknologi dalam menangani masalah kesehatan mental. Dengan semakin banyaknya interaksi yang terjadi melalui platform digital, batas antara tanggung jawab platform dan tanggung jawab individu menjadi semakin kabur.
Ke depannya, Meta diperkirakan akan terus mengembangkan fitur-fitur serupa. Perusahaan telah berinvestasi besar-besaran dalam infrastruktur AI, termasuk investasi tambahan untuk pusat data. Langkah-langkah ini menunjukkan bahwa AI akan memainkan peran yang semakin sentral dalam produk Meta.
Namun, investasi AI juga membawa risiko tersendiri. Biaya operasional AI yang tinggi dan potensi bias dalam sistem menjadi perhatian tersendiri. Meta perlu memastikan bahwa sistem AI yang digunakan untuk deteksi risiko tidak menimbulkan masalah baru.
Dengan peluncuran global yang direncanakan pada akhir tahun 2026, fitur ini akan menjangkau jutaan pengguna di seluruh dunia. Meta berharap langkah ini dapat membantu mencegah tragedi dan memberikan ketenangan pikiran bagi orang tua.
Komentar
Belum ada komentar.