Telset.id – Meta secara resmi meluncurkan fitur keamanan baru yang secara proaktif memberi tahu orang tua ketika percakapan remaja mereka dengan Meta AI mengindikasikan adanya pikiran untuk bunuh diri atau melukai diri sendiri. Langkah ini merupakan respons langsung terhadap kekhawatiran akan keselamatan remaja di dunia digital.
Fitur perlindungan ini akan mulai berlaku secara global pada akhir tahun 2026. Dengan fitur ini, orang tua yang telah mengaktifkan fitur pengawasan di Instagram akan mendapatkan peringatan khusus jika sistem mendeteksi adanya risiko dalam percakapan remaja mereka dengan Meta AI. Ini menandai perubahan signifikan dari pendekatan sebelumnya yang hanya mengarahkan pengguna ke layanan bantuan krisis.
“Saya percaya bahwa remaja berhak atas privasi mereka. Namun, saya juga percaya bahwa orang tua perlu diberi tahu apabila ada indikasi anak remaja mereka berisiko menyakiti diri sendiri,” ujar Larry Magid, CEO dan Co-Founder ConnectSafely, dalam pernyataan resmi yang dikutip oleh tim Telset.id. Ia menambahkan bahwa Meta telah berhasil menemukan keseimbangan yang tepat antara privasi remaja dan kebutuhan informasi orang tua.
Mekanisme Peringatan dan Peninjauan Manual
Meta mengembangkan sistem AI khusus untuk mengidentifikasi percakapan yang memerlukan peringatan. Sistem ini bekerja sama dengan para ahli untuk memahami percakapan mana yang perlu ditindaklanjuti, termasuk ketika seorang remaja menunjukkan indikasi kuat ingin melukai diri sendiri, baik secara langsung maupun tersirat.
Yang menarik, setiap percakapan yang ditandai oleh AI akan ditinjau secara manual terlebih dahulu sebelum peringatan dikirimkan kepada orang tua. Langkah ini diambil untuk memastikan akurasi dan menghindari kesalahan deteksi. Jika maksud dari remaja tersebut masih samar, Meta memilih untuk mengutamakan tindakan pencegahan dan tetap memberi tahu orang tua.
“Meskipun ini berarti terkadang kami mengirimkan notifikasi saat tidak ada yang perlu dikhawatirkan, kami merasa ini adalah langkah awal yang tepat,” demikian pernyataan resmi Meta. Peringatan ini kini telah aktif di Amerika Serikat, Inggris, Australia, dan Kanada, dan akan menjangkau seluruh dunia pada akhir tahun ini.
Fitur baru ini melengkapi sistem peringatan yang sudah ada sebelumnya, di mana Instagram memberi tahu orang tua jika remaja mereka berulang kali mencari kata kunci terkait bunuh diri dalam jangka waktu singkat. Informasi lebih lanjut mengenai Fitur Terbaru ini dapat disimak selengkapnya.
Kolaborasi dengan Ahli Kesehatan Mental
Meta tidak bekerja sendiri dalam mengembangkan fitur ini. Perusahaan telah meminta masukan dari lebih dari 75 tenaga medis profesional dengan spesialisasi di bidang kesehatan mental remaja. Para ahli ini meninjau respons AI terhadap ratusan prompt dan memberikan masukan apakah respons tersebut sudah sesuai untuk remaja.
Hasilnya, Meta AI kini dirancang untuk selalu memvalidasi perasaan para remaja saat mengarahkan mereka ke layanan bantuan, tanpa mengakhiri percakapan secara tiba-tiba. Langkah ini melengkapi konsultasi berkelanjutan yang dilakukan Meta bersama anggota AI Wellbeing Expert Council, Suicide and Self-Harm Advisory Group, serta Youth Advisors.
Dr. Ji-yeon Lee, Psikolog Berlisensi dan Profesor Psikologi Konseling di Hankuk University of Foreign Studies, memberikan apresiasi terhadap proses ini. “Saya sangat terkesan dengan ketelitian proses peninjauan klinis yang dilakukan oleh Meta. Peninjauan ini tidak hanya mengevaluasi respons instan, tetapi juga memperhatikan konteks percakapan yang lebih luas,” ujarnya.
Baca Juga:
Menghubungi Layanan Darurat dan Batasan Konten
Selain peringatan kepada orang tua, Meta juga sedang mengembangkan kemampuan untuk menghubungi layanan darurat jika percakapan dengan Meta AI menunjukkan adanya risiko bunuh diri yang mendesak. Langkah ini berlaku untuk pengguna dewasa maupun remaja.
Ini melengkapi upaya yang telah dilakukan Meta di Facebook dan Instagram, di mana perusahaan telah mengirimkan lebih dari 19.000 rujukan di seluruh dunia tahun lalu untuk membantu petugas penyelamat memeriksa kondisi pengguna yang berpotensi melakukan bunuh diri.
Meta juga memperluas pengaturan fitur Limited Content ke dalam fungsi-fungsi AI. Jika orang tua mengaktifkan mode Limited Content yang lebih ketat untuk remaja mereka di Instagram, maka interaksi remaja terhadap fungsi-fungsi AI juga akan menjadi lebih terbatas. Dalam mode ini, Meta AI akan menolak memberikan respons terhadap kategori prompt yang lebih luas.
Akun Remaja secara otomatis akan menerapkan pengaturan konten yang sesuai dengan usia. Meta AI dirancang untuk tidak terlibat dalam percakapan romantis maupun seksual dengan remaja, serta tidak memberikan resep minuman beralkohol. Langkah ini meminimalkan potensi terjadinya percakapan yang kurang pantas.
Pembaruan ini juga melengkapi berbagai upaya lain dari Meta dalam memberikan pemahaman yang lebih baik kepada orang tua. Salah satunya adalah mengizinkan orang tua untuk melihat topik apa saja yang ditanyakan remaja mereka kepada Meta AI dalam satu minggu terakhir. Untuk informasi lebih lanjut mengenai isu keamanan digital, Anda dapat membaca artikel tentang Australia Gagal Blokir media sosial untuk remaja.
Langkah Meta ini menunjukkan komitmen perusahaan dalam menciptakan lingkungan digital yang lebih aman bagi remaja. Dengan menggabungkan teknologi AI, peninjauan manual, dan masukan dari para ahli, Meta berupaya memberikan perlindungan yang lebih komprehensif tanpa mengabaikan privasi pengguna. Isu adiksi media sosial juga menjadi perhatian serius, seperti yang terlihat dalam kasus Meta Terancam Denda triliunan rupiah.
Fitur perlindungan ini diharapkan dapat menjadi jembatan antara kebutuhan remaja akan ruang eksplorasi digital dan kekhawatiran orang tua terhadap keselamatan anak-anak mereka di era kecerdasan buatan.
Komentar
Belum ada komentar.