Meta AI Kirim Peringatan Bahaya Bunuh Diri ke Orang Tua

Telset.id – Meta akan mengirimkan notifikasi langsung kepada orang tua ketika remaja yang berada dalam pengawasan menunjukkan tanda-tanda tekanan serius saat berinteraksi dengan Meta AI. Langkah ini memberikan kesempatan bagi keluarga untuk turun tangan sebelum situasi memburuk.

Fitur baru ini menjadi lapisan keamanan tambahan di tengah meningkatnya penggunaan chatbot AI sebagai tempat curhat remaja. Topik sensitif seperti kecemasan, kesepian, hingga keinginan menyakiti diri sendiri kini bisa terdeteksi lebih awal.

Sebelumnya, Meta AI sudah dirancang untuk mengarahkan remaja ke saluran bantuan krisis dan mendorong mereka menghubungi orang tua, konselor, atau orang dewasa terpercaya saat percakapan mengindikasikan potensi bahaya. Kini, sistem akan melangkah lebih jauh dengan melibatkan orang tua secara langsung.

Cara Kerja Sistem Peringatan Meta AI

Sistem deteksi khusus akan memindai percakapan untuk mencari referensi jelas maupun tersirat tentang bunuh diri dan tindakan menyakiti diri sendiri. Namun, notifikasi tidak dikirim secara instan. Setiap percakapan yang terdeteksi akan ditinjau terlebih dahulu oleh moderator manusia.

Meta menyatakan akan lebih berhati-hati ketika niat remaja tidak jelas. Konsekuensinya, orang tua mungkin sesekali menerima peringatan meskipun tidak ada bahaya langsung. Peringatan tersebut akan disertai sumber daya dari ahli yang menjelaskan cara memulai percakapan dengan anak.

Untuk kasus yang lebih serius, Meta sedang membangun sistem yang dapat menghubungi layanan darurat ketika percakapan melibatkan orang dewasa atau remaja dan mengindikasikan risiko bunuh diri yang akan segera terjadi. Perusahaan sudah menerapkan proses serupa untuk konten mengkhawatirkan di Facebook dan Instagram.

Kolaborasi dengan Ahli Kesehatan Mental Remaja

Meta berkonsultasi dengan lebih dari 75 klinisi yang berspesialisasi dalam kesehatan mental remaja saat menyempurnakan cara Meta AI menangani percakapan sensitif. Pengaturan Konten Terbatas yang lebih ketat juga akan diperluas ke obrolan AI, memungkinkan orang tua memblokir berbagai macam permintaan sensitif.

Langkah Meta ini mengikuti jejak ChatGPT yang memperkenalkan fitur serupa tahun lalu. ChatGPT baru-baru ini memperluas konsep yang sama ke orang dewasa melalui fitur Trusted Contact.

Semakin nyamannya orang membicarakan masalah pribadi yang dalam dengan AI, chatbot semakin sering terlibat dalam percakapan yang tidak bisa mereka tangani sendiri dengan aman. Penelitian telah menunjukkan bagaimana buruknya interaksi ini bisa berjalan.

Sebuah studi yang dipimpin Stanford menemukan kasus di mana sistem AI justru memperkuat pikiran untuk menyakiti diri sendiri atau kekerasan, alih-alih mengarahkan pengguna yang rentan ke bantuan, terutama selama percakapan panjang dan emosional.

Fitur keamanan baru Meta ini memberikan kesempatan bagi orang tua, klinisi, dan petugas darurat untuk turun tangan ketika chatbot mencapai batas kemampuannya dalam menangani percakapan berbahaya.