Dunia kecerdasan buatan atau Artificial Intelligence (AI) memang menawarkan pesona tersendiri, terutama bagi generasi muda yang tumbuh berdampingan dengan teknologi. Namun, pernahkah Anda merasa khawatir dengan siapa sebenarnya anak remaja Anda berinteraksi di dunia maya, bahkan jika lawan bicaranya hanyalah sebuah mesin? Kekhawatiran ini tampaknya terjawab dengan langkah drastis yang baru saja diambil oleh raksasa teknologi, Meta. Perusahaan induk Facebook dan Instagram ini secara resmi mengumumkan penangguhan akses bagi remaja terhadap chatbot karakter AI mereka.
Keputusan ini bukanlah langkah kecil, melainkan sebuah kebijakan global yang berlaku efektif segera. Meta menyatakan bahwa mereka tidak akan lagi mengizinkan remaja untuk mengobrol dengan karakter chatbot AI dalam bentuknya yang sekarang. Pengumuman yang dirilis pada hari Jumat lalu menegaskan bahwa perusahaan akan “menghentikan sementara akses remaja ke karakter AI yang ada secara global.” Langkah ini diambil di tengah meningkatnya sorotan terhadap keamanan digital bagi pengguna di bawah umur, sebuah isu yang belakangan ini menjadi duri dalam daging bagi perusahaan teknologi besar.
Penangguhan ini datang beberapa bulan setelah Meta mengindikasikan sedang menggodok fitur kontrol orang tua yang berfokus pada chatbot. Hal ini dipicu oleh rentetan laporan yang menyebutkan bahwa beberapa karakter chatbot Meta terlibat dalam percakapan yang tidak pantas, mulai dari interaksi seksual hingga topik yang membahayakan. Bagi Anda para orang tua, ini adalah momen penting untuk memahami bahwa teknologi pendamping virtual, secanggih apa pun itu, masih menyisakan celah keamanan yang serius bagi buah hati Anda.
Jejak Kontroversi dan Respons Meta
Langkah Meta untuk menarik rem darurat ini tidak terjadi dalam ruang hampa. Sebelumnya, Reuters melaporkan adanya dokumen kebijakan internal Meta yang menyebutkan bahwa chatbot diizinkan untuk melakukan percakapan “sensual” dengan pengguna di bawah umur. Meskipun Meta kemudian membantah dan menyebut bahasa dalam dokumen tersebut “salah dan tidak konsisten dengan kebijakan kami,” kerusakan persepsi publik mungkin sudah terjadi. Ini menjadi peringatan keras mengenai bagaimana kontroversi chatbot dapat memengaruhi kepercayaan pengguna.
Sebagai respons atas kekhawatiran tersebut, pada bulan Agustus lalu, Meta mengumumkan sedang melatih ulang karakter chatbot mereka. Tujuannya adalah menambahkan “pagar pembatas sebagai tindakan pencegahan ekstra.” Pagar pembatas ini dirancang khusus untuk mencegah remaja mendiskusikan topik-topik sensitif dan berbahaya, seperti menyakiti diri sendiri (self-harm), gangguan makan, hingga bunuh diri. Kini, Meta menegaskan akan memblokir total akses remaja ke chatbot karakter ini hingga “pengalaman yang diperbarui siap.”
Pembaruan Fitur dan Teknologi Prediksi Usia
Pembaruan yang sedang disiapkan Meta tidak main-main. Menurut juru bicara perusahaan, pembaruan tersebut nantinya akan mencakup kontrol orang tua yang lebih komprehensif. Ini sejalan dengan upaya kontrol orang tua yang memang sangat dibutuhkan di era digital saat ini. Pembatasan baru ini dijadwalkan akan mulai berlaku “dalam beberapa minggu mendatang.”
Menariknya, kebijakan ini tidak hanya menyasar akun yang terdaftar secara resmi sebagai remaja. Meta akan menerapkan aturan ini kepada mereka yang memiliki akun remaja, serta orang-orang yang mengklaim sebagai orang dewasa namun dicurigai sebagai remaja berdasarkan teknologi prediksi usia milik Meta. Meskipun demikian, remaja masih akan memiliki akses ke chatbot resmi Meta AI, yang diklaim perusahaan telah memiliki “perlindungan yang sesuai usia.” Ini menunjukkan bahwa Meta masih ingin mempertahankan teknologi chatbot mereka tetap relevan namun lebih aman.
Baca Juga:
Tekanan Hukum dan Investigasi Regulator
Keputusan Meta untuk “menekan tombol pause” ini juga tidak lepas dari tekanan eksternal yang semakin kuat. Meta dan perusahaan AI lain yang membuat karakter “pendamping” kini menghadapi pengawasan ketat terkait risiko keselamatan yang mungkin ditimbulkan chatbot ini terhadap anak muda. Komisi Perdagangan Federal (FTC) dan Jaksa Agung Texas telah memulai penyelidikan terhadap Meta dan perusahaan sejenis dalam beberapa bulan terakhir.
Isu mengenai keamanan chatbot ini juga mencuat dalam konteks gugatan keselamatan yang diajukan oleh Jaksa Agung New Mexico. Persidangan dijadwalkan akan dimulai awal bulan depan. Laporan dari Wired minggu ini menyebutkan bahwa pengacara Meta telah berusaha untuk mengecualikan kesaksian yang terkait dengan chatbot AI perusahaan dari persidangan tersebut. Hal ini memperlihatkan betapa sensitifnya posisi karakter AI dalam ranah hukum saat ini.
Pada akhirnya, langkah Meta ini merupakan pengakuan tersirat bahwa teknologi AI generatif, khususnya yang dirancang sebagai “teman” atau karakter, belum sepenuhnya aman untuk dikonsumsi oleh remaja tanpa pengawasan ketat. Bagi Anda para orang tua, jeda waktu ini adalah kesempatan baik untuk meninjau kembali bagaimana anak-anak Anda berinteraksi dengan teknologi, sembari menunggu fitur keamanan yang dijanjikan Meta benar-benar siap diimplementasikan.
