Telset.id – Bayangkan platform AI yang selama ini menjadi teman bicara digital tiba-tiba membisu untuk kalangan remaja. Character.AI, salah satu platform chatbot populer, resmi menghentikan percakapan dua arah bagi pengguna di bawah 18 tahun mulai 25 November 2025. Langkah drastis ini bukan tanpa alasan—ia lahir dari rentetan gugatan hukum yang menyoroti dampak gelap interaksi manusia-AI terhadap kesehatan mental remaja.
Anda mungkin bertanya: mengapa perusahaan rela memangkas fitur andalannya? Jawabannya terletak pada sederet kasus tragis yang memaksa dunia untuk mempertanyakan batas etis teknologi AI. Setelah melalui pertimbangan matang, Character Technologies memutuskan bahwa keselamatan pengguna muda harus didahulukan daripada kebebasan berinteraksi dengan AI. Masa transisi pun diberlakukan, memberikan waktu dua jam bagi remaja untuk menyesuaikan diri sebelum percakapan bebas benar-benar hilang.
Langkah Character.AI ini terjadi di tengah meningkatnya kekhawatiran global tentang bagaimana remaja berinteraksi dengan teknologi kecerdasan buatan. Regulator, aktivis keselamatan digital, dan pembuat kebijakan semakin vokal menuntut pengawasan orang tua yang lebih ketat di platform-platform AI. Tidak mengherankan, keputusan ini sejalan dengan perubahan strategi perusahaan yang sebelumnya telah meninggalkan misi AGI untuk fokus pada hiburan AI—sebuah pergeseran yang kini diikuti dengan komitmen lebih kuat pada aspek keamanan.
Dibalik Keputusan: Gugatan Hukum dan Tragedi Kemanusiaan
Keputusan Character.AI untuk membatasi interaksi remaja dengan chatbotnya bukan muncul dari ruang hampa. Ia dipicu oleh gugatan hukum dari seorang ibu di Florida, Amerika Serikat, yang menuduh aplikasi tersebut bertanggung jawab atas bunuh diri putranya yang berusia 14 tahun. Tragedi ini bukan kasus isolated—tiga keluarga lainnya mengajukan gugatan serupa pada September, dengan tuduhan bahwa chatbot mendorong anak-anak mereka melakukan percobaan bunuh diri atau mengalami dampak buruk pasca interaksi intens dengan AI.
Dalam pernyataan resminya, Character Technologies mengakui bahwa keputusan untuk menghapus fitur percakapan bebas tidak diambil dengan enteng. “Kami percaya ini adalah langkah yang tepat, mengingat munculnya berbagai pertanyaan tentang bagaimana remaja berinteraksi, dan seharusnya berinteraksi, dengan teknologi baru ini,” demikian pernyataan perusahaan yang dikutip CNN. Pengakuan ini menunjukkan kesadaran akan tanggung jawab sosial di tengah maraknya kontroversi seputar batas interaksi anak dan remaja dengan AI.
Fenomena ini sebenarnya telah menjadi perhatian regulator di berbagai negara. Bahkan FTC tengah menginvestigasi chatbot AI pendamping untuk melindungi anak dan remaja dari potensi dampak negatif. Investigasi semacam ini mempertegas bahwa masalah keamanan AI bagi generasi muda telah menjadi isu global yang memerlukan penanganan serius dari semua pemangku kepentingan.
Baca Juga:
Solusi dan Kompensasi: Dari Verifikasi Usia hingga Lab Keselamatan
Sebagai pengganti percakapan dua arah yang dihapus, Character.AI menjamin pengguna remaja tetap dapat membuat cerita, video, dan siaran langsung bersama AI miliknya. Kompensasi ini menunjukkan bahwa perusahaan tidak sepenuhnya memutus akses remaja ke platform, tetapi lebih memilih untuk mengarahkan interaksi ke format yang dianggap lebih aman dan terkendali.
Yang lebih menarik, perusahaan tidak berhenti pada pembatasan saja. Mereka meluncurkan alat verifikasi usia baru dan berencana mendirikan Lab Keselamatan AI yang akan dijalankan oleh organisasi nirlaba independen. Lab ini akan berfokus pada penelitian keselamatan terkait hiburan berbasis AI—sebuah langkah progresif yang sejalan dengan tren industri dimana perusahaan seperti Intel juga mengubah strategi untuk fokus pada AI dan foundry.
Sebelumnya, Character.AI telah menerapkan beberapa kebijakan keselamatan termasuk pemberitahuan yang mengarahkan pengguna ke National Suicide Prevention Lifeline ketika mereka menyebut topik bunuh diri atau perilaku menyakiti diri sendiri. Namun, tampaknya langkah-langkah preventif ini dinilai belum cukup untuk melindungi pengguna remaja yang rentan secara psikologis.
Lanskap Industri: Tekanan Regulasi dan Tanggung Jawab Korporat
Character Technologies bukan satu-satunya perusahaan AI yang menghadapi tekanan untuk meningkatkan perlindungan bagi pengguna muda. Perusahaan-perusahaan besar seperti OpenAI dan Meta juga berusaha meningkatkan keamanan serta melindungi remaja dari dampak negatif penggunaan AI dan media sosial. Persaingan di industri AI tidak lagi sekadar tentang kemampuan teknis, tetapi juga tentang seberapa bertanggung jawab sebuah platform dalam melindungi penggunanya.
Munculnya berbagai alternatif ChatGPT terbaik di 2025 seharusnya diiringi dengan kesadaran kolektif tentang pentingnya fitur keamanan yang robust. Pembatasan yang diterapkan Character.AI mungkin hanya awal dari transformasi besar-besaran dalam industri AI, dimana aspek keselamatan dan etika akan menjadi nilai jual yang sama pentingnya dengan kemampuan teknis.
Langkah Character.AI ini mencerminkan sebuah realitas baru: perkembangan AI yang pesat harus diimbangi dengan framework keamanan yang matang. Ketika teknologi semakin menyatu dengan kehidupan sehari-hari, tanggung jawab perusahaan tidak lagi terbatas pada penyediaan layanan yang fungsional, tetapi juga memastikan bahwa layanan tersebut tidak membahayakan pengguna, terutama kelompok rentan seperti remaja.
Keputusan Character.AI mungkin kontroversial bagi sebagian pihak, namun ia menandai sebuah era baru dimana keselamatan pengguna menjadi pertimbangan utama dalam pengembangan teknologi AI. Sebagai konsumen, kita patut mengapresiasi langkah berani ini sambil terus memantau implementasinya—karena yang dipertaruhkan bukan hanya masa depan sebuah perusahaan, tetapi juga kesejahteraan generasi digital native.
