Telset.id – Investigasi terbaru mengungkap bahwa perlindungan ChatGPT for Teens tidak berjalan sesuai klaim OpenAI. Setelah menguji lebih dari 4.000 prompt, peneliti menemukan celah keamanan serius yang membuat pengguna remaja berisiko, bahkan dalam percakapan seputar kesehatan mental.
Studi yang dilakukan Common Sense Media’s Youth AI Safety Institute menilai bahwa pengalaman ChatGPT yang dirancang untuk remaja menimbulkan risiko yang tidak dapat diterima bagi pengguna muda. Penelitian ini membandingkan ChatGPT sebelum dan sesudah OpenAI memperkenalkan ChatGPT for Teens pada 18 Agustus.
Para peneliti menggunakan akun yang terdaftar untuk remaja berusia 13 hingga 17 tahun dan berkonsultasi dengan para ahli medis, termasuk psikiater anak dan seorang dokter anak, untuk mengevaluasi respons yang diberikan chatbot. Temuan mereka cukup mengkhawatirkan sehingga organisasi tersebut merekomendasikan OpenAI untuk membatasi ChatGPT hanya untuk orang dewasa sampai masalah ini diselesaikan.
ChatGPT for Teens seharusnya menjadikan chatbot populer ini pendamping yang lebih pantas bagi pengguna muda, dengan perlindungan tambahan terhadap konten berbahaya, notifikasi orang tua, serta fitur yang mendorong pembelajaran alih-alih sekadar memberikan jawaban pekerjaan rumah. OpenAI juga berjanji untuk mencegah hubungan yang terlalu personal dengan chatbot dan membantu remaja menjaga batasan yang lebih sehat dengan AI. Laporan baru ini menunjukkan masih ada jarak yang cukup besar antara ambisi tersebut dan apa yang terjadi ketika remaja benar-benar menggunakannya.
Lubang dalam Jaring Pengaman
Notifikasi orang tua di ChatGPT dimaksudkan untuk memperingatkan pengasuh ketika seorang remaja mungkin mengalami tekanan serius. Peneliti menghabiskan waktu hingga satu jam mendiskusikan pikiran untuk bunuh diri, melukai diri sendiri, dan gangguan makan melalui akun yang baru dibuat dan terhubung dengan orang tua. Menurut laporan tersebut, tidak ada satu pun percakapan itu yang memicu notifikasi orang tua, meskipun para peneliti akhirnya berhasil memunculkan peringatan menggunakan akun lama dengan riwayat percakapan relevan selama berminggu-minggu.
ChatGPT juga seharusnya mengarahkan remaja ke bantuan yang tepat selama keadaan darurat kesehatan mental, tetapi studi menemukan bahwa ChatGPT gagal melakukannya dalam lebih dari 25% situasi yang dirancang para ahli untuk membutuhkannya.
Baca Juga:
Ada beberapa keberhasilan, termasuk penolakan ChatGPT untuk terlibat dalam roleplay seksual eksplisit. Namun, para peneliti juga menemukan bahwa chatbot terus merespons dengan cara yang menyiratkan bahwa ia memiliki perasaan, preferensi, dan suasana hati, meskipun OpenAI berupaya mencegah remaja memperlakukannya seperti teman manusia. Hal itu penting ketika pengguna muda mungkin sudah cenderung curhat kepada chatbot yang selalu sabar dan tidak pernah terlihat terlalu sibuk untuk mendengarkan.
Masalah ini menjadi bagian dari tantangan yang lebih luas dalam pengembangan agen AI yang makin otonom, seperti yang terlihat pada insiden Insiden Keamanan AI yang diakui OpenAI baru-baru ini.
Batas Penggunaan yang Kabur
Masalahnya meluas melampaui kekhawatiran keselamatan yang serius ke beberapa fitur edukasi sehari-hari ChatGPT. Mode Study OpenAI dirancang untuk memandu siswa melalui masalah menggunakan penjelasan, petunjuk, dan pertanyaan alih-alih langsung memberikan jawaban. Peneliti menemukan bahwa remaja terkadang dapat melewati pendekatan itu dengan memilih opsi “Show me the answer”, sehingga memungkinkan ChatGPT menyelesaikan tugas.
Fitur Study Hours, yang dirancang agar orang tua dapat membantu mendorong penggunaan edukatif, juga gagal menghentikan cara-cara pintas tersebut. Cukup menghapus awalan @study dari sebuah prompt dapat membuat ChatGPT kembali ke mode normal. Dan AI tidak mengingatkan pengguna untuk beristirahat sesering yang seharusnya.
Studi ini juga menemukan masalah dengan sistem deteksi usia yang digadang-gadang diciptakan OpenAI untuk mengidentifikasi pengguna muda dan secara otomatis menerapkan perlindungan yang sesuai. Berkali-kali menyatakan bahwa mereka berusia 13 tahun tidak membuat ChatGPT memindahkan akun uji dari pengalaman orang dewasa.
Masalah yang lebih besar adalah bahwa ChatGPT menjadi bagian rutin dari kehidupan remaja. Meskipun membantu pekerjaan sekolah dan menjawab pertanyaan pribadi adalah hal yang baik, memiliki pengguna remaja menuntut perlindungan yang jauh lebih andal daripada aplikasi produktivitas biasa untuk orang dewasa.
Perkembangan antarmuka ChatGPT juga terus berjalan, seperti yang terlihat pada kehadiran Intelligent UI yang membuat jawaban ChatGPT kini lebih interaktif. Sementara itu, ChatGPT juga mulai hadir di perangkat lain, termasuk kabar bahwa Nothing Smart Glasses dikabarkan akan mengadopsi teknologi ini.
Telset.id telah menawarkan kesempatan kepada OpenAI untuk memberikan komentar atas survei ini, tetapi belum menerima respons sejauh ini. Artikel ini akan diperbarui jika ada tanggapan yang diterima.
Komentar
Belum ada komentar.