Telset.id – OpenAI mengakui bahwa fitur notifikasi orang tua pada ChatGPT for Teens dapat membutuhkan waktu beberapa jam untuk aktif, setelah Common Sense Media menemukan bahwa peringatan kepada orang tua hanya muncul dua kali dari 450 prompt yang diuji. Pengakuan ini muncul di tengah investigasi Youth AI Safety Institute milik Common Sense Media yang menilai fitur keamanan ChatGPT for Teens berisiko “tidak dapat diterima” bagi anak-anak.
ChatGPT for Teens dirancang untuk memberikan pembatas yang lebih ketat bagi pengguna remaja dan dilengkapi kontrol orang tua bawaan. Namun, dalam laporan yang dirilis Rabu, Common Sense Media menyebut fitur keselamatan tersebut jarang berfungsi sesuai klaim pemasarannya. Peneliti yang berperan sebagai remaja secara eksplisit membahas topik seperti menyakiti diri sendiri, bunuh diri, dan gangguan makan dengan ChatGPT for Teens.
Hasilnya, salah satu fitur paling krusial, yakni notifikasi orang tua, hanya terpicu dua kali selama 450 prompt yang diuji. Notifikasi itu pun tidak diulang ketika percakapan terus membahas topik-topik sensitif tersebut.
“Anda bisa berbicara dengan ChatGPT sebagai remaja hingga satu jam tentang bunuh diri, menyakiti diri sendiri, atau berbagai jenis gangguan makan, dan ChatGPT akan memberi tahu Anda bahwa ia tidak akan memberi tahu siapa pun tentang percakapan Anda, dan Anda tidak akan mendapat notifikasi orang tua,” kata Robbie Torney, senior director of AI programs di Common Sense Media, kepada Futurism dalam sebuah wawancara.
Menurut pengakuan OpenAI sendiri, percakapan semacam itu bisa berlangsung lebih lama lagi tanpa orang tua diberi tahu. “Untuk salah satu fitur yang kami evaluasi — notifikasi orang tua — OpenAI mengungkapkan setelah pengujian kami bahwa sistemnya dapat membutuhkan beberapa jam untuk aktif pada akun yang baru ditautkan,” kata Common Sense Media dalam sebuah pernyataan.
OpenAI Sebut Penundaan Terjadi Saat Penautan Akun
OpenAI membantah temuan Common Sense Media dan menyebut metodologi pengujiannya cacat. Juru bicara OpenAI mengatakan bahwa sebagian besar pengujian berlangsung ketika kontrol orang tua belum sepenuhnya diluncurkan. Common Sense Media tetap pada temuannya dan menyatakan telah mengonfirmasi kepada OpenAI bahwa fitur tersebut sudah diluncurkan sepenuhnya sebelum pengujian dilakukan.
Soal penundaan beberapa jam, juru bicara OpenAI memberikan penjelasan. “Penundaan beberapa jam bukan untuk setiap notifikasi; itu terjadi ketika permintaan awal untuk menautkan akun remaja dan orang tua dilakukan. Ketika orang tua meminta untuk menautkan akun mereka ke akun remaja mereka, kami melakukan beberapa pemeriksaan untuk mengonfirmasi identitas mereka,” kata juru bicara tersebut.
“Untuk memastikan kami melakukannya dengan aman dalam skala besar, penautan akun dapat memakan waktu beberapa jam, tetapi sering kali jauh lebih cepat,” lanjutnya. “Bisakah Anda membayangkan jika kami menghubungkan seorang remaja ke orang tua yang salah — atau bahkan lebih buruk lagi, ke aktor jahat? Setelah akun mereka tertaut, kami mengirim notifikasi kepada orang tua jika ada risiko yang terdeteksi (misalnya, bunuh diri, gangguan makan, dan lain-lain) dan kami berkomitmen untuk mengirimkannya dalam waktu kurang dari 1 jam.”
Baca Juga:
Temuan ini dinilai mengkhawatirkan bukan hanya karena pembatas ramah remaja tersebut tampak sangat kurang, tetapi juga karena OpenAI hampir pasti telah menyesatkan orang tua untuk mengira teknologinya lebih aman daripada kenyataannya. Tidak mustahil sebagian orang tua yang sebelumnya khawatir membiarkan anak mereka menggunakan chatbot menjadi yakin setelah perusahaan secara publik menunjukkan keseriusannya terhadap keamanan remaja.
“Versi baru ChatGPT for Teens ini sebenarnya tidak bertindak jauh berbeda dari versi ChatGPT sebelumnya,” peringatkan Torney. “Dan itu tidak akan terlihat oleh orang tua.”
Isu keamanan pengguna ChatGPT memang bukan pertama kali mencuat. Sebelumnya, OpenAI hentikan wawancara ketika Sam Altman ditanya soal seorang perempuan yang meninggal setelah berbicara dengan ChatGPT. Kasus tersebut menyoroti bagaimana percakapan sensitif dengan chatbot dapat berujung fatal jika tidak ada pengawasan yang memadai.
Di sisi lain, OpenAI terus memperluas ekosistem produknya. Perusahaan baru-baru ini merilis GPT-6 ke semua tier ChatGPT dengan antarmuka cerdas, serta tercatat sebagai salah satu pihak yang menguasai TLD AI dalam gelombang aplikasi domain baru yang diterima ICANN. Ekspansi ini menunjukkan skala layanan OpenAI yang semakin luas, termasuk untuk basis pengguna remaja.
Kendati demikian, temuan Common Sense Media menempatkan kontrol orang tua sebagai titik lemah yang perlu diperhatikan. Fitur yang seharusnya menjadi jaring pengaman justru dinilai tidak konsisten aktif, sementara OpenAI menyatakan komitmennya untuk mengirim notifikasi risiko dalam waktu kurang dari satu jam setelah akun tertaut.
Bagi orang tua yang mempertimbangkan ChatGPT for Teens untuk anak mereka, perbedaan antara klaim pemasaran dan perilaku fitur di lapangan menjadi informasi penting. Laporan Common Sense Media dan tanggapan OpenAI sama-sama menyoroti satu hal: mekanisme penautan akun dan notifikasi risiko memiliki jeda waktu yang perlu dipahami pengguna sebelum mengandalkan fitur tersebut sepenuhnya.
Komentar
Belum ada komentar.