OpenAI Batasi ChatGPT untuk Remaja soal Senjata dan Kekerasan

Telset.id – OpenAI memperketat batas informasi soal senjata yang bisa diakses remaja melalui ChatGPT, termasuk ketika pertanyaan yang diajukan “terlihat tidak berbahaya”. Kebijakan baru ini diumumkan OpenAI melalui unggahan resminya, dan berlaku di atas aturan yang sudah ada sebelumnya.

Langkah ini menempatkan ChatGPT di bawah pengawasan lebih ketat untuk pengguna remaja. OpenAI menyatakan pihaknya memang sudah memiliki kebijakan yang mencegah ChatGPT membantu pengguna melakukan tindak kekerasan atau membantu remaja mendapatkan senjata. Kebijakan terbaru memperluas batasan tersebut ke wilayah yang lebih spesifik.

Dalam pengumumannya, OpenAI menyebut akan “membatasi informasi praktis tentang senjata dan sistem keamanan yang bisa disalahgunakan untuk memfasilitasi kekerasan, bahkan ketika tidak ada tanda-tanda niat kekerasan” pada pengguna remaja. Artinya, pertanyaan yang tampak wajar sekalipun tetap bisa terkena pembatasan jika menyangkut informasi praktis soal senjata.

OpenAI menegaskan remaja tetap bisa menggunakan ChatGPT untuk hal-hal yang bersifat preventif. Layanan ini masih dapat dipakai untuk mencegah atau meredakan kekerasan, mencari dukungan, serta menghubungkan pengguna dengan orang dewasa yang dipercaya. Dengan begitu, pembatasan diarahkan pada informasi yang berpotensi disalahgunakan, bukan pada upaya mencari bantuan.

Bukan Hanya untuk Remaja

Pembatasan ini tidak berhenti pada pengguna remaja. OpenAI juga memperkuat batas kebijakan untuk seluruh pengguna, terutama saat diminta membahas “rekonstruksi serangan massal di masa lalu, termasuk detail tentang senjata dan peralatan yang digunakan serta bagaimana peralatan itu diperoleh, dan perbandingan detail soal skala kerugian yang bisa memperbesar ketenaran seorang penyerang”.

Dengan kata lain, ChatGPT tidak akan membantu menyusun ulang detail serangan massal yang sudah terjadi, termasuk informasi teknis soal senjata yang dipakai dan cara mendapatkannya. OpenAI juga menutup celah permintaan yang membandingkan skala kerugian, karena hal itu dinilai bisa memperbesar popularitas pelaku.

Kebijakan anyar ini tetap berjalan bersama kontrol orang tua yang sudah diterapkan OpenAI pada tahun sebelumnya. Fitur tersebut mengirimkan notifikasi kepada orang tua jika akun remaja yang terhubung melanggar kebijakan ChatGPT terkait ancaman kekerasan atau tindakan kekerasan. Jadi, pembatasan baru tidak berdiri sendiri, melainkan melengkapi sistem pengawasan yang sudah ada.

Langkah penguatan kebijakan ini muncul setelah OpenAI digugat dalam kasus wrongful death pada tahun sebelumnya. Selain itu, CEO OpenAI Sam Altman secara publik meminta maaf karena tidak memberi tahu polisi soal log percakapan yang mengkhawatirkan terkait penembakan Tumbler Ridge pada awal tahun ini. Dua peristiwa itu menjadi latar yang membuat pembatasan baru ini relevan.

Sebagai kelanjutan, OpenAI menyatakan akan menerbitkan Community Safety Report pertamanya pada awal 2027. Laporan tersebut akan diikuti pembaruan setiap enam bulan. Komitmen ini menunjukkan bahwa pembatasan soal senjata dan kekerasan bukan kebijakan sekali jadi, melainkan bagian dari pengawasan berkelanjutan yang akan dilaporkan secara berkala.

Perubahan kebijakan ini juga menyentuh cara OpenAI menangani permintaan yang tampak netral. Sebelumnya, pengguna bisa mengajukan pertanyaan soal senjata dengan anggapan pertanyaan itu tidak berbahaya. Kini, untuk pengguna remaja, OpenAI memilih membatasi informasi praktis yang berpotensi disalahgunakan, meski tidak ada indikasi niat kekerasan. Pendekatan ini menggeser titik berat dari niat pengguna ke potensi risiko informasi itu sendiri.

Bagi pengguna remaja dan orang tua, konsekuensinya cukup jelas: ChatGPT tetap bisa menjadi tempat mencari dukungan saat menghadapi situasi kekerasan, tetapi tidak lagi menjadi sumber informasi teknis soal senjata. Sementara bagi pengguna umum, permintaan yang mengarah pada rekonstruksi serangan massal dan perbandingan skala kerugian akan menghadapi batasan yang lebih tegas. Kebijakan ini juga bersinggungan dengan isu tata kelola AI yang lebih luas, seperti yang dibahas dalam kontrol baru Robots.txt untuk AI.

OpenAI belum merinci bagaimana pembatasan ini diterapkan secara teknis di lapisan produk. Yang disampaikan perusahaan adalah kerangka kebijakan: pembatasan informasi praktis soal senjata dan sistem keamanan untuk remaja, penguatan batas untuk semua pengguna pada topik serangan massal, serta kelanjutan kontrol orang tua yang sudah berjalan. Laporan Community Safety Report pada awal 2027 akan menjadi titik untuk melihat bagaimana kebijakan ini dijalankan.

Dengan langkah ini, OpenAI menempatkan keselamatan pengguna remaja sebagai prioritas kebijakan, sembari tetap membuka akses untuk kebutuhan preventif seperti mencari dukungan dan meredakan kekerasan. Bagi pengguna biasa, perubahan ini menegaskan bahwa ChatGPT tidak dirancang untuk memberikan informasi teknis yang bisa disalahgunakan, bahkan ketika pertanyaannya terlihat tidak berbahaya.