Telset.id – Rencana OpenAI untuk meluncurkan chatbot dengan konten dewasa atau erotis akhirnya dibatalkan. Keputusan ini diambil setelah mendapat tekanan dari investor dan kekhawatiran internal karyawan, termasuk yang memilih mengundurkan diri. Langkah ini menandai babak baru dalam perdebatan etis seputar batasan teknologi kecerdasan buatan.
Perusahaan yang berada di balik ChatGPT itu mengonfirmasi kepada The Financial Times bahwa mereka telah “membatalkan tanpa batas waktu” rencana peluncuran fitur chatbot untuk orang dewasa. Fitur yang sempat disebut “Citron mode” ini awalnya diumumkan pada Oktober 2025 dengan target rilis Desember tahun lalu. Namun, peluncurannya terus tertunda karena perdebatan internal yang sengit mengenai apakah fitur tersebut layak diluncurkan sama sekali. Ini menjadi aplikasi kedua yang diputuskan untuk tidak dilanjutkan OpenAI dalam minggu yang sama, setelah mereka mengumumkan penghentian generator video Sora pada Selasa lalu.
Menurut dua sumber yang familiar dengan masalah ini, perusahaan menghadapi kesulitan teknis yang signifikan. Mereka harus melatih model AI yang sebelumnya dirancang untuk menghindari konten erotis, sekaligus memastikan chatbot dapat menyaring perilaku ilegal seperti bestialitas atau incest. Tantangan teknis ini, ditambah dengan tekanan eksternal, akhirnya membuat OpenAI memilih jalan yang lebih aman.
Dalam pernyataannya, OpenAI beralasan ingin melakukan penelitian jangka panjang tentang efek percakapan erotis dan keterikatan pengguna pada AI. Perusahaan menyatakan saat ini belum ada cukup “bukti empiris” mengenai subjek tersebut. Mereka juga ingin fokus pada alat produktivitas inti seperti asisten pemrograman dan menghentikan “pencarian sampingan” seperti Sora dan chatbot dewasa ini. Keputusan ini muncul setelah OpenAI sebelumnya mengumumkan akan menambahkan kontrol orang tua dan fitur deteksi usia otomatis untuk ChatGPT, seperti yang diulas dalam fitur keamanan remaja.
CEO Sam Altman pada Oktober lalu mengatakan perusahaan selalu berhati-hati dengan isu-isu semacam ini karena kekhawatiran akan keterikatan tidak sehat pada AI. Saat itu, ia merasa yakin mereka dapat “dengan aman melonggarkan pembatasan dalam sebagian besar kasus.” Namun, realitanya ternyata lebih rumit. Mode dewasa dilaporkan menimbulkan kecemasan di kalangan investor, terutama di tengah kontroversi yang disebabkan oleh model Grok dari rival xAI, yang diketahui menghasilkan deepfake telanjang orang sungguhan dan anak-anak. Kekhawatiran ini berkaitan erat dengan perdebatan lebih luas tentang regulasi AI superintelligence yang aman.
Kekhawatiran tidak hanya datang dari luar. Staf internal OpenAI juga gelisah. Seorang karyawan senior bahkan memilih meninggalkan perusahaan karena masalah ini. “AI tidak seharusnya menggantikan teman atau keluarga Anda; Anda harus memiliki hubungan manusia,” katanya kepada FT. Pernyataan ini menyentuh inti dari dilema etika: sejauh mana kita mengizinkan mesin memenuhi kebutuhan emosional dan intim manusia? Keputusan untuk membatalkan fitur ini juga mengingatkan pada insiden sebelumnya di mana OpenAI harus mengambil tindakan tegas, seperti mencabut akses FoloToy setelah boneka AI memberikan arahan berbahaya.
Tantangan lain yang tidak kalah pelik adalah teknologi pengecekan usia OpenAI. Teknologi ini diperkenalkan setelah perusahaan menghadapi gugatan dari keluarga yang menyatakan ChatGPT membahayakan anak-anak mereka. Sayangnya, teknologi tersebut dilaporkan memiliki tingkat kesalahan lebih dari sepuluh persen. Angka itu mungkin terdengar kecil, tetapi dalam skala pengguna global, itu berarti sejumlah besar anak muda masih bisa mengakses konten yang tidak pantas. OpenAI membela diri dengan mengatakan angka tersebut masih dalam kisaran standar industri dan mereka terus berupaya meningkatkan akurasinya.
Lalu, apa arti semua ini bagi masa depan AI? Pembatalan ini bukan sekadar tentang satu fitur yang gagal diluncurkan. Ini adalah cermin dari pertumbuhan pesat industri AI yang sedang berusaha menemukan pijakan etisnya. Di satu sisi, ada tekanan komersial dan keinginan untuk mengeksplorasi segala kemungkinan teknologi. Di sisi lain, ada tanggung jawab moral, kekhawatiran regulasi, dan ketakutan akan konsekuensi sosial yang tidak diinginkan. OpenAI, sebagai pemimpin industri, tampaknya memilih untuk lebih berhati-hati. Mereka seperti sedang menarik napas panjang dan memutuskan bahwa beberapa “pencarian sampingan” lebih baik ditinggalkan demi fokus pada visi inti mereka tentang AI yang aman dan bermanfaat. Pendekatan ini sejalan dengan upaya mereka memberikan kendali lebih pada pengguna, seperti yang terlihat pada pengaturan kehangatan ChatGPT.
Bagi Anda yang mengikuti perkembangan AI, cerita ini mungkin terasa seperti deja vu. Siklus inovasi yang gegap gempita, diikuti oleh realisasi akan risiko, dan akhirnya penarikan atau penyesuaian. Ini menunjukkan bahwa jalan menuju AI yang benar-benar canggih dan bertanggung jawab dipenuhi dengan belokan yang tak terduga. Keputusan OpenAI untuk membatalkan chatbot dewasa mungkin adalah pengakuan bahwa beberapa batasan tidak boleh dilanggar, atau setidaknya, belum saatnya untuk dilanggar. Pertanyaannya sekarang, apakah perusahaan lain akan mengambil pelajaran dari sini, atau justru melihat celah pasar yang ditinggalkan OpenAI?
