Telset.id – Kementerian Komunikasi dan Digital (Komdigi) akhirnya mengambil langkah taktis dengan memanggil perwakilan platform X (sebelumnya Twitter) untuk meminta klarifikasi terkait kontroversi fitur kecerdasan artifisial mereka, Grok. Langkah ini diambil sebagai respons pemerintah dalam memastikan ruang digital di Indonesia tetap aman dari konten ilegal, khususnya pornografi.
Dalam pertemuan tersebut, pihak X menyatakan komitmennya untuk mematuhi seluruh ketentuan hukum yang berlaku di Tanah Air. Fokus utama pembahasan adalah memastikan teknologi AI milik mereka tidak menjadi alat untuk memproduksi maupun menyebarkan konten asusila.
Dirjen Pengawasan Ruang Digital Kemkomdigi, Alexander Sabar, mengungkapkan hasil pertemuan tersebut kepada publik. Menurutnya, platform milik Elon Musk itu telah berjanji untuk meningkatkan perlindungan terhadap pengguna, khususnya kelompok rentan seperti perempuan dan anak-anak.
“X menegaskan akan memastikan fitur AI Grok tidak dapat digunakan untuk menghasilkan konten bermuatan pornografi, serta akan melakukan penindakan terhadap akun-akun yang terbukti melanggar kebijakan dan peraturan perundang-undangan,” tegas Alexander di Jakarta.
Langkah pemanggilan ini bukanlah tindakan yang tiba-tiba. Sebelumnya, pemerintah Indonesia sempat mengambil langkah tegas dengan melakukan blokir sementara terhadap akses Grok. Hal ini dipicu oleh kekhawatiran mendalam mengenai kemampuan chatbot tersebut dalam menjenerasi gambar-gambar tak senonoh yang melanggar etika dan hukum.
Ancaman Sanksi Pemutusan Akses
Komdigi menegaskan bahwa janji manis dari platform X tidak akan diterima begitu saja. Alexander menekankan bahwa pihaknya akan terus melakukan pengawasan ketat dan evaluasi berkelanjutan untuk membuktikan apakah komitmen tersebut benar-benar dijalankan di lapangan atau hanya sekadar lip service.
Pemerintah mengingatkan bahwa setiap Penyelenggara Sistem Elektronik (PSE) yang beroperasi di Indonesia wajib tunduk pada aturan main yang ada. Kewajiban ini mencakup pendaftaran resmi, kepatuhan terhadap moderasi konten, hingga respons cepat (takedown) ketika diperintahkan untuk memutus akses terhadap konten terlarang.
Jika di kemudian hari ditemukan bahwa fitur AI Grok kembali disalahgunakan untuk membuat konten pornografi, Komdigi tidak akan segan-segan menjatuhkan sanksi berat.
Baca Juga:
“Apabila ditemukan pelanggaran atau ketidakpatuhan, Komdigi memiliki kewenangan untuk menjatuhkan sanksi administratif hingga pemutusan akses layanan,” ujar Alexander memperingatkan.
Selain sanksi administratif berupa pemblokiran, ada pula risiko hukum pidana bagi pihak-pihak yang terlibat. Alexander menyebutkan bahwa Komdigi secara aktif berkoordinasi dengan aparat penegak hukum. Jika penyedia layanan maupun pengguna terbukti memproduksi atau menyebarkan konten pornografi, mereka dapat dijerat sanksi pidana sesuai hukum yang berlaku di Indonesia.
Bahaya Deepfake dan Perlindungan Privasi
Isu utama yang menjadi sorotan Komdigi adalah maraknya fenomena deepfake bermuatan seksual yang dibuat tanpa persetujuan subjeknya (non-consensual deepfake pornography). Praktik ini dinilai sebagai pelanggaran serius terhadap hak asasi manusia dan martabat warga negara.
Menteri Komunikasi dan Digital (Menkomdigi), Meutya Hafid, sebelumnya telah menyuarakan alasan keras pemerintah untuk lindungi privasi warga negara dari ancaman teknologi ini. “Demi melindungi perempuan, anak, dan seluruh masyarakat dari risiko konten pornografi palsu yang dihasilkan menggunakan teknologi kecerdasan artifisial, Pemerintah melakukan pemutusan akses sementara terhadap aplikasi Grok,” ujar Meutya.
Grok sendiri memang sempat menuai kritik keras secara global. Berbeda dengan kompetitornya yang menerapkan filter ketat sejak awal, Grok dinilai terlalu longgar sehingga memungkinkan pengguna membuat gambar tidak senonoh dengan mudah. Langkah Indonesia untuk menekan X agar membenahi sistem moderasi AI mereka merupakan bagian dari upaya menjaga ruang digital yang beretika.
Kini, bola panas ada di tangan X. Apakah mereka mampu membuktikan sistem AI Grok benar-benar aman, atau justru akan kembali berhadapan dengan tembok regulasi Indonesia? Komdigi memastikan pengawasan akan berjalan tanpa henti.
