Telset.id – Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (Komdigi) akhirnya mengambil langkah tegas dengan melakukan pemutusan akses sementara terhadap layanan kecerdasan buatan milik Elon Musk, Grok. Keputusan ini diambil sebagai respons cepat negara untuk melindungi masyarakat, khususnya perempuan dan anak-anak, dari ancaman penyebaran konten pornografi palsu yang dibuat menggunakan teknologi teknologi deepfake.
Menteri Komunikasi dan Digital, Meutya Hafid, dalam pernyataan resminya di Jakarta pada Sabtu (10/1), menegaskan bahwa kebijakan ini bukan sekadar pembatasan teknologi, melainkan bentuk tanggung jawab negara dalam menjaga ruang digital yang etis. Menurutnya, praktik pembuatan konten asusila non-konsensual menggunakan AI adalah pelanggaran serius terhadap hak asasi manusia.
“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” ujar Meutya. Ia menambahkan bahwa dampak psikologis, sosial, dan hukum bagi korban kekerasan berbasis digital ini sangatlah merugikan.
Baca Juga:
Ultimatum untuk Platform X dan Dasar Hukum
Langkah pemutusan akses ini bersifat sementara sebagai tindakan preventif sekaligus korektif. Komdigi menekankan bahwa setiap platform digital yang beroperasi di wilayah hukum Indonesia wajib memiliki mekanisme pengamanan yang mumpuni. Hal ini krusial agar teknologi mereka tidak disalahgunakan untuk memproduksi konten terlarang seperti deepfake asusila.
Selain memblokir akses, Komdigi juga telah melayangkan permintaan resmi kepada Platform X (sebelumnya Twitter) untuk segera hadir memberikan klarifikasi. Pemerintah menuntut penjelasan komprehensif mengenai dampak negatif penggunaan Grok serta langkah mitigasi nyata yang akan dilakukan perusahaan untuk mencegah kejadian serupa terulang.
“Kementerian Komunikasi dan Digital juga telah meminta Platform X untuk segera hadir guna memberikan klarifikasi terkait dampak negatif penggunaan Grok,” tegas Meutya.
Secara hukum, tindakan Komdigi ini memiliki landasan yang kuat. Pemerintah menjalankan kewenangannya sesuai Peraturan Menteri Komunikasi dan Informatika Nomor 5 Tahun 2020 tentang Penyelenggara Sistem Elektronik (PSE) Lingkup Privat. Pasal 9 dalam regulasi tersebut secara tegas mewajibkan PSE untuk memastikan sistem mereka tidak memuat atau memfasilitasi penyebaran informasi elektronik yang dilarang oleh undang-undang.
Sorotan Global Terhadap Grok AI
Kontroversi Grok tidak hanya terjadi di Indonesia. Fitur pembuatan gambar pada chatbot ini telah memicu kritik keras dari berbagai penjuru dunia karena kemampuannya menghasilkan gambar yang tidak senonoh dengan batasan yang minim. Meskipun pihak Grok menyatakan bahwa fitur pembuatan dan pengeditan gambar hanya tersedia bagi pelanggan berbayar di X, banyak pihak menuding celah keamanan pada aplikasi tersebut memungkinkan penyalahgunaan yang lebih luas.
Sejumlah yurisdiksi besar seperti Inggris, Uni Eropa, dan India telah secara terbuka mengecam X dan Grok. Uni Eropa bahkan mengambil langkah lebih jauh dengan meminta xAI (perusahaan induk Grok) untuk menyimpan seluruh dokumentasi terkait chatbot tersebut sebagai bahan penyelidikan.
Sementara itu, India dikabarkan telah memerintahkan X untuk segera melakukan perubahan sistem guna menghentikan penyalahgunaan fitur gambar tersebut. Jika tidak dipatuhi, X berisiko kehilangan perlindungan safe harbor di negara tersebut, yang berarti platform bisa dimintai pertanggungjawaban hukum secara langsung atas konten pengguna. Lembaga pengawas komunikasi Inggris juga melaporkan telah menghubungi xAI terkait isu sensitif ini.
Tindakan tegas Komdigi ini menambah daftar panjang tekanan regulasi terhadap platform AI generatif yang dinilai abai terhadap keamanan konten. Kini, bola panas berada di tangan Platform X untuk membuktikan komitmen mereka terhadap keamanan pengguna di Indonesia jika ingin layanan Grok kembali dapat diakses.
