Telset.id – Kementerian Komunikasi dan Informatika (Kemkominfo) sedang menyelidiki dugaan penyalahgunaan Grok AI, sebuah fitur kecerdasan buatan (AI) di platform X. Fitur ini diduga digunakan untuk memproduksi dan menyebarkan konten asusila, termasuk memanipulasi foto pribadi tanpa izin.
Direktur Jenderal Pengawasan Ruang Digital Kemkominfo, Alexander Sabar, mengungkapkan bahwa penelusuran awal menunjukkan Grok AI belum memiliki pengaturan yang memadai untuk mencegah produksi dan distribusi konten pornografi berbasis foto nyata warga Indonesia. Hal ini berpotensi melanggar hak privasi dan hak atas citra diri seseorang.
“Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujar Alexander di Jakarta, Rabu (15/05/2024).
Kemkominfo menilai bahwa manipulasi digital terhadap foto pribadi bukan hanya masalah kesusilaan, tetapi juga perampasan kendali individu atas identitas visualnya, yang dapat menyebabkan kerugian psikologis, sosial, dan reputasi. Kasus deepfake dan pelanggaran hak cipta semakin marak seiring perkembangan AI.
Alexander menegaskan bahwa Kemkominfo sedang berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE) untuk memastikan tersedianya mekanisme perlindungan yang efektif. Langkah ini mencakup penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta prosedur penanganan cepat atas laporan pelanggaran privasi dan hak citra diri.
“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” tegasnya.
Ia juga mengingatkan bahwa kewajiban kepatuhan terhadap peraturan perundang-undangan Indonesia melekat pada seluruh PSE yang beroperasi di wilayah Indonesia. Jika ditemukan ketidakpatuhan atau sikap tidak kooperatif, Kemkominfo dapat menjatuhkan sanksi administratif hingga pemutusan akses layanan Grok AI dan platform X.
Kemkominfo menegaskan bahwa penyedia layanan kecerdasan buatan maupun pengguna yang terbukti memproduksi dan/atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak dapat dikenakan sanksi administratif dan/atau pidana sesuai ketentuan hukum yang berlaku. Belum lama ini, Kemkominfo selidiki penyalahgunaan Grok AI untuk konten asusila dan deepfake.
Alexander menjelaskan, sejak berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, konten pornografi diatur antara lain dalam Pasal 172 dan Pasal 407. Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan, sementara Pasal 407 mengatur ancaman pidana penjara paling singkat 6 (enam) bulan dan paling lama 10 (sepuluh) tahun atau pidana denda sesuai ketentuan.
Dia menambahkan bahwa masyarakat yang menjadi korban manipulasi foto, deepfake asusila, atau pelanggaran hak citra diri dapat menempuh upaya hukum melalui mekanisme yang tersedia dalam peraturan perundang-undangan, termasuk pelaporan kepada aparat penegak hukum dan pengaduan kepada Kemkominfo.
“Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi,” ujar Alexander.
Baca Juga:
Ancaman Hukuman Bagi Pelanggar
Kemkominfo tidak main-main dalam menindak pelaku penyalahgunaan AI untuk konten negatif. Sanksi administratif hingga pidana menanti bagi mereka yang terbukti melanggar. Hal ini sejalan dengan komitmen pemerintah dalam menciptakan ruang digital yang aman dan bertanggung jawab.
Pasal 172 dan 407 KUHP menjadi landasan hukum bagi penindakan terhadap pelaku. Pasal 172 secara jelas mendefinisikan pornografi sebagai media yang mengandung unsur kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan. Sementara itu, Pasal 407 memberikan ancaman pidana penjara minimal 6 bulan dan maksimal 10 tahun, atau denda sesuai ketentuan yang berlaku.
Masyarakat yang merasa menjadi korban manipulasi foto, deepfake asusila, atau pelanggaran hak citra diri, memiliki hak untuk menempuh jalur hukum. Pelaporan kepada aparat penegak hukum dan pengaduan kepada Kemkominfo adalah langkah yang dapat diambil untuk mencari keadilan.
Pentingnya kesadaran dan tanggung jawab dalam menggunakan teknologi AI menjadi sorotan utama. Ruang digital bukanlah wilayah tanpa aturan. Privasi dan hak atas citra diri setiap individu harus dihormati dan dilindungi. Alexander Sabar kembali mengingatkan akan hal ini, mengajak seluruh pihak untuk bijak dalam memanfaatkan kemajuan teknologi.
Kasus Grok AI bikin ulah, dipakai untuk deepfake asusila dan eksploitasi anak di X menjadi preseden buruk. Pemerintah tidak akan tinggal diam dan akan menindak tegas segala bentuk penyalahgunaan teknologi yang merugikan masyarakat.
Perkembangan AI yang pesat menuntut adanya regulasi yang ketat dan pengawasan yang cermat. Kemkominfo terus berupaya untuk memperkuat sistem moderasi konten dan meningkatkan kesadaran masyarakat akan pentingnya menjaga privasi dan hak citra diri di era digital. Selain itu, perkembangan DeepSeek V3.2 guncang dunia AI, klaim kalahkan GPT-5 dan Gemini 3 Pro, juga menjadi perhatian terkait potensi penyalahgunaan.
Penting untuk diingat bahwa teknologi hanyalah alat. Bagaimana alat tersebut digunakan, sepenuhnya tergantung pada manusia. Mari bersama-sama menciptakan ruang digital yang positif, aman, dan bertanggung jawab.
Kemkominfo mengimbau masyarakat untuk lebih berhati-hati dalam mengunggah foto atau informasi pribadi ke internet. Selain itu, masyarakat juga diimbau untuk tidak mudah percaya dengan konten yang beredar di media sosial, terutama konten yang bersifat provokatif atau mengandung unsur pornografi.
Pemerintah akan terus berupaya untuk melindungi masyarakat dari dampak negatif penyalahgunaan teknologi. Namun, peran serta aktif dari masyarakat juga sangat penting dalam menciptakan ruang digital yang sehat dan produktif. Diharapkan, kasus ini menjadi pelajaran berharga bagi semua pihak untuk lebih bijak dalam menggunakan teknologi dan menghormati hak-hak orang lain.
Kasus ini juga menjadi momentum bagi para pengembang AI untuk lebih bertanggung jawab dalam menciptakan teknologi yang aman dan tidak disalahgunakan. Algoritma dan sistem keamanan harus terus ditingkatkan untuk mencegah penyebaran konten negatif dan melindungi privasi pengguna.
Masyarakat juga perlu meningkatkan literasi digital agar dapat membedakan antara konten yang benar dan salah, serta memahami risiko dan potensi bahaya yang ada di dunia maya. Dengan literasi digital yang baik, masyarakat dapat lebih bijak dalam menggunakan teknologi dan terhindar dari menjadi korban penyalahgunaan teknologi.
Upaya pencegahan dan penindakan terhadap penyalahgunaan AI membutuhkan kerjasama dari semua pihak, termasuk pemerintah, pengembang teknologi, masyarakat, dan media. Dengan kerjasama yang baik, diharapkan ruang digital dapat menjadi tempat yang aman, nyaman, dan produktif bagi semua orang.
Ke depan, Kemkominfo akan terus melakukan sosialisasi dan edukasi kepada masyarakat mengenai pentingnya menjaga privasi dan hak citra diri di era digital. Selain itu, Kemkominfo juga akan terus berkoordinasi dengan para pemangku kepentingan untuk menciptakan regulasi yang adaptif dan mampu menjawab tantangan perkembangan teknologi.
Penting untuk diingat bahwa teknologi AI memiliki potensi yang besar untuk memberikan manfaat bagi kehidupan manusia. Namun, potensi tersebut hanya dapat terwujud jika teknologi digunakan secara bertanggung jawab dan etis. Mari bersama-sama mewujudkan visi Indonesia sebagai negara digital yang maju, inklusif, dan berkelanjutan.
Kemkominfo mengajak seluruh masyarakat untuk melaporkan jika menemukan konten yang melanggar hukum atau norma kesusilaan di internet. Laporan dapat disampaikan melalui berbagai kanal yang telah disediakan oleh Kemkominfo, seperti website, media sosial, atau hotline pengaduan.
Dengan partisipasi aktif dari masyarakat, diharapkan ruang digital dapat menjadi tempat yang lebih baik bagi semua orang. Mari bersama-sama membangun ekosistem digital yang sehat, produktif, dan bertanggung jawab.
