Telset.id – Bayangkan foto diri Anda yang biasa-biasa saja tiba-tiba diubah menjadi konten pornografi oleh sebuah kecerdasan buatan, lalu disebarluaskan tanpa sepengetahuan Anda. Itulah ancaman nyata yang kini diselidiki Kementerian Komunikasi dan Digital (Kemkomdigi) terkait dugaan penyalahgunaan fitur Grok AI pada platform X. Laporan awal menunjukkan teknologi ini belum memiliki pagar yang cukup kuat untuk mencegah produksi dan distribusi konten asusila berbasis foto pribadi warga Indonesia.
Ini bukan lagi sekadar soal spam atau ujaran kebencian. Kita sedang berbicara tentang perampasan kendali atas identitas visual seseorang, sebuah pelanggaran privasi yang bisa meninggalkan luka psikologis dan sosial yang dalam. Kemkomdigi, melalui Direktorat Jenderal Pengawasan Ruang Digital, sedang menelusuri celah keamanan ini. Hasilnya? Grok AI dinilai belum memiliki pengaturan eksplisit dan memadai untuk mencegah terciptanya konten pornografi dari foto nyata. Artinya, hak privasi dan hak atas citra diri Anda berpotensi tergadai hanya dengan beberapa perintah teks sederhana.
Alexander Sabar, Direktur Jenderal Pengawasan Ruang Digital Kemkomdigi, dengan tegas menyatakan bahwa manipulasi digital foto pribadi melampaui persoalan kesusilaan. Ini adalah bentuk perampasan kendali individu atas identitas visualnya. “Temuan awal menunjukkan belum adanya pengaturan spesifik dalam Grok AI untuk mencegah pemanfaatan teknologi ini dalam pembuatan dan penyebaran konten pornografi berbasis foto pribadi. Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” ujarnya di Jakarta, Rabu (7 Januari 2026). Pernyataan ini bukan sekadar peringatan, tapi sinyal bahwa era di mana wajah kita bisa dengan mudah menjadi alat eksploitasi telah tiba.
Koordinasi Ketat dengan Penyelenggara Sistem Elektronik
Lantas, apa langkah konkret yang diambil? Kemkomdigi tidak tinggal diam. Mereka kini berkoordinasi intens dengan para Penyelenggara Sistem Elektronik (PSE), termasuk tentunya platform X sebagai induk dari Grok AI. Tujuannya jelas: memastikan tersedianya mekanisme pelindungan yang efektif. Koordinasi ini mencakup penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta penyiapan prosedur penanganan cepat atas laporan pelanggaran. Alexander menegaskan, “Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang.”
Pesan ini terdengar keras, dan memang harus. Dalam ekosistem digital yang semakin kompleks, tanggung jawab tidak boleh hanya dibebankan pada pengguna akhir. Penyedia platform dan teknologi, seperti yang terjadi dalam inisiatif transformasi digital yang diusung berbagai perusahaan, harus membangun dari hulu. Mereka perlu mengintegrasikan prinsip keamanan dan etika sejak tahap desain, bukan sekadar menambal lubang setelah masalah terjadi. Ini sejalan dengan semangat inovasi yang bertanggung jawab, seperti yang juga digaungkan dalam event-event besar seperti Telkomsel Solution Day 2025 yang menghadirkan inovasi AI dan 5G.
Baca Juga:
Ancaman Sanksi dan Dasar Hukum yang Menguat
Bagi PSE yang abai, konsekuensinya jelas. Kemkomdigi mengingatkan bahwa kewajiban kepatuhan terhadap peraturan Indonesia melekat pada semua PSE yang beroperasi di wilayah hukum Republik. Sikap tidak kooperatif atau ketidakpatuhan bisa berujung pada sanksi administratif yang berat, bahkan hingga pemutusan akses layanan Grok AI dan platform X secara keseluruhan. Ini adalah wewenang yang serius, menunjukkan komitmen pemerintah untuk tidak bermain-main dalam melindungi warganya di ruang digital.
Pijakan hukumnya pun semakin kokoh. Dengan berlakunya Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) sejak 2 Januari 2026, payung hukum untuk menjerat pelaku lebih jelas. Konten pornografi kini diatur, antara lain, dalam Pasal 172 dan Pasal 407 KUHP baru. Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan. Sementara itu, Pasal 407 mengancam pidana penjara paling singkat enam bulan hingga sepuluh tahun, atau pidana denda. Ancaman ini berlaku baik bagi penyedia layanan AI maupun pengguna individu yang terbukti memproduksi dan menyebarkan konten terlarang.
Ini adalah babak baru dalam penegakan hukum siber di Indonesia. Hukum tidak lagi tertinggal jauh di belakang kecepatan teknologi. Upaya penegakan ini merupakan bagian integral dari transformasi digital menyeluruh yang ingin dicapai, di mana kemajuan teknologi harus berjalan beriringan dengan perlindungan hak dasar warga negara.
Seruan untuk Literasi Digital dan Tanggung Jawab Bersama
Di akhir pernyataannya, Alexander Sabar menyampaikan imbauan yang penting untuk kita renungkan. “Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi.” Kalimat ini mengingatkan kita bahwa di balik kecanggihan algoritma dan model bahasa besar, ada manusia dengan martabat yang harus dijaga.
Kasus dugaan penyalahgunaan Grok AI ini menjadi pengingat pahit bahwa transformasi digital membawa dua sisi mata uang. Di satu sisi, ia membuka pintu inovasi dan efisiensi yang tak terbatas. Di sisi lain, ia juga membuka celah baru bagi kejahatan dan pelanggaran hak. Peran pemerintah sebagai regulator memang krusial, tetapi tanggung jawab akhirnya ada di pundak kita semua. Mulai dari perusahaan teknologi yang harus beretika dalam berinovasi, hingga pengguna individu yang perlu meningkatkan literasi digital dan kesadaran untuk tidak menyalahgunakan teknologi.
Jadi, apa langkah Anda selanjutnya? Mungkin mulai dengan lebih berhati-hati membagikan foto pribadi di ruang publik digital. Atau, lebih aktif melaporkan konten-konten yang mencurigakan. Yang pasti, era di mana kita bisa pasif dan menyerahkan segalanya pada platform telah berakhir. Perlindungan privasi di era AI dimulai dari kesadaran kolektif bahwa setiap teknologi punya konsekuensi, dan setiap klik kita membentuk masa depan ruang digital yang lebih aman atau justru lebih berbahaya. Pilihannya ada di tangan kita.
