Telset.id – Penyalahgunaan AI untuk membuat konten seksual palsu kini merambah dunia pendidikan. Sejumlah guru di Amerika Serikat dan Inggris melaporkan menjadi korban deepfake yang dibuat oleh siswa mereka sendiri, sebuah perkembangan yang memicu kekhawatiran serius tentang keamanan di lingkungan sekolah.
WIRED berbicara dengan empat orang pendidik yang mengaku menjadi korban pembuatan foto dan video seksual palsu oleh murid-murid mereka. Para guru ini menyebut insiden tersebut sangat menyedihkan dan mengganggu, bahkan memaksa mereka untuk menilai ulang hubungan profesional dengan para siswa.
Salah satu korban adalah DeSantiago, seorang guru pengganti yang menerima kiriman teks berisi foto dirinya yang telah dimanipulasi menggunakan AI. Foto tersebut mengubah foto selfie cermin yang ia ambil saat bekerja di kampus menjadi gambar dirinya mengenakan pakaian dalam dengan pose yang provokatif.
“Ketika saya akhirnya melihat gambar itu, rasanya seperti pukulan telak di ulu hati,” ujar DeSantiago kepada WIRED. Insiden ini memicu penyelidikan berbulan-bulan yang melibatkan dua sekolah, siswa, dan administrator.
Penyebaran Konten Palsu di Media Sosial
Setelah menerima teks tersebut, DeSantiago mulai mencari tahu siapa dalang di balik gambar itu. Ia menemukan akun TikTok yang menggunakan nama asli seorang siswa dari sekolah menengah setempat. Keesokan harinya, ia melaporkan kejadian ini kepada wakil kepala sekolah yang berjanji akan “mengurusnya”.
Pencarian lebih lanjut mengungkap bahwa siswa lain juga membuat akun yang meniru identitasnya dengan nama yang sedikit salah eja dan foto profil yang sama. Gambar tersebut kemudian menyebar ke platform lain seperti Snapchat, dan DeSantiago menerima komentar-komentar vulgar di akun TikTok-nya.
DeSantiago akhirnya memilih untuk tidak kembali ke distrik sekolah tersebut tahun ini. “Saat ini, saya tidak merasa aman untuk melakukannya,” katanya. Distrik sekolah terkait tidak menanggapi permintaan komentar dari WIRED.
Guru lain yang diwawancarai WIRED mengalami nasib serupa. Seorang guru sekolah menengah yang meminta identitasnya dirahasiakan mengatakan bahwa siswa menemukan foto publik seorang guru berusia enam puluhan tahun, memanipulasinya agar tampak melakukan tindakan seksual, dan membagikannya di grup Snapchat.
Guru yang sama juga menemukan akun TikTok yang menirukan dirinya menggunakan AI. Video-video di akun tersebut menampilkan wajahnya dengan tekstur khas hasil AI dan suara yang tidak cocok. Beberapa video menunjukkan dirinya melakukan skydiving atau backflip, sementara video lainnya menampilkan dirinya berbicara tentang tindakan seksual.
Meskipun akun tersebut akhirnya dihapus setelah dilaporkan, guru itu tetap merasa khawatir. “Saya hanya khawatir ini akan terjadi lagi,” ujarnya. Siswa yang diduga membuat akun tersebut akhirnya meninggalkan distrik sekolah setelah serangkaian insiden pelecehan yang meningkat.
Alice, seorang guru di Inggris yang bekerja dengan siswa usia 16-19 tahun, juga menjadi korban. Seorang siswa membuat video manipulasi yang menampilkan dirinya melepas pakaian dan menari. Siswa tersebut membantah saat diinterogasi dan segera keluar dari sekolah.
“Itu membuat saya merenungkan percakapan-percakapan itu, apakah dia pikir dia bisa melewati batas karena kami memiliki diskusi seperti itu?” kata Alice. “Itu membuat Anda mempertanyakan segalanya.”
Konsekuensi Hukum dan Perlindungan Guru
Donna Ballman, pengacara pensiunan yang berspesialisasi dalam hukum ketenagakerjaan, mengatakan bahwa jika siswa membuat dan membagikan gambar seksual guru, hal itu merupakan “kasus yang jelas” dari pelecehan seksual di tempat kerja. Berdasarkan undang-undang federal anti-diskriminasi, pengusaha memiliki kewajiban untuk menciptakan lingkungan kerja yang bebas dari pelecehan seksual.
Namun, Ballman menambahkan bahwa tidak ada “cetak biru” untuk bagaimana sekolah harus merespons insiden ini. Administrator bahkan tidak diwajibkan memberi tahu guru korban bagaimana siswa dihukum. “Mereka hanya harus menciptakan lingkungan yang aman bagi korban,” katanya.
Luke Red, guru kelas enam di Arizona, mengalami pengalaman serupa ketika siswa menyebarkan foto AI yang menggambarkan dirinya berciuman dengan guru pria lain. Siswa yang terbukti membuat gambar tersebut menerima hukuman skorsing tiga hari, hukuman paling berat untuk pelanggaran pelecehan seksual pertama kali menurut buku panduan distrik sekolah.
Red menyatakan keprihatinannya bukan pada apa yang terjadi padanya, melainkan pada budaya permisif penggunaan AI di kalangan siswa. “Sudah sampai titik di mana siswa merasa nyaman membuat gambar yang tidak pantas,” katanya. “Jelas ketika Anda membuat guru Anda melakukan hal-hal seksual dengan gambar-gambar ini, di situlah batasnya dilewati.”
Ia merasa lebih kasihan pada para siswa daripada dirinya sendiri. “Jelas sekali bahwa banyak anak zaman sekarang tidak memahami tidak hanya bagaimana apa yang mereka lakukan dapat memengaruhi orang lain, tetapi juga apa yang terjadi di internet dan betapa berbahayanya hal itu,” ujar Red.
Penyebaran gambar telanjang palsu dari orang dewasa tanpa persetujuan dapat dikategorikan sebagai cyberstalking dan melanggar Take It Down Act, undang-undang federal yang menjadikan publikasi “penggambaran intim tanpa persetujuan, baik otentik maupun buatan komputer” di internet sebagai tindak pidana.
Snap, perusahaan di balik Snapchat, menyatakan memiliki “proses yang mapan” untuk melaporkan konten semacam itu dan terus “mengembangkan fitur dan alat yang dirancang untuk mendukung keamanan, privasi, dan kesejahteraan komunitas kami”. Sementara itu, TikTok tidak memberikan komentar sebelum publikasi.
Insiden-insiden ini menunjukkan bahwa teknologi AI yang semakin canggih membawa risiko baru yang serius. Para pendidik yang menjadi korban mengalami dampak psikologis yang mendalam, dan banyak yang merasa hubungan mereka dengan siswa tidak akan pernah sama lagi. Sekolah dan platform media sosial perlu merespons dengan kebijakan yang lebih jelas untuk melindungi para pendidik dari penyalahgunaan teknologi ini.
[TITLE_END]
Komentar
Belum ada komentar.