Telset.id – Ancaman kejahatan siber kini merambah ke ruang rapat video perusahaan. Para peneliti di Fraunhofer Institute for Secure Information Technology SIT sedang mengembangkan sistem peringatan real-time yang dirancang untuk mengidentifikasi percobaan penipuan selama konferensi video korporat berlangsung.
Sistem ini menjadi respons atas meningkatnya kasus penjahat yang menargetkan rapat video untuk pencurian identitas dan penipuan finansial. Para kriminal memanfaatkan kepercayaan yang diberikan orang terhadap wajah dan suara yang sudah dikenal, sehingga karyawan lebih rentan mengikuti instruksi dari eksekutif palsu yang dihasilkan oleh teknologi AI.
Tujuan utama dari sistem ini adalah untuk menandai aktivitas mencurigakan saat rapat masih berlangsung. Dengan demikian, seorang karyawan memiliki kesempatan untuk berhenti sebelum mengikuti instruksi mahal dari seorang eksekutif yang ternyata adalah hasil rekayasa AI.
Ancaman Deepfake yang Semakin Sulit Dideteksi
Ancaman ini tidak lagi mudah dikenali. Tidak ada lagi kesan “uncanny valley” atau wajah yang tidak sinkron dengan gerakan mulut. Para peneliti menunjuk pada sebuah kasus di Hong Kong di mana seorang karyawan bergabung dalam konferensi video yang berisi beberapa rekan kerja yang tampak familiar. Semua peserta rapat lainnya ternyata palsu.
Para penjahat dilaporkan telah mengakses materi video internal dan menggunakan suara yang dihasilkan AI untuk menyamar sebagai karyawan perusahaan. Mereka akhirnya membujuk korban untuk mentransfer hampir 24 juta euro. Korban baru menyadari penipuan tersebut setelah berbicara dengan atasan aslinya setelah rapat selesai.
Penilaian manusia terbukti memberikan perlindungan yang terbatas terhadap setup yang meyakinkan. Sebuah studi terpisah pada tahun 2025 menunjukkan para mahasiswa video manipulasi yang menyamar sebagai profesor mereka menggunakan alat pengganti wajah real-time yang tersedia secara terbuka. Dua puluh lima dari 34 peserta, atau 74%, gagal mengenali bahwa video tersebut telah diubah sebelum para peneliti memberi tahu mereka.
Ketika beberapa wajah familiar muncul bersamaan dalam satu rapat, kehadiran mereka dapat memperkuat ilusi dan membuat permintaan yang tidak biasa terlihat sah. Hal ini menjadi celah keamanan serius bagi perusahaan yang mengandalkan verifikasi visual dalam komunikasi internal mereka.
Sistem Peringatan untuk Memulai Proses Verifikasi
Riset media-forensik yang sudah ada di Fraunhofer menggabungkan deep learning dengan pemrosesan sinyal untuk mencari petunjuk seperti struktur wajah yang buram, inkonsistensi antar wilayah gambar, dan keanehan kecil lainnya. Teknologi ini dirancang untuk mendeteksi jejak manipulasi yang tidak terlihat oleh mata manusia.
Meski demikian, masih ada alasan untuk memperlakukan setiap peringatan dengan hati-hati. Salah satu peneliti, Martin Steinebach, sebelumnya telah memperingatkan bahwa detektor deepfake otomatis dapat menghasilkan cukup banyak kesalahan yang menyebabkan kebingungan saat digunakan selama panggilan langsung. Sistem yang sedang dibangun oleh Fraunhofer diharapkan dapat memberikan dorongan penting sebelum urgensi dan wajah familiar hasil AI meyakinkan seseorang untuk bertindak.
Baca Juga:
Persoalan deepfake memang telah menjadi perhatian global. Berbagai platform AI seperti penggunaan Grok yang disalahgunakan, hingga tuntutan hukum terhadap aplikasi deepfake porno, menunjukkan betapa masifnya penyalahgunaan teknologi ini. Bahkan, gugatan terkait deepfake seksual terus bermunculan sebagai upaya melindungi korban.
Pengembangan sistem deteksi oleh Fraunhofer ini menjadi langkah penting dalam melindungi integritas komunikasi bisnis. Dengan meningkatnya kompleksitas serangan deepfake, perusahaan perlu menyadari bahwa verifikasi identitas dalam rapat video tidak bisa lagi hanya mengandalkan pengenalan visual semata.
Sistem peringatan real-time yang sedang dikembangkan ini diharapkan dapat menjadi lapisan pertahanan tambahan bagi karyawan yang mungkin menjadi target penipuan. Keberadaan sistem ini memberikan kesempatan bagi korban untuk melakukan verifikasi ulang sebelum mengambil keputusan finansial yang signifikan.
Bagi perusahaan yang sering melakukan transaksi besar melalui konferensi video, kehadiran teknologi deteksi seperti ini menjadi semakin relevan. Kombinasi antara kewaspadaan manusia dan bantuan sistem otomatis dapat menjadi pertahanan terbaik dalam menghadapi ancaman deepfake yang semakin canggih.
Fraunhofer sendiri belum mengumumkan jadwal rilis resmi untuk sistem ini. Namun, riset yang sedang berjalan menunjukkan keseriusan institusi riset dalam merespons ancaman siber yang terus berevolusi. Ke depannya, sistem seperti ini berpotensi menjadi standar keamanan baru dalam komunikasi video korporat.
Komentar
Belum ada komentar.