Meta Sembunyikan Fitur Face Recognition di Kacamata Pintar

Telset.id – Meta diam-diam menyematkan fitur pengenalan wajah bernama NameTag ke dalam aplikasi pendamping kacamata pintar Ray-Ban dan Oakley, meskipun perusahaan tersebut masih menyatakan sedang “memikirkannya” secara publik. Kode yang ditemukan oleh WIRED melalui pembaruan aplikasi Meta AI sepanjang tahun ini menunjukkan bahwa fitur tersebut sudah terintegrasi dan tinggal menunggu diaktifkan.

Fitur yang secara internal disebut “NameTag” ini bekerja dengan mengidentifikasi orang yang tertangkap kamera kacamata pintar. Saat diaktifkan, pengguna akan mendapat notifikasi jika sistem mengenali seseorang. Penemuan ini mengungkapkan bahwa Meta telah mengirimkan kode pengenalan wajah ke ponsel pengguna, sementara secara publik perusahaan tersebut masih menggambarkannya sebagai sesuatu yang masih dalam tahap “pemikiran.”

Pada April lalu, Meta menyatakan jika mereka akan menggunakan pengenalan wajah, peluncurannya tidak akan dilakukan tanpa “pendekatan yang sangat hati-hati.” Namun, WIRED menemukan bahwa sejak Januari, komponen inti sistem ini sudah terintegrasi ke dalam perangkat lunak yang didistribusikan ke jutaan orang. Meskipun belum diaktifkan, NameTag berada di dalam aplikasi Meta AI yang telah diunduh lebih dari 50 juta kali dan diperlukan untuk menggunakan fitur utama kacamata pintar Meta.

Jika diaktifkan, NameTag akan mengubah wajah yang tertangkap kamera menjadi tanda tangan biometrik unik yang dikenal sebagai faceprints. Sistem kemudian akan mencocokkan setiap faceprint dengan database yang tersimpan di ponsel pengguna. Database ini saat ini dikonfigurasi untuk menerima pembaruan dari server Meta. Wajah yang dikenali akan memicu notifikasi, sementara wajah lainnya akan dipotong, diindeks, dan disimpan ke folder bertanda “pending.”

NameTag akan menghidupkan kembali teknologi yang diklaim Meta telah dihentikan pada 2021. Saat itu, perusahaan mengumumkan akan menghapus lebih dari satu miliar faceprints milik pengguna Facebook setelah bertahun-tahun kontroversi atas sistem penandaan foto. Meta akhirnya membayar USD 650 juta untuk menyelesaikan gugatan class-action dari pengguna Illinois, dan pada 2024 setuju membayar USD 1,4 miliar ke Texas atas tuduhan pengumpulan data biometrik ilegal.

Upaya Meta ini muncul di tengah meningkatnya penolakan terhadap pengenalan wajah tingkat konsumen. Para advokat privasi berpendapat bahwa teknologi ini akan memberikan akses mudah ke teknologi berbahaya bagi siapa pun, mulai dari penguntit hingga agen imigrasi. Dokumen internal Meta yang diterbitkan The New York Times pada Februari lalu menunjukkan perusahaan berencana meluncurkan fitur ini selama “lingkungan politik yang dinamis,” saat Meta yakin para kritikus terbesarnya akan sibuk.

Tiga model AI yang mendukung NameTag sudah diterapkan dari server Meta dan sekarang berada di ponsel pelanggan, menurut analisis WIRED yang direproduksi secara independen oleh pakar eksternal. Satu model mendeteksi wajah, satu memotongnya, dan satu lagi mengubahnya menjadi data biometrik. Hanya jejak antarmuka pengguna yang saat ini ada, memberikan petunjuk tentang bagaimana fitur tersebut pada akhirnya akan bekerja.

Versi aplikasi bulan Mei mengganti nama fitur tersebut untuk pengguna menjadi “Connections,” mengundang mereka untuk “mengingat orang yang kamu temui.” Masih belum jelas wajah siapa yang akan dimasukkan dalam database pengenalan sistem, bagaimana profil tersebut dibuat, atau berapa banyak orang yang pada akhirnya dapat diidentifikasi melalui fitur ini.

WIRED membagikan temuannya dengan dua peneliti keamanan eksternal yang secara terpisah memeriksa aplikasi tersebut dan mereproduksi aspek-aspek kunci dari analisis. “Fitur ini belum terbuka untuk konsumen tetapi tampaknya hampir siap diluncurkan,” kata Cooper Quintin, peneliti keamanan dari Electronic Frontier Foundation. “Meskipun ada miliaran alasan untuk tidak melakukannya, Meta tampaknya telah menciptakan kapasitas untuk mengubah pelanggan mereka menjadi mesin pengawasan yang terdistribusi.”

Peneliti lain, Buchodi, menjalankan tes tambahan pada pipeline pengenalan. Setelah menambahkan satu faceprint ke galeri aplikasi yang diambil dari filsuf Perancis Michel Foucault, aplikasi menghasilkan notifikasi: “Person recognized.” Buchodi mengatakan komponen utama fitur pengenalan wajah sudah ada di aplikasi pendamping Meta dan tidak banyak lagi yang diperlukan untuk menjadikannya fitur yang berfungsi penuh.

Pada April, lebih dari 70 kelompok advokasi—termasuk American Civil Liberties Union dan Electronic Privacy Information Center—menuntut Meta membatalkan NameTag, memperingatkan bahwa fitur tersebut akan memungkinkan penguntit dan pelaku kekerasan mengidentifikasi orang asing di tempat umum secara diam-diam. “Kompetitor kami menawarkan produk pengenalan wajah, kami tidak,” kata juru bicara Meta saat itu. “Jika kami akan merilis fitur seperti itu, kami akan mengambil pendekatan yang sangat hati-hati.”

Para advokat privasi berpendapat bahwa dengan menanamkan pengenalan wajah ke platform wearable massal, Meta bisa menormalkan kemampuan yang sebelumnya ditarik karena masalah privasi. Joseph Jerome, mantan pejabat kebijakan Meta Reality Labs yang bekerja pada tinjauan privasi untuk produk AR dan VR, mengatakan Meta sedang menetapkan norma dan standar dengan menempatkan teknologi ke dalam ekosistem. “Saya tidak tahu bagaimana Meta dapat menggunakan teknologi seperti ini secara bertanggung jawab.”

Juru bicara Meta, Ryan Daniels, membantah laporan tersebut. “Terlepas dari pemberitaan sensasional, faktanya sederhana: Kami telah mengatakan sebelumnya bahwa kami sedang menjajaki jenis fitur ini, dan apa yang Anda lihat hanyalah bukti dari penjajakan itu. Tidak ada yang dikirimkan ke konsumen dan belum ada keputusan akhir yang diambil,” katanya. Daniels juga menegaskan Meta tidak membangun database wajah terpusat.

Tinjauan kode WIRED menunjukkan sistem NameTag saat ini dirancang untuk menarik faceprints dari server Meta dan menyimpannya di perangkat pengguna. Sistem sebelumnya, yang diumumkan Facebook pada 2010, menganalisis foto dan menyarankan tag untuk orang yang muncul di gambar pengguna. Sistem itu dengan cepat berkembang hingga lebih dari satu miliar pengguna dan menjadi salah satu sistem pengenalan wajah konsumen terbesar yang pernah digunakan.

Teknologi itu mendapat sorotan hampir seketika. Regulator Eropa dan advokat privasi di AS mempertanyakan legalitasnya sejak 2011, dan ada kekhawatiran tentang apakah pengguna telah memberikan persetujuan yang berarti untuk pembuatan data biometrik. Pada 2019, Meta membayar USD 5 miliar ke Federal Trade Commission untuk menyelesaikan kasus privasi yang lebih luas termasuk masalah pengenalan wajah.

Pada November 2021, Meta mengumumkan akan mematikan sistem dan menghapus template wajah yang telah dibangun, dengan alasan kekhawatiran yang berkembang tentang peran pengenalan wajah di masyarakat. Namun, keputusan itu tidak pernah dipahami secara internal sebagai mundur permanen, kata Jerome, yang bergabung dengan Reality Labs pada pertengahan 2021. “Selalu ada ketegangan ini, kapan kita akan meluncurkan kembali pengenalan wajah?”

Pada 2025, menurut dokumen internal yang ditinjau oleh The Times, Meta berencana untuk memperkenalkan pengenalan wajah pada kacamata pintarnya kepada peserta konferensi untuk tunanetra sebelum membuatnya tersedia untuk publik. Itu tidak pernah terjadi. Namun, teknologi ini menjawab permintaan nyata: Perangkat bantu yang ada sudah memungkinkan pengguna tunanetra mengidentifikasi wajah yang mereka daftarkan secara pribadi.

Woodrow Hartzog, profesor hukum privasi di Boston University, mengatakan bahkan perlindungan opt-in—jika Meta akhirnya menawarkannya—akan tipis. Persetujuan seringkali dapat dikaitkan dengan pekerjaan, tunjangan, atau akses ke layanan. “Kami tahu bahwa semakin banyak sistem ini digunakan, semakin banyak orang melihatnya sebagai hal yang biasa,” kata Hartzog. “Dan semakin kita melihatnya sebagai hal yang biasa, semakin banyak orang cenderung mengambil isyarat moral tentang apakah diinginkan atau baik untuk memindai wajah Anda.”

Meta tidak menanggapi pertanyaan tentang pengguna mana yang mungkin dapat diidentifikasi melalui NameTag, apakah perusahaan bermaksud mengirimkan foto atau data lain yang dihasilkan sistem kembali ke servernya, atau apakah perusahaan memiliki rencana untuk mengizinkan pengguna memilih masuk daripada keluar. EssilorLuxottica, yang memproduksi kacamata pintar Ray-Ban dan Oakley bersama Meta, tidak menanggapi permintaan komentar.