Telset.id – Anda mungkin sudah melihat tren terbaru di media sosial: action figure yang dibuat menggunakan ChatGPT dengan wajah persis seperti pemiliknya. Mulai dari cangkir kopi favorit hingga headphone kesayangan, detailnya begitu personal dan mengagumkan. Tapi tahukah Anda bahwa di balik keseruan ini, ada risiko privasi yang patut diwaspadai?

Fenomena ini dimungkinkan berkat GPT-4o, model terbaru OpenAI yang mampu menghasilkan gambar dengan presisi tinggi. Tak hanya action figure, ChatGPT juga bisa mengubah foto Anda menjadi karakter ala Studio Ghibli—sebuah tren yang langsung viral. Prosesnya pun sederhana: cukup unggah foto, dan dalam hitungan detik, Anda mendapatkan versi animasi atau action figure diri sendiri. Namun, seperti yang diungkapkan oleh Tom Vazdar, pakar keamanan siber dari Open Institute of Technology, setiap unggahan foto membawa serta metadata yang mungkin tak Anda sadari.

Data Tersembunyi di Balik Unggahan Foto

Setiap kali Anda mengunggah gambar ke ChatGPT, platform ini tidak hanya memproses wajah Anda. Metadata seperti waktu pengambilan foto, lokasi GPS, bahkan jenis perangkat yang digunakan turut terekam. Camden Woollven dari GRC International Group menambahkan, foto resolusi tinggi bisa mengungkap latar belakang, dokumen, atau bahkan orang lain di sekitar Anda. “Ini adalah tambang emas untuk melatih model generatif AI,” kata Vazdar.

OpenAI menyangkal bahwa tren ini sengaja dibuat untuk mengumpulkan data pengguna. Namun, seperti dilaporkan dalam artikel Telset sebelumnya, perusahaan terus memperluas kemampuan AI-nya dengan data yang diberikan secara sukarela oleh pengguna. Meskipun OpenAI mengklaim tidak menggunakan data pribadi untuk iklan atau profil pengguna, kebijakan privasinya memperbolehkan penggunaan unggahan untuk pelatihan model.

Perlindungan Data di Berbagai Negara

Di Eropa dan Inggris, GDPR memberikan hak kepada pengguna untuk meminta penghapusan data mereka. Namun, Melissa Hall dari firma hukum MFMac menjelaskan bahwa foto yang diubah menjadi versi kartun belum tentu termasuk data biometrik yang dilindungi. Sementara di AS, perlindungan bervariasi antarnegara bagian. “California dan Illinois punya regulasi ketat, tapi tidak ada standar nasional,” ujar Annalisa Checchi dari Ionic Legal.

Lalu, bagaimana melindungi diri? Vazdar menyarankan untuk mematikan riwayat obrolan di ChatGPT dan menghapus metadata sebelum mengunggah foto. Anda juga bisa menggunakan avatar digital alih-alih foto asli. Seperti yang diulas dalam panduan edit foto di Microsoft Edge, ada banyak cara untuk mengaburkan informasi sensitif sebelum dibagikan ke platform AI.

Jadi, sebelum ikut-ikutan tren action figure atau gaya Studio Ghibli, pertimbangkan baik-baik apa yang Anda korbankan. Sebab, sekali data itu diunggah, sulit untuk menariknya kembali.

Telset.id – Jika Anda berpikir kode yang dihasilkan AI selalu aman dan andal, siap-siap terkejut. Penelitian terbaru mengungkap bahwa kode buatan AI sering kali mengandung referensi ke pustaka pihak ketiga yang tidak ada, membuka peluang besar bagi serangan berbahaya pada rantai pasok perangkat lunak.

Studi yang dilakukan oleh para peneliti dari University of Texas di San Antonio menemukan bahwa dari 576.000 sampel kode yang dihasilkan oleh 16 model bahasa besar (LLM), sebanyak 440.000 dependensi yang terkandung di dalamnya ternyata “berhalusinasi”—artinya, mereka merujuk pada pustaka yang tidak ada. Fenomena ini, yang disebut sebagai “package hallucination”, menjadi ancaman serius bagi keamanan perangkat lunak modern.

Dependensi Palsu: Pintu Masuk Serangan Berbahaya

Dependensi adalah komponen penting dalam pengembangan perangkat lunak modern. Mereka memungkinkan pengembang untuk menggunakan kode yang sudah ada tanpa harus menulis ulang dari awal. Namun, ketika AI menghasilkan referensi ke dependensi yang tidak ada, hal ini menciptakan celah keamanan yang bisa dimanfaatkan oleh penjahat siber.

Joseph Spracklen, mahasiswa PhD yang memimpin penelitian ini, menjelaskan: “Begitu penyerang menerbitkan paket dengan nama yang dihalusinasikan dan menyisipkan kode berbahaya, mereka bisa menunggu pengguna yang tidak curiga menginstalnya. Jika pengguna mempercayai output AI tanpa verifikasi, payload berbahaya akan dieksekusi di sistem mereka.”

Package Hallucination: Masalah yang Berulang

Yang lebih mengkhawatirkan, penelitian ini menemukan bahwa 58% dari nama paket yang dihalusinasikan muncul lebih dari sekali dalam 10 iterasi. Artinya, halusinasi ini bukan kesalahan acak, melainkan pola yang konsisten. Penyerang bisa memanfaatkan pola ini dengan menerbitkan paket berbahaya menggunakan nama-nama yang sering dihalusinasikan oleh AI.

Fenomena ini mengingatkan pada serangan “dependency confusion” yang pertama kali didemonstrasikan pada 2021. Serangan tersebut berhasil mengeksekusi kode palsu di jaringan perusahaan-perusahaan besar seperti Apple, Microsoft, dan Tesla. Kini, dengan maraknya penggunaan AI untuk menghasilkan kode, ancaman ini menjadi semakin nyata.

Perbedaan Antara Model Komersial dan Open Source

Penelitian ini juga mengungkap perbedaan mencolok antara model AI komersial dan open source. Model open source seperti CodeLlama dan DeepSeek menghasilkan hampir 22% package hallucination, sementara model komersial hanya sekitar 5%. Selain itu, kode JavaScript cenderung lebih banyak mengandung halusinasi (21%) dibandingkan Python (16%).

Spracklen menjelaskan bahwa perbedaan ini mungkin disebabkan oleh kompleksitas ekosistem JavaScript yang memiliki sekitar 10 kali lebih banyak paket dibanding Python. “Dengan lanskap paket yang lebih besar dan kompleks, model menjadi lebih sulit untuk mengingat nama paket tertentu secara akurat,” ujarnya.

Sebagaimana dilaporkan dalam OpenAI Rilis ChatGPT Model “o1” dengan Akurasi Lebih Tinggi, upaya untuk meningkatkan akurasi AI terus dilakukan. Namun, temuan ini menunjukkan bahwa masalah halusinasi masih menjadi tantangan besar.

Dengan prediksi bahwa 95% kode akan dihasilkan oleh AI dalam lima tahun mendatang, seperti yang diungkapkan oleh CTO Microsoft Kevin Scott, temuan ini menjadi peringatan keras bagi para pengembang. Sebelum benar-benar mempercayai kode yang dihasilkan AI, verifikasi manual terhadap setiap dependensi tetap menjadi keharusan.

Seperti yang terjadi pada kasus AI Ciptakan Kebijakan Palsu, ketergantungan berlebihan pada teknologi AI tanpa pengawasan manusia bisa berakibat fatal. Kini, lebih dari sebelumnya, kolaborasi antara kecerdasan buatan dan keahlian manusia menjadi kunci untuk menciptakan perangkat lunak yang aman dan andal.

Telset.id – Bayangkan seorang mahasiswa tingkat tiga tanpa pengalaman pemerintahan diberi tugas memimpin reformasi regulasi di salah satu lembaga federal AS menggunakan kecerdasan buatan (AI). Itulah yang terjadi pada Christopher Sweet, yang kini bekerja untuk Departemen Perumahan dan Pembangunan Perkotaan AS (HUD) di bawah tim Elon Musk bernama “Department of Government Efficiency” (DOGE).

Sweet, yang masih tercatat sebagai mahasiswa ekonomi dan ilmu data di University of Chicago, diperkenalkan kepada staf HUD sebagai “asisten khusus” dengan fokus utama menggunakan AI untuk meninjau ulang regulasi agensi tersebut. Menurut email internal yang bocor ke WIRED, Sweet disebut sebagai “analis kuantitatif pemrograman AI” yang bertugas mengidentifikasi aturan yang dinilai “terlalu ketat” dan mengusulkan revisi.

AI sebagai Alat Deregulasi Massal

Sweet dikabarkan telah membuat spreadsheet berisi ribuan rekomendasi AI untuk menyederhanakan regulasi HUD, terutama di bidang Perumahan Publik dan Indian (PIH). AI tersebut menganalisis kesesuaian aturan dengan undang-undang dasar, lalu memberi skor “ketidakpatuhan” dalam persentase—meski metode penghitungannya masih misterius. Staf PIH diminta meninjau usulan AI dan memberikan sanggahan jika tidak setuju.

Proyek ini sejalan dengan Project 2025, dokumen kebijakan era Trump yang mendorong deregulasi besar-besaran di berbagai sektor, termasuk perumahan. Seorang sumber di HUD mengaku skeptis: “Ini gila—mengandalkan AI untuk mengubah regulasi. Tapi setidaknya masih ada manusia yang memverifikasi.“

Profil Misterius Sang “Whiz Kid”

Sweet hampir tidak memiliki jejak digital, kecuali akun GitHub yang menampilkan proyek analisis beban regulasi pemerintah federal. Ia juga tercatat sebagai pendiri East Edge Securities, firma investasi mahasiswa, dan pernah magang di beberapa perusahaan ekuitas swasta. Yang menarik, Substack-nya mengikuti newsletter Marc Andreessen—miliarder Silicon Valley yang kerap memberi masukan ke tim Trump.

Kehadiran DOGE di HUD sendiri menuai kontroversi. Bulan lalu, anggota kongres Maxine Waters menuduh tim Musk “menyusup ke agensi perumahan, memecat staf ilegal, dan mengakses data sensitif, termasuk korban kekerasan seksual.”

Lantas, bagaimana AI bisa mengubah wajah birokrasi? Seperti laptop gaming ASUS ROG yang mengoptimalkan aplikasi AI, teknologi ini menjanjikan efisiensi. Namun, tanpa transparansi dan pengawasan, risiko kesalahan algoritmik atau bias kebijakan bisa mengancam hak publik.

Sweet menolak berkomentar, sementara HUD enggan menjelaskan perannya. Yang jelas, kasus ini menjadi ujian nyata seberapa jauh AI boleh mengambil alih proses demokratis seperti pembuatan regulasi.

Telset.id – Jika Anda mengira pelatihan model kecerdasan buatan (AI) hanya bisa dilakukan di pusat data raksasa dengan GPU canggih, bersiaplah untuk terkejut. Dua startup AI, Flower AI dan Vana, baru saja menciptakan pendekatan revolusioner dalam melatih model bahasa besar (LLM) secara terdistribusi di seluruh dunia.

Kolaborasi mereka menghasilkan model bernama Collective-1, yang dilatih menggunakan GPU tersebar di berbagai lokasi serta memanfaatkan data pribadi dan publik. Ini adalah terobosan yang berpotensi mengganggu dominasi perusahaan besar dalam pengembangan AI.

Revolusi Pelatihan AI Terdistribusi

Flower AI mengembangkan teknologi yang memungkinkan pelatihan model dilakukan di ratusan komputer yang terhubung via internet. Sementara Vana menyediakan sumber data unik, termasuk pesan pribadi dari platform seperti X, Reddit, dan Telegram.

Nic Lane, ilmuwan komputer dari University of Cambridge dan salah satu pendiri Flower AI, menjelaskan bahwa pendekatan terdistribusi ini bisa diskalakan jauh melampaui ukuran Collective-1 yang saat ini hanya memiliki 7 miliar parameter. “Kami sedang melatih model dengan 30 miliar parameter dan berencana mencapai 100 miliar parameter tahun ini,” ujarnya.

Mengubah Dinamika Kekuatan Industri AI

Pendekatan terdistribusi ini berpotensi mengubah peta kekuatan industri AI yang selama ini dikuasai perusahaan kaya dengan akses ke pusat data besar dan chip canggih. Helen Toner, pakar tata kelola AI di Center for Security and Emerging Technology, menyebut pendekatan Flower AI “menarik dan sangat relevan” untuk kompetisi dan tata kelola AI.

Teknologi ini memungkinkan perusahaan kecil, universitas, bahkan negara dengan infrastruktur terbatas untuk membangun AI canggih dengan memanfaatkan sumber daya yang tersebar. “Ini memungkinkan Anda menskalakan komputasi dengan lebih elegan daripada model pusat data,” kata Lane.

Fotokopi Digital: Teknologi Inti di Balik Terobosan

Untuk membangun Collective-1, Lane dan rekan-rekannya di Inggris dan China mengembangkan alat baru bernama Photon yang membuat pelatihan terdistribusi lebih efisien. Alat ini merupakan penyempurnaan dari pendekatan Google yang disebut DIstributed PAth COmposition (DiPaCo).

Photon telah dirilis sebagai proyek open source bulan lalu, memungkinkan siapa pun memanfaatkan pendekatan ini. “Prosesnya memang lebih lambat daripada pelatihan konvensional, tetapi lebih fleksibel,” jelas Lane.

Anna Kazlauskas, salah satu pendiri Vana, menekankan pentingnya pendekatan baru dalam pengumpulan data. “Ini pertama kalinya data yang langsung disumbangkan pengguna digunakan untuk melatih model dasar, dengan pengguna memiliki kepemilikan atas model AI yang dibuat dari data mereka,” katanya.

Mirco Musolesi dari University College London menambahkan bahwa pendekatan terdistribusi akan membuka akses ke jenis data baru, terutama di sektor sensitif seperti kesehatan dan keuangan, tanpa risiko sentralisasi data.

Dengan perkembangan ini, masa depan industri AI mungkin tidak lagi didominasi oleh segelintir perusahaan raksasa. Pendekatan terdistribusi membuka peluang bagi lebih banyak pemain untuk berkontribusi dalam pengembangan teknologi yang akan membentuk masa depan kita.

Telset.id – Dengan lebih dari 3 miliar pengguna global, WhatsApp tak henti berinovasi. Kini, aplikasi pesan instan besutan Meta tersebut bersiap meluncurkan fitur AI berbasis cloud yang tetap menjaga privasi pengguna. Fitur ini akan menghadirkan kemampuan seperti ringkasan pesan dan alat komposisi pesan, tanpa mengorbankan keamanan end-to-end encryption yang menjadi ciri khas WhatsApp.

Meta, induk perusahaan WhatsApp, telah lama mengintegrasikan fitur AI berbasis model bahasa besar (LLM) open-source mereka, Llama, ke dalam berbagai layanannya. WhatsApp sendiri sudah memiliki asisten AI Meta yang bisa diakses melalui ikon lingkaran biru muda. Namun, banyak pengguna yang merasa kurang nyaman karena interaksi dengan asisten AI tersebut tidak dilindungi oleh enkripsi end-to-end seperti halnya obrolan biasa di WhatsApp.

Private Processing: Solusi Privasi untuk AI di WhatsApp

Untuk mengatasi kekhawatiran tersebut, WhatsApp memperkenalkan fitur baru bernama Private Processing. Fitur ini dirancang sebagai platform khusus yang memproses data untuk tugas-tugas AI tanpa memberikan akses informasi tersebut kepada Meta, WhatsApp, atau pihak ketiga mana pun. Chris Rohlf, Direktur Teknik Keamanan Meta, menjelaskan bahwa WhatsApp memiliki model ancaman yang sudah dipahami dengan baik karena menjadi target berbagai peneliti dan aktor ancaman.

“Ini bukan hanya tentang memperluas model ancaman dan memastikan privasi serta keamanan terpenuhi, tetapi juga tentang pertimbangan cermat terhadap pengalaman pengguna dan membuat fitur ini bersifat opsional,” ujar Rohlf. Pengguna dapat memilih untuk menggunakan fitur AI WhatsApp atau tidak. Selain itu, mereka juga bisa mencegah orang lain dalam obrolan grup menggunakan fitur AI dengan mengaktifkan kontrol baru bernama Advanced Chat Privacy.

Bagaimana Private Processing Bekerja?

Private Processing dibangun dengan perangkat keras khusus yang mengisolasi data sensitif dalam Trusted Execution Environment (TEE), sebuah area terpisah dan terkunci dalam prosesor. Sistem ini dirancang untuk memproses dan menyimpan data dalam waktu sesingkat mungkin. Jika ada upaya peretasan atau manipulasi, sistem akan langsung berhenti bekerja dan mengirimkan peringatan.

WhatsApp juga telah mengundang audit pihak ketiga untuk memeriksa komponen-komponen sistem ini. Selain itu, mereka berencana untuk membuat komponen Private Processing menjadi open-source, sehingga komunitas keamanan dapat memverifikasi jaminan privasi dan keamanannya. Langkah ini mirip dengan yang dilakukan Apple dengan Private Cloud Compute untuk platform AI mereka, Apple Intelligence.

Namun, ada perbedaan mendasar antara pendekatan Apple dan WhatsApp. Apple Intelligence dirancang untuk melakukan sebanyak mungkin pemrosesan AI di perangkat (on-device) dan hanya mengirim permintaan ke infrastruktur cloud ketika diperlukan. Sementara itu, WhatsApp memilih pendekatan berbasis cloud karena keterbatasan perangkat keras yang digunakan oleh penggunanya yang beragam, mulai dari ponsel kelas rendah hingga flagship.

Risiko dan Tantangan ke Depan

Meskipun WhatsApp mengklaim telah merancang Private Processing dengan sangat aman, para ahli kriptografi seperti Matt Green dari Johns Hopkins University mengingatkan bahwa fitur ini tetap membawa risiko. “Setiap sistem end-to-end encrypted yang menggunakan inferensi AI di luar perangkat akan lebih berisiko daripada sistem murni end-to-end,” kata Green.

WhatsApp berencana untuk terus mengembangkan fitur AI mereka di masa depan, termasuk kemampuan yang lebih kompleks yang mungkin melibatkan pemrosesan dan penyimpanan lebih banyak data. Namun, hal ini juga berarti bahwa server Private Processing akan menjadi target empuk bagi peretas dan aktor negara.

Will Cathcart, Kepala WhatsApp, menegaskan bahwa fitur AI adalah sesuatu yang diharapkan oleh pengguna. “Kami pikir membangun cara pribadi untuk melakukannya sangat penting karena orang tidak harus beralih ke platform yang kurang aman hanya untuk mendapatkan fungsi yang mereka butuhkan,” ujarnya.

Dengan hadirnya fitur AI ini, WhatsApp berusaha menyeimbangkan antara inovasi dan keamanan. Namun, apakah pengguna akan sepenuhnya percaya? Jawabannya mungkin akan terlihat dalam beberapa minggu ke depan ketika fitur ini mulai diluncurkan.