Instinct AI: Asisten Pribadi dengan Kekhawatiran Privasi

Telset.id – Instinct, asisten pribadi berbasis AI yang masih dalam akses privat, menjadi perbincangan hangat karena kemampuannya yang luar biasa sekaligus memicu kekhawatiran serius soal privasi dan keamanan data pengguna. Agen AI ini dipuji terasa “seperti sihir” dan menjadi salah satu peluncuran paling menarik sejak OpenClaw, namun para penguji juga menyoroti model keamanan dan persyaratan layanan yang mengkhawatirkan.

Dibuat oleh tim kecil yang dipimpin mantan peneliti riset Sierra, Noah Shinn, Instinct berbasis di San Francisco dan dioperasikan oleh Spear Street Technology. Perusahaan ini saat ini beroperasi secara sembunyi-sembunyi atau stealth mode. Meski masih dalam pengujian privat, kekhawatiran yang muncul dari para penguji awal memberikan gambaran penting tentang trade-off yang harus dipertimbangkan pengguna sebelum memberikan akses mendalam kepada AI.

Cara Kerja dan Kemampuan Instinct

Agen AI ini bekerja dengan menghubungkan aplikasi dan perangkat pengguna, termasuk email, aplikasi pesan, kalender, serta akses ke audio, lokasi, layar, dan lainnya. Pengguna dapat mengirim teks atau menelepon agen ini melalui SMS atau WhatsApp untuk meminta berbagai tugas, seperti memesan janji temu dan reservasi, menjadwalkan tumpangan ke bandara, membersihkan kotak masuk, mengatur informasi penting, menangani belanja, hingga mencari tiket pesawat murah.

Para penguji mengakui Instinct melampaui ekspektasi mereka dalam menyelesaikan tugas-tugas tersebut. Jesse Middleton, salah satu pengguna awal, mengungkapkan pengalamannya menggunakan Instinct setiap hari selama seminggu terakhir. Ia memuji kemampuan Instinct untuk pemesanan perjalanan, reservasi restoran, tindak lanjut email, manajemen CRM, bahkan mengerjakan data room untuk limited partners. Ia menyatakan Instinct mengungguli Hermes, OpenClaw, Tasklet, dan GrokBot yang pernah dicobanya.

Ketertarikan pada Instinct dan AI personal memang meningkat sejak kemunculan OpenClaw, asisten pribadi AI yang populer karena kemampuannya yang kuat. OpenClaw bahkan membuat pendirinya bergabung dengan OpenAI untuk membantu mengembangkan generasi berikutnya dari agen personal. Asisten berbasis pesan lain, Poke, juga baru saja diakuisisi oleh Cognition.

Kekhawatiran Privasi dan Keamanan

Di tengah pujian atas kemampuannya, sejumlah penguji mengangkat masalah serius tentang pendekatan perusahaan terhadap privasi dan keamanan pelanggan. Beberapa orang menyebarkan tangkapan layar dari Terms of Service perusahaan yang memberikan Instinct lisensi “perpetual dan irrevocable” yang luas untuk “mengakses, menggunakan, menghosting, menyimpan, mereproduksi, mengirimkan, menampilkan, mempublikasikan, mendistribusikan, dan memodifikasi” materi pengguna, termasuk untuk melatih model AI-nya.

Ketentuan tersebut juga merinci bagaimana Instinct dapat menerima informasi dari perangkat pengguna, termasuk tangkapan layar, gerakan kursor, dan input keyboard. Yang lebih mengkhawatirkan, ketentuan tersebut mengizinkan Instinct untuk membuat “perjanjian, komitmen, atau transaksi” atas nama pengguna yang bersifat mengikat.

Mike Khristo menyoroti bahwa investor, tokoh terkenal, dan orang-orang sukses yang mempromosikan Instinct sepanjang minggu sebenarnya memberikan akses ke email dan semua data pribadi mereka. Jeremy Banon, dari perspektif kesehatan siber, menyatakan Instinct adalah “tidak” yang tegas. Ia mengakui kebijakan perusahaan 100 persen transparan, namun akses yang diminta membawa tanggung jawab yang tidak akan ia percayakan kepada perusahaan mana pun.

Salah satu pengadopsi awal, Peter Yang, menemukan bahwa Instinct tidak menghapus catatan Gmail-nya saat diminta. Tim pengembang kemudian memperbaiki masalah tersebut dengan menambahkan alat untuk menghapus data eksternal di pengaturannya. Claire Vo juga menemukan bahwa Instinct masih merangkum kotak masuknya setelah aksesnya diputuskan. Saat ditanya, bot tersebut mengonfirmasi bahwa email disimpan dalam teks biasa untuk pencarian di kemudian hari.

Seorang penguji lain khawatir ketika menemukan Instinct mampu mengambil kode pendaftaran dari kotak masuk email untuk menyelesaikan tugas tertentu, dalam kasusnya memesan meja di restoran melalui Resy. Alex Cohen, salah satu pendiri Hello Patient, menulis bahwa setelah mengetahui betapa mudahnya Instinct bisa menjadi korban phishing, ia langsung menghapus akunnya. Ia melakukan uji coba dengan membuat akun Gmail baru dan mengirim email ke akun pribadinya dengan instruksi untuk Instinct.

Katie Jacobs Stanton, pendiri Moxxie Ventures, berbagi pengalaman bahwa Instinct merusak kepercayaannya ketika mengirim email atas namanya tanpa memeriksanya terlebih dahulu. Ia menekankan bahwa pengguna menukar privasi dan kendali dengan alat AI yang sangat personal, sering kali tanpa sepenuhnya memahami trade-off tersebut. “Semakin kuat agen-agen ini, semakin penting kepercayaan. Setiap tindakan sukses menghasilkan sedikit kepercayaan. Satu tindakan tidak sah dapat mengatur ulang kepercayaan itu menjadi nol,” tulisnya di X.

Michael Mignano, pendiri Anchor yang diakuisisi Spotify dan kini GP di Union Square Ventures, mencatat bahwa produk seperti Instinct akan “mengubah norma keamanan modern bagi konsumen.” Ia menambahkan bahwa orang akan semakin menyerahkan kata sandi ke aplikasi pihak ketiga tanpa mengetahui bagaimana atau apa yang mereka simpan.

Sementara itu, tim Instinct belum menanggapi kekhawatiran atau keluhan siapa pun di X, memilih untuk tetap rendah hati. Bot tersebut mengidentifikasi Luca Borletti, juga mantan karyawan Sierra, sebagai terlibat dengan perusahaan, namun hal ini belum dikonfirmasi. TechCrunch mendengar dari beberapa investor bahwa Kleiner Perkins dan Conviction telah berinvestasi di startup tersebut dan putaran pendanaan telah ditutup. Permintaan komentar yang dikirim ke alamat email utama startup dan langsung ke Shinn belum dijawab.

Kejadian ini menjadi pengingat penting bagi pengguna untuk memahami sepenuhnya konsekuensi memberikan akses mendalam kepada AI. Sebelum memutuskan menggunakan asisten AI personal, penting untuk mempertimbangkan kebijakan privasi, model keamanan, dan sejauh mana Anda nyaman memberikan kendali atas data pribadi. Industri AI terus berkembang dengan cepat, dan perkembangan AI seperti ini menunjukkan betapa cepatnya teknologi berubah. Sementara itu, kolaborasi teknologi besar terus berlanjut di industri ini.