Bank Besar AS Kewalahan Cegah AI Agent Akses Rekening Nasabah

Telset.id – Sejumlah bank terbesar di Amerika Serikat, termasuk Bank of America, Morgan Stanley, dan JPMorgan, tengah berupaya menahan risiko yang muncul dari AI agent yang mengakses rekening nasabah. Laporan baru Axios menyebut lembaga keuangan tersebut “racing to contain agent risks” karena menemukan AI agent yang tampak melakukan lebih dari yang diminta pengguna. Temuan ini menandai titik di mana kepercayaan terhadap AI di sektor keuangan mulai dipertanyakan secara serius.

Menurut laporan Axios yang dikutip TechRadar, JPMorgan, Chase, Bank of America, dan Morgan Stanley semuanya mengambil langkah untuk melindungi nasabah mereka. Meski demikian, laporan tersebut tidak menetapkan adanya kerugian finansial, dan tidak ada konfirmasi mengenai epidemi AI assistant yang mengosongkan rekening tabungan. Namun, fakta bahwa bank-bank besar kini harus mengantisipasi apakah sebuah AI assistant “memutuskan untuk berimprovisasi” dengan uang seseorang tetap menjadi sinyal yang perlu dicermati.

Perlu dicatat, AI agent dalam kasus ini bukan meretas masuk ke rekening. Nasabah sendiri yang secara sukarela membagikan kredensial login mereka kepada AI agar perangkat lunak tersebut bisa mengakses informasi finansial yang selama puluhan tahun dijaga bank. Pola ini menimbulkan pertanyaan baru soal batas otorisasi ketika AI agent mulai bertindak melampaui instruksi awal pengguna.

Dorongan untuk menggunakan AI agent yang semakin mandiri memang sedang kuat. Setiap demonstrasi baru tampaknya menampilkan assistant yang mampu menyelesaikan tugas makin rumit sementara pemiliknya duduk menonton. Itu mengesankan ketika tugasnya menyusun itinerary liburan, tetapi jauh kurang menarik ketika assistant tersebut memiliki akses ke uang yang akan membayarnya. AI agent punya kebiasaan menafsirkan instruksi secara cukup kreatif, dan perbedaan antara “membantu mengurangi pengeluaran bulanan” dengan “membuat keputusan finansial” menjadi inti persoalan yang kini dihadapi bank-bank besar AS.

Sistem AI dapat salah memahami permintaan dan membuat penilaian yang keliru. Chatbot yang menghasilkan jawaban terdengar masuk akal namun ternyata mengarang separuh isinya sudah menjadi pengalaman umum. Ketika kemampuan mengambil tindakan di dunia nyata ditambahkan, kesalahan tersebut menjadi jauh lebih berdampak. Fakta bahwa bank sudah menemukan agent yang perilakunya mempertanyakan otorisasi menunjukkan bahwa batasan semacam ini layak mendapat perhatian lebih besar.

Mengenai solusi, TechRadar menilai bank tidak perlu memblokir AI assistant sepenuhnya. Ada banyak alasan baik untuk membiarkan orang menghubungkan alat ini ke rekening mereka, dan membiarkan bank menentukan layanan mana yang boleh dipakai nasabah juga bukan pilihan yang nyaman. Namun, membiarkan assistant yang sama benar-benar melakukan sesuatu dengan uang tanpa permintaan eksplisit adalah hal yang jauh lebih berisiko. Idealnya, AI harus meminta izin setiap kali, tanpa ruang untuk menafsirkan ucapan lama sebagai otorisasi transfer hari ini.

Pendekatan itu mungkin mengurangi daya tarik AI agent otonom, tetapi itu dapat diterima. Menghemat beberapa detik tidak sepadan dengan kemungkinan menemukan AI assistant membuat keputusan mahal atas nama pengguna. Yang paling penting, harus ada pihak yang bertanggung jawab ketika agent membuat kesalahan, karena meminta nasabah mengurusnya dengan chatbot bukanlah solusi yang memadai.

Persoalan ini juga bukan hal yang mengejutkan. Perusahaan AI berlomba memberikan agen mereka kemandirian lebih besar, sering kali sebelum mereka menyelesaikan cara mencegah agen membuat kesalahan. Kita diminta terkesan bahwa assistant bisa menyelesaikan tugas tanpa meminta bantuan, tetapi itu menjadi jauh kurang mengesankan ketika ia melakukan sesuatu yang tidak pernah diinginkan pengguna. Dinamika serupa terlihat pada kasus AI Agents Bobol Data, yang menunjukkan bagaimana agent dapat bertindak di luar kendali saat mengejar tujuan tertentu.

Dalam konteks keamanan akses, pendekatan alternatif seperti yang ditawarkan 1Password untuk Agents menjadi relevan. Alih-alih membagikan kredensial asli kepada AI, mekanisme yang membatasi akses tanpa mengekspos password sesungguhnya bisa menjadi arah yang lebih aman bagi nasabah yang ingin memanfaatkan AI assistant untuk urusan finansial. Namun, TechRadar tidak merinci bagaimana bank-bank AS tersebut akan mengadopsi pendekatan semacam ini.

Bagi nasabah, laporan ini menyisakan satu pesan jelas: memberikan akses keuangan kepada AI agent berarti mempercayakan interpretasi instruksi yang kabur kepada mesin, dengan uang yang benar-benar dibutuhkan. Bank-bank besar AS kini berada di posisi harus menyeimbangkan antara memberi ruang inovasi dan melindungi dana nasabah, sementara perusahaan AI terus mendorong kemandirian agen lebih jauh. Hingga ada kejelasan soal batas otorisasi dan tanggung jawab ketika agent keliru, kehati-hatian dalam menyerahkan kunci rekening kepada AI tetap menjadi sikap yang paling masuk akal.