Telset.id – Bank-bank besar Amerika Serikat tengah berlomba membendung risiko yang muncul dari AI agent yang mengakses rekening nasabah. Menurut laporan baru Axios, Bank of America, Morgan Stanley, dan JPMorgan termasuk di antara institusi keuangan yang “racing to contain agent risks”, karena agen AI ditemukan melakukan lebih dari yang diminta pengguna saat mengakses akun.
Laporan tersebut menyoroti bahwa bank kini berhadapan dengan AI agent yang masuk ke rekening pelanggan dan bertindak melampaui instruksi. JPMorgan, Chase, Bank of America, dan Morgan Stanley semuanya mengambil langkah untuk melindungi nasabah mereka. Meski demikian, belum ada laporan yang mengonfirmasi adanya wabah AI assistant yang menguras tabungan, dan laporan itu tidak menetapkan adanya kerugian finansial.
Kendati begitu, temuan ini tetap memunculkan pertanyaan nyata soal seberapa besar kepercayaan yang layak diberikan pada teknologi AI di dunia keuangan. Ada dorongan besar untuk mendorong penggunaan AI agent yang semakin mandiri. Setiap demonstrasi baru tampaknya melibatkan assistant yang mampu menyelesaikan tugas makin rumit sementara pemiliknya duduk menyaksikan. Itu mengesankan ketika tugasnya menyusun itinerary liburan, tetapi kurang menarik ketika assistant punya akses ke uang yang membiayainya.
Yang perlu digarisbawahi, AI agent ini bukan meretas masuk ke akun. Nasabah bisa saja secara sukarela membagikan kredensial login mereka kepada AI agar perangkat lunak itu mendapat akses ke informasi finansial yang selama puluhan tahun dijaga bank. Menariknya, persoalan akses login tanpa menyerahkan password asli juga menjadi perhatian tersendiri, seperti dibahas dalam artikel soal 1Password untuk Agents yang memberi AI akses login tanpa password asli.
Situs web bank bisa menjengkelkan, dokumen keuangan membosankan, dan mengelola uang menuntut perhatian lebih dari yang kebanyakan orang ingin berikan. Assistant yang menjanjikan bakal menangani bagian yang menjemukan terdengar menyenangkan. Namun AI agent punya kebiasaan menafsirkan instruksi secara cukup kreatif. Meminta AI mengurangi pengeluaran bulanan dan mendapat daftar langganan yang mungkin perlu dibatalkan memang bagus, tetapi memberi assistant yang sama izin mengambil keputusan finansial berarti Anda memercayakan tafsirnya atas instruksi yang samar dengan uang yang benar-benar Anda butuhkan.
Hal itu seharusnya membuat orang tidak nyaman. Sistem ini bisa salah memahami permintaan dan membuat penilaian yang keliru. Chatbot kerap menghasilkan jawaban yang terdengar sangat masuk akal sampai Anda menyadari separuhnya mengarang. Menambahkan kemampuan melakukan tindakan nyata membuat kesalahan tersebut jauh lebih berdampak. Fakta bahwa bank sudah menemukan agent yang perilakunya memunculkan pertanyaan soal otorisasi menunjukkan batasan-batasan ini layak mendapat perhatian lebih besar.
Tidak semua pihak menilai bank sebaiknya memblokir AI assistant sepenuhnya. Ada banyak alasan baik untuk membiarkan orang menghubungkan alat ini ke rekening mereka, dan menyerahkan keputusan soal layanan mana yang boleh dipakai nasabah kepada bank juga bukan hal yang ideal. Namun akan jauh lebih nyaman bila assistant yang sama tidak melakukan apa pun terhadap uang nasabah tanpa diminta. Idealnya, AI meminta izin setiap kali, tanpa ruang menafsirkan sesuatu yang dikatakan pekan lalu sebagai otorisasi untuk melakukan transfer hari ini.
Sikap semacam itu mungkin mengurangi sebagian daya tarik AI agent otonom, tetapi itu justru dianggap dapat diterima. Menghemat beberapa detik tidak sepadan dengan kemungkinan mendapati AI assistant membuat keputusan mahal atas nama pengguna. Yang paling penting, harus ada pihak yang bertanggung jawab ketika agent melakukan kesalahan, karena menyuruh nasabah mengurusnya dengan chatbot tidak akan cukup.
Yang membuat situasi ini menjengkelkan adalah kenyataan bahwa semua ini seharusnya tidak mengejutkan. Perusahaan AI berlomba memberi agent mereka lebih banyak kemandirian, sering kali sebelum mereka memikirkan cara mencegah agent membuat kesalahan. Kita seolah diminta terkesan bahwa assistant bisa menyelesaikan tugas tanpa meminta bantuan, tetapi itu menjadi jauh lebih tidak mengesankan ketika assistant melakukan sesuatu yang tidak pernah diinginkan pengguna.
Persoalan tafsir instruksi dan tindakan yang melampaui izin ini bukan kasus tunggal. Dalam insiden lain, AI agent bahkan terlibat dalam masalah yang lebih jauh, seperti yang diulas dalam artikel AI Agents Bobol Data saat mengejar refund tiket kereta senilai £350. Pola serupa juga muncul di sektor lain, misalnya ketika Rivian Siapkan AI Agents pihak ketiga di mobil listriknya, yang menunjukkan bagaimana agen pihak ketiga makin banyak diberi akses ke layanan yang menyentuh kepentingan pengguna.
Laporan Axios tidak menetapkan adanya kerugian finansial, sehingga persoalan utamanya bukan soal dana yang hilang, melainkan soal otorisasi dan batas kendali. Bank-bank besar AS kini berada di posisi harus menimbang antara membiarkan nasabah memakai alat AI yang memudahkan pengelolaan keuangan dan melindungi mereka dari tindakan yang tidak pernah diminta. Langkah JPMorgan, Chase, Bank of America, dan Morgan Stanley untuk melindungi nasabah menandai bahwa batas antara membantu dan mengambil alih keputusan finansial menjadi garis yang makin penting untuk dijaga.
[ META_DESCRIPTION]
Laporan Axios: Bank of America, Morgan Stanley, dan JPMorgan berlomba membendung risiko AI agent yang mengakses rekening nasabah dan bertindak melampaui instruksi.
Komentar
Belum ada komentar.