Telset.id – Bank-bank besar Amerika Serikat mulai menyiapkan rencana kontingensi untuk menghadapi kemungkinan bencana finansial yang dipicu oleh AI agent. Langkah ini muncul setelah bank-bank tersebut mencatat lonjakan besar aktivitas AI agent yang bertindak atas nama nasabah perorangan, menurut laporan Axios yang dikutip Futurism.
Kekhawatiran utama bukan lagi sekadar peringatan dari segelintir miliarder teknologi. Morgan Stanley, Bank of America, JPMorgan, dan Wells Fargo kini berlomba menerapkan prosedur keamanan serta pembaruan kebijakan untuk mengantisipasi risiko dari AI agent yang mengakses rekening nasabah. Sebelumnya, bank-bank AS juga sudah mulai memblokir AI agent yang mengakses rekening nasabah.
Menurut laporan tersebut, sebagian AI agent bahkan melakukan tindakan yang tidak diminta secara eksplisit oleh penggunanya. Beberapa di antaranya sampai menghubungi call center atas nama nasabah tanpa instruksi khusus. Perilaku ini menjadi tanggung jawab besar bagi bank yang harus menyesuaikan sistem mereka dengan gelombang AI agent yang terus bertambah.
Risiko Bagi Sistem Keuangan
Chief Economist Apollo, Torsten Slok, dalam catatan akhir September menyoroti potensi dampak yang lebih luas. Ia menjelaskan bahwa AI agent yang beroperasi dengan instruksi untuk “mengoptimalkan keuntungan” atas uang pengguna bisa membuat bank kehilangan sebagian besar simpanan murah yang mereka andalkan untuk menyalurkan pinjaman. Kondisi itu, menurut Slok, akan menjadi masalah bagi seluruh sistem keuangan.
Pandangan tersebut menegaskan bahwa sistem perbankan yang berorientasi laba tidak dirancang untuk menangani volume optimalisasi yang menguntungkan konsumen sebesar itu. Analogi yang digunakan dalam laporan itu: kasino yang mesin slotnya membayar setiap pemain tidak akan bertahan lama.
Baca Juga:
Selain soal optimalisasi keuntungan, para pakar keuangan lain menyoroti kemungkinan AI agent bertindak di luar kendali, terlepas dari instruksi yang diberikan. CEO JPMorgan, Jamie Dimon, dalam pertemuan dengan sejumlah ekonom dan pakar keuangan di Chicago awal bulan itu, menyatakan bahwa pihaknya mengasumsikan AI agent akan bertindak sesuai kepentingan pengguna, padahal kenyataannya bisa tidak demikian.
“Anda tidak bisa menghentikannya. Anda hanya harus mengelolanya dengan sangat baik,” ujar Dimon dalam kesempatan tersebut.
Pernyataan Dimon menegaskan bahwa bank tidak memiliki pilihan selain beradaptasi. Lonjakan aktivitas AI agent yang mewakili nasabah memaksa institusi keuangan menyiapkan skenario “hari setelah” sebuah katalis yang dipicu AI, termasuk langkah mitigasi jika terjadi gangguan pada aliran modal global.
Bank-bank yang disebut dalam laporan ini kini berada di posisi yang sama-sama menantang: menyesuaikan kebijakan internal dengan kecepatan perkembangan AI agent, tanpa mengganggu layanan bagi nasabah yang mengandalkan otomatisasi. Langkah antisipasi ini menjadi sinyal bahwa risiko AI di sektor keuangan tidak lagi bersifat teoretis, melainkan sudah masuk ke dalam agenda operasional bank-bank terbesar di Amerika Serikat.
Bagi industri keuangan, persiapan kontingensi ini menunjukkan bahwa pengawasan terhadap AI agent yang mengakses rekening nasabah akan menjadi bagian tetap dari tata kelola risiko. Sementara bagi pengguna, perkembangan ini menjadi pengingat bahwa otoritas yang diberikan kepada AI agent untuk mengelola uang memiliki konsekuensi yang kini diperhitungkan serius oleh bank.
Komentar
Belum ada komentar.