ChatGPT dan Claude Beri Saran Keuangan, Tapi Tak Ada Perlindungan Hukum

Telset.id – Konsumen di Inggris yang memakai ChatGPT dan Claude untuk meminta saran keuangan tidak mendapat perlindungan apa pun ketika rekomendasi itu salah. Financial Conduct Authority (FCA) menegaskan platform LLM seperti ChatGPT dan Claude berada sepenuhnya di luar wilayah pengawasan regulator, sehingga pengguna tidak bisa mengakses Financial Ombudsman Service maupun Financial Services Compensation Scheme saat keputusan finansial mereka berujung kerugian.

Kesenjangan perlindungan ini muncul di tengah lonjakan adopsi AI untuk urusan uang. FCA menemukan lebih dari seperempat konsumen Inggris mengaku mempercayai chatbot AI untuk saran keuangan, dan angka itu ditandai sebagai kekhawatiran nyata dalam tinjauan terbaru regulator. Survei lain mencatat angka yang lebih tinggi lagi: STRAT7 menemukan 55% orang dewasa Inggris pernah memakai AI untuk panduan finansial, Sky News melaporkan 40%, sementara studi global EY mengukur adopsi Gen Z mencapai 68%.

Perbandingan dengan perbankan konvensional memperlihatkan jurangnya. Jika seseorang meminta saran investasi ke bank di Inggris, ia menerima rekomendasi yang sah secara hukum. Bila saran itu lalai, nasabah berhak mengajukan klaim lewat Financial Services Compensation Scheme. Permintaan serupa ke ChatGPT atau Claude tidak menghasilkan hak apa pun, hanya jawaban yang disampaikan dengan nada percaya diri, terlepas dari apakah isinya benar atau sepenuhnya salah.

Akurasi Bukan Satu-satunya Masalah

Menurut penulis TechRadar Pro Eugenia Mykuliak, Founder & Executive Director B2PRIME Group, sebagian besar publikasi hari ini berfokus pada akurasi dan apakah saran AI itu bagus. Padahal, pertanyaan yang diajukan selama ini dinilai salah. Dalam satu studi, lima skenario keuangan nyata diberikan kepada chatbot utama dan hasilnya dibandingkan dengan certified financial planner. Hasilnya, bot secara konsisten melewatkan konteks emosional dan situasional, sehingga keputusan personal berubah menjadi logika spreadsheet kasar yang mengabaikan input penting.

Sky News menjalankan pengujian serupa dengan memberikan £16.000 tabungan nyata kepada tiga chatbot. Temuannya, rekomendasi yang dihasilkan bias ke pasar Amerika Serikat dan tidak lengkap. Yang paling mengkhawatirkan, sebuah investigasi menemukan Claude keliru menyebut Binance sebagai terdaftar di FCA saat memberi saran kripto kepada seorang pemula. Padahal, Binance telah diperintahkan menghentikan aktivitas yang diatur Inggris sejak 2021.

Output AI yang menyesatkan memang mengganggu, tetapi menurut Mykuliak ada bagian masalah yang lebih buruk. Persoalan menjadi lebih sulit setelah saran yang salah sudah diberikan, dijalankan, dan berakhir dengan kerugian. Di titik itu, pertanyaan soal siapa yang bertanggung jawab tidak punya jawaban. FCA mencatat hal yang sama dalam laporannya pada 2026, bahwa platform LLM seperti ChatGPT dan Claude sepenuhnya berada di luar remit regulasinya.

Konsekuensinya bersifat langsung bagi konsumen. Selama memakai chatbot untuk panduan keuangan, mereka tidak menerima saran yang diatur, sehingga jaring pengaman hukum tidak berlaku begitu pertanyaan ditempelkan ke kolom obrolan. Isu ini bersinggungan dengan celah tata kelola yang lebih luas, seperti yang tergambar dalam pembahasan soal tata kelola AI yang bergerak lebih cepat dari aturan pengendalinya.

Mengapa Celah Regulasi Ini Terjadi

Untuk memahami akar celah tersebut, penting melihat cara regulasi keuangan Inggris bekerja. Perimeter pengawasannya berbasis aktivitas, bukan teknologi. Artinya, yang paling menentukan adalah apa yang dilakukan, bukan bagaimana caranya. Perusahaan yang memberikan rekomendasi personal soal pembelian, penjualan, atau kepemilikan aset tertentu menjalankan aktivitas yang diatur, terlepas apakah rekomendasi itu datang dari manusia atau algoritma.

Masalahnya, chatbot AI menempati ruang baru. Platform ini tidak dipasarkan sebagai penasihat keuangan, sehingga tidak mengklaim diri diatur. Secara teknis, dalam banyak kasus mereka juga tidak menawarkan saran dalam pengertian hukum yang ketat, melainkan merespons pertanyaan terbuka. Ambigu ini dibahas dalam laporan FCA. Mills Review menyoroti bahwa platform AI dapat memengaruhi keputusan finansial konsumen tanpa secara jelas menjalankan tindakan yang diatur.

Akibatnya, terbentuk ruang kosong serius antara dampak finansial yang nyata dan perlindungan yang disediakan otoritas regulasi. Rekomendasi utama Mills Review adalah agar FCA secara resmi merevisi cakupan penerimaan rekomendasi keuangan yang dikembangkan menggunakan alat AI. Proses ini masih berjalan, dan pembaruan lanjutan baru akan tersedia setelah beberapa bulan atau bahkan lebih lama.

Selama belum ada payung hukum yang melindungi orang biasa, Mykuliak menilai menunggu penyelesaian pemeriksaan perimeter FCA bukanlah strategi. Langkah awal yang disarankan adalah memisahkan informasi dari personalisasi, terutama jika sebuah perusahaan memiliki asisten AI. Batas sebuah rekomendasi bergantung pada apakah kesimpulannya disesuaikan dengan keadaan spesifik seseorang. Alat yang menjelaskan secara umum apa itu ETF berada dalam status regulasi yang sangat berbeda dari alat yang menyebut berapa banyak yang harus diinvestasikan ke dana tertentu.

Disclaimer juga harus benar-benar berfungsi. Teks kaki “not financial advice” yang diletakkan di bawah rekomendasi spesifik tidak akan lolos pemeriksaan regulator. FCA menilai konten, bukan bentuk. Jika output terlihat seperti rekomendasi personal, disclaimer kecil tidak akan mengubah klasifikasinya. Selain itu, kepercayaan tidak bisa dibangun dengan mengandalkan AI secara berlebihan. Analisis terhadap lebih dari 330 juta ulasan menunjukkan bahwa ulasan yang menyebut interaksi dengan AI rata-rata hanya mendapat 1,7 poin, dibandingkan 3,7 poin untuk ulasan yang tidak menyebut AI.

Dinamika ini sejalan dengan tren yang terlihat di layanan keuangan berbasis AI lain, seperti langkah analisis pengeluaran yang mengandalkan model AI untuk membaca perilaku finansial pengguna.

Mykuliak menutup dengan catatan bahwa akan selalu ada orang yang tetap memakai AI langsung untuk saran keuangan, dan jumlahnya akan bertambah. Pesannya sederhana: berhati-hatilah soal siapa yang dipercaya mengelola penghasilan. Jika tidak ada yang bertanggung jawab, tidak memperlakukannya sebagai buku aturan mungkin justru menyelamatkan dari kerugian. Sementara itu, fintech diminta mulai membangun versi bisnis yang akuntabel, dengan jejak audit dan manusia di atas lapisan AI, sehingga ketika mesin berkata “ya”, ada seseorang yang benar-benar berdiri di belakang jawaban itu.