Akuntabilitas AI Agent: Estonia Siapkan Sistem Registrasi Khusus

Telset.id – Kekhawatiran utama dalam penerapan AI agent bukan lagi sekadar kemampuan teknis, melainkan siapa yang bertanggung jawab ketika sistem yang beroperasi secara mandiri melakukan kesalahan. Estonia menjawab tantangan ini dengan mulai mengembangkan sistem registrasi khusus untuk AI agent pada Juni tahun ini, yang akan tersedia bagi warga negara Estonia dan komunitas pengusaha global di negara tersebut.

Langkah ini diambil untuk mengeksplorasi bagaimana negara digital penuh Estonia, di mana semua layanan publik tersedia secara online, dapat terbuka bagi gelombang bisnis bertenaga AI yang sedang berkembang. Risiko utama yang ingin diatasi adalah ketika sebuah agen AI mendapatkan tugas yang salah dan mengulangi kesalahan tersebut dalam skala besar, tanpa ada garis pertanggungjawaban yang jelas.

Diskusi tentang AI agent biasanya dimulai dari kemampuan: apakah AI dapat melakukan apa yang dilakukan manusia, seperti merekonsiliasi akun, bernegosiasi dengan pemasok, menandatangani dokumen, atau mengirimkan pengajuan publik? Pertanyaan ini penting, tetapi kinerja hanyalah sebagian dari gambaran. Begitu sebuah agen bertindak secara independen, muncul pertanyaan berbeda: siapa yang mengotorisasinya, kepentingan siapa yang diwakilinya, di mana batas wewenangnya, dan yang paling penting, siapa yang bertanggung jawab ketika terjadi kesalahan?

Risiko Kesalahan dalam Skala Luar Biasa

Ketika orang berpikir tentang risiko AI, mereka cenderung membayangkan mesin yang lepas dari kendali manusia dan mengejar tujuannya sendiri. Risiko yang lebih langsung sebenarnya kurang dramatis: sebuah sistem yang melakukan tugas biasa dengan salah, berulang kali, tanpa ada garis tanggung jawab dan akuntabilitas yang jelas.

Seorang manusia mungkin mengirim faktur ke pelanggan yang salah. Sebuah agen yang terhubung ke database pelanggan penuh dapat mengirim faktur yang sama kepada ribuan orang. Agen tersebut mungkin mengubah field yang salah dan kemudian mengulangi perubahan itu di seluruh pasar, bukan karena menjadi jahat, tetapi karena salah memahami instruksi dan memiliki akses untuk bertindak berdasarkan kesalahan itu. Kecepatan yang membuat agen menjadi berharga—dapat menghemat ratusan jam kerja—juga dapat mengubah kesalahan kecil yang seharusnya mudah diperbaiki menjadi masalah operasional serius.

Ketika sebuah agen menyusun email untuk ditinjau seseorang, ambiguitas ini mungkin tidak terlalu menjadi masalah karena manusia tetap berada di antara perangkat lunak dan dunia luar. Namun ketika agen dapat mengirim pesan, mengirimkan deklarasi, atau memindahkan uang, hal ini menjadi sangat penting. Bayangkan meminta asisten untuk memesan satu tiket penerbangan dan, alih-alih memberinya kartu perusahaan dengan batas pengeluaran yang sesuai, Anda menyerahkan paspor, kartu bank, dan kunci kantor. Anda mungkin mempercayai asisten itu sepenuhnya, tetapi izin yang diberikan tidak memiliki hubungan yang masuk akal dengan tugas tersebut.

Menentukan Batas dan Menyelesaikan Masalah

AI agent tidak dapat memiliki kewarganegaraan atau status badan hukum, tetapi mereka dapat dikaitkan dengan orang perseorangan dengan cara yang sah. Misalnya, pengidentifikasi yang andal dapat melacak aktivitas agen kembali ke orang yang bertanggung jawab untuk mengoperasikannya. Dikombinasikan dengan izin dan mandat yang jelas yang membuat ketentuan wewenangnya terlihat dan dapat diaudit, hal ini akan memungkinkan AI agent melakukan berbagai operasi dan transaksi dengan cara yang lebih terkontrol.

Kontrol ini bisa sangat presisi. Sebuah agen mungkin diizinkan untuk melihat informasi keuangan tetapi tidak mengubahnya, menyiapkan pembayaran tetapi tidak menyetujuinya, atau memesan dari pemasok tertentu tanpa melebihi jumlah tetap. Izinnya mungkin berlaku untuk satu transaksi, satu hari kerja, atau durasi kontrak tertentu, setelah itu akan kedaluwarsa tanpa bergantung pada seseorang untuk mengingat mematikannya. Mencabut wewenang itu juga harus sama mudahnya. Jika perusahaan mengakhiri hubungan dengan sebuah agen, mengganti pemasok, atau menemukan ada yang salah, perusahaan harus dapat membatalkan aksesnya tanpa mengubah kredensial orang di belakangnya.

Mandat yang berlabuh secara hukum dalam berbagai ranah kontrol ini memiliki masa pakai yang lebih lama daripada model AI individual mana pun, yang akan ditingkatkan, diganti, dan dikombinasikan seiring waktu, sering kali tanpa pelanggan melihat lebih dari sekadar nomor versi baru.

Menerapkan Konsep di Estonia

Estonia telah memutuskan untuk mengerjakan pertanyaan-pertanyaan ini sekarang. Pada bulan Juni, pemerintah mulai mengembangkan sistem registrasi AI agent yang didukung negara, yang akan tersedia bagi warga negara Estonia dan komunitas pengusaha global di negara tersebut. Dalam proposal saat ini, seseorang akan menerima pengidentifikasi numerik terdaftar yang dapat dikaitkan dengan satu atau lebih agen yang bertindak atas namanya. Operasi yang dilakukan oleh AI agent diperlakukan sebagai operasi yang dilakukan oleh mesin, di mana orang perseorangan, sebagai penambat identitas, bertanggung jawab.

AI agent hanya dapat beroperasi dalam batas otorisasi yang diberikan kepadanya. Untuk transparansi, penyedia layanan swasta juga perlu mengetahui apakah suatu operasi dilakukan oleh manusia atau oleh mesin yang bertindak atas nama mereka. Hal ini memungkinkan mereka menerapkan kontrol, pembatasan, dan model risiko yang sesuai.

Pendekatan ini memanfaatkan lebih dari dua dekade pemerintahan digital. Sistem pengidentifikasi pribadi dan identitas digital Estonia sudah memungkinkan orang bertindak atas nama orang lain dengan izin yang ditentukan dengan jelas. Seorang akuntan dapat mengajukan pajak kliennya, orang dewasa dapat mengelola urusan orang tua lanjut usia melalui portal kesehatan, dan beberapa orang dapat menggunakan rekening bank perusahaan dengan hak dan batas individual. Pada prinsipnya, kerangka kerja yang sama dapat mendukung mandat untuk AI agent.

Hal ini akan memberi pengguna keyakinan lebih besar bahwa perlindungan tersedia untuk melindungi orang yang bertanggung jawab dari kesalahan yang dapat diperkirakan oleh AI agent. Ini juga akan membantu menutup kesenjangan akuntabilitas seiring meningkatnya aktivitas agen. Sebelum AI agent diberikan kekuasaan eksekutif, mereka membutuhkan kerangka kerja yang mengikat secara teknis dan hukum yang mencatat siapa yang mereka wakili, apa yang dapat mereka lakukan, dan siapa yang tetap bertanggung jawab atas tindakan mereka.

Menurut Liina Vahtras, Managing Director di e-Residency, kesenjangan akuntabilitas dalam agentic AI tidak akan ditutup oleh model yang lebih canggih. Sebuah agen mungkin sangat mampu, namun tetap bertindak dengan konsekuensi yang berpotensi tidak diinginkan atau bahkan melanggar hukum. Satu-satunya cara untuk menjembatani kesenjangan itu adalah melalui sistem dengan pagar pembatas izin yang jelas dan jejak audit yang menghubungkan setiap tindakan agen ke orang yang mengotorisasinya, dan dapat membedakan antara manusia dan mesin sejak awal.