AI Agent Belum Siap Produksi Tanpa Data yang Terkelola

Telset.id – Banyak eksekutif menghabiskan waktu untuk mempertanyakan apakah AI agent sudah siap masuk tahap produksi. Namun menurut Jerry Caviston, CEO Archive360, pertanyaan itu salah tempat. Alasannya, AI agent tidak beroperasi dalam ruang hampa. Kualitas keputusan mereka sangat bergantung pada kualitas data yang digunakan.

Dalam artikel perspektif yang diterbitkan TechRadar Pro, Jerry Caviston menegaskan bahwa keamanan model dan performa memang penting, tetapi keduanya tidak bisa menutupi lemahnya kontrol atas informasi yang dapat diakses oleh AI agent. Sebelum sebuah agent masuk ke tahap produksi, organisasi membutuhkan input yang terkelola, akses yang sesuai, dan catatan yang dapat diandalkan mengenai apa yang dihasilkan agent tersebut.

Jika sebuah agent diberi informasi pelanggan yang sudah kedaluwarsa, catatan duplikat, atau materi yang tidak pernah diklasifikasikan dengan benar, agent akan bekerja dengan apa yang tersedia. Akibatnya, keputusan yang kurang tepat dapat dibuat dengan cepat dalam ribuan transaksi sekaligus.

Kesenjangan Adopsi dan Tata Kelola AI

Menurut Caviston, kesenjangan antara adopsi dan tata kelola AI saat ini melebar dengan cepat. Dalam dorongan untuk mengadopsi AI, banyak organisasi mendorong agent ke tahap produksi sebelum menyelesaikan masalah data yang mendasarinya. Kondisi ini, menurutnya, membuat mayoritas proyek AI menunjukkan nol ROI bukanlah hal yang mengejutkan.

Tata kelola AI agent tidak berhenti pada data yang boleh diakses oleh agent. Cakupannya juga meliputi data yang dihasilkan agent, seperti keputusan yang dibuat, instruksi yang diberikan, dan dokumen yang dibuat. Seiring AI berkontribusi pada keputusan signifikan di dalam perusahaan, kemampuan AI traceability dan defensibility menjadi kapabilitas yang krusial.

Organisasi yang membangun fondasi data yang kuat berada pada posisi lebih baik untuk berpindah dari pilot ke produksi dengan keyakinan bahwa agent tidak akan mengubah data yang dikelola dengan buruk menjadi krisis di seluruh perusahaan.

Masalah tata kelola data sebenarnya bukan persoalan baru. Sebagian besar organisasi besar telah menghabiskan bertahun-tahun berusaha menata informasi yang tersebar di platform operasional, file share, arsip, dan aplikasi yang seharusnya sudah lama dihentikan. Namun karena agentic AI dapat bertindak cepat atas kelemahan tersebut dalam skala besar, isu ini menjadi jauh lebih mendesak sekarang.

Masalah Data Harus Diselesaikan Lebih Dulu

Sebelum sebuah agent diberi akses ke data, menurut Caviston, tim IT perlu mengidentifikasi informasi sensitif dan teregulasi, menerapkan kebijakan klasifikasi dan retensi secara konsisten, serta menentukan sumber mana yang cukup terkini dan andal untuk pekerjaan tersebut.

Data legacy memerlukan perhatian khusus. Aplikasi yang sudah dihentikan sering kali menyimpan sejarah bisnis yang berharga, tetapi juga menampung catatan duplikat, informasi usang, dan data yang tunduk pada legal hold atau persyaratan retensi. Organisasi juga harus mempertahankan konteks dan relasi yang memberi makna pada data legacy, lalu menyediakan dataset terpilih yang dikendalikan kebijakan.

AI tidak bertindak atas data dalam ruang hampa. Tanpa konteks di sekitarnya, agent akan gagal menyelesaikan tugasnya atau, yang lebih buruk, membuat dan menjalankan keputusan yang salah.

Kesalahan lain yang dilakukan perusahaan adalah memberikan akses data lebih banyak dari yang dibutuhkan agent. Caviston menegaskan bahwa agent seharusnya hanya memiliki akses ke data yang diperlukan untuk menyelesaikan tugas yang diberikan. Fakta bahwa sebuah sistem bisa terhubung ke agent bukan berarti sistem itu harus dihubungkan.

Ia menyarankan agar agent diperlakukan seperti karyawan dan mengikuti prinsip least privilege. Sebagai contoh, customer service agent mungkin membutuhkan informasi akun dan transaksi terkini, tetapi kemungkinan besar tidak memerlukan berkas hukum atau catatan karyawan historis. Akses harus mengikuti tujuan agent yang telah ditentukan secara sempit.

Provenance atau asal-usul data juga penting. Sebuah agent tidak boleh memperlakukan sistem pencatatan terkini dan arsip berusia puluhan tahun sebagai sama-sama otoritatif. Agent harus mengetahui dari mana informasi berasal, kapan diperbarui, dan kebijakan apa yang berlaku. Tanpa konteks yang tepat, agent akan membuat kesalahan yang mahal.

Pola pikir ini sejalan dengan pengembangan agentic AI di berbagai sektor, termasuk langkah Salesforce lewat Ace yang menangani pertanyaan penumpang, maupun pendekatan Meta untuk WhatsApp Business dalam menyiapkan AI agent.

Catat Setiap Tindakan Agent

Tata kelola tidak berakhir setelah agent menerima data yang disetujui. Data terkait AI dengan cepat menjadi material untuk litigasi, tinjauan kepatuhan, dan keluhan pelanggan. Untuk bersiap, organisasi harus mampu menunjukkan apa yang diminta kepada agent, informasi apa yang diaksesnya, kebijakan apa yang diterapkan, dan apa yang terjadi selanjutnya.

Prompt, konten yang diambil, output, dan keputusan yang dihasilkan harus disimpan sebagai catatan bisnis. Seorang peninjau harus dapat merekonstruksi keputusan AI dan melacaknya kembali ke data sumber serta orang atau fungsi yang mengotorisasi aktivitas tersebut.

Pada akhirnya, akuntabilitas tidak bisa hanya dimiliki oleh tim teknologi. Pemimpin keamanan, data, privasi, hukum, dan kepatuhan semuanya memiliki peran, tetapi harus ada pemilik bisnis yang disebutkan namanya dan bertanggung jawab atas hasilnya. Otomatisasi dapat melakukan sebuah tindakan, tetapi tidak dapat menerima akuntabilitas atas tindakan tersebut.

Kesiapan data bukanlah alur kerja sekunder yang baru ditangani setelah pilot AI berhasil. Menurut Caviston, kesiapan data adalah bagian dari keputusan untuk memindahkan pilot tersebut ke tahap produksi. Jika sebuah organisasi tidak dapat mempercayai informasinya, mengontrol akses terhadapnya, dan menjelaskan keputusan yang dihasilkan secara jelas, maka agent tersebut belum siap untuk otonomi yang lebih besar.

Pandangan ini melengkapi gambaran adopsi agentic AI yang tengah berlangsung, termasuk kehadiran perangkat seperti nubia NaviX Ultra yang mengusung konsep ponsel AI agentic. Semua perkembangan itu menegaskan satu hal: tanpa fondasi data yang terkelola, AI agent berisiko membawa masalah lama ke skala yang jauh lebih besar.