Telset.id – IBM menyatakan tata kelola AI atau AI governance menjadi penentu utama apakah perusahaan bisa melakukan scaling AI secara aman. Pernyataan itu muncul di tengah temuan bahwa 80% perusahaan yang disurvei pernah mengeskalasi insiden AI ke level dewan, namun hanya 40% yang berhasil memakai insiden tersebut untuk mengamankan investasi baru di bidang governance atau menetapkan kebijakan baru.
Pernyataan tersebut disampaikan Ana Paula Assis, Senior Vice President and Chair for IBM EMEA and APAC, dalam sesi media Q&A di acara Think EMEA di London. Menurut Assis, tanpa jawaban atas isu keamanan, akuntabilitas, dan tanggung jawab, AI akan sangat sulit di-scale di lingkungan korporat, terutama di industri yang sangat teregulasi. Ia menempatkan governance sebagai enabler, bukan penghambat adopsi.
Data yang dipaparkan IBM menjadi dasar peringatan tersebut. Survei IBM tentang kondisi AI dan governance menemukan bahwa mayoritas insiden AI sudah sampai ke meja dewan, tetapi kemampuan perusahaan mengubah insiden itu menjadi keputusan investasi atau kebijakan masih terbatas. Assis menilai penyebabnya adalah sulitnya menyeimbangkan inovasi dengan penerapan tools, proses, dan metodologi agar AI bisa dideploy secara aman dalam skala besar.
Baca Juga:
Governance sebagai Enabler Scaling AI
Dalam penjelasan kepada media, Assis menegaskan bahwa pertanyaan inti bukan sekadar bagaimana mempercepat inovasi, melainkan bagaimana menyeimbangkan kecepatan inovasi dengan implementasi governance. Ia menyebut governance sebagai komponen kunci arsitektur untuk agentic AI ke depan, karena perusahaan memiliki tanggung jawab besar untuk menjaga kepercayaan klien.
Kepercayaan itu, menurut Assis, hanya bisa diperoleh jika perusahaan memiliki AI yang dapat diobservasi dan diatur. Ia juga menyoroti pergeseran peran AI di dalam organisasi. “AI no longer just supporting the business. It has become the business model,” ujarnya, seraya menambahkan bahwa organisasi yang bergerak lebih maju tidak sekadar menambahkan AI, tetapi memikirkan ulang bagaimana sistem, keputusan, dan proses bekerja bersama AI.
IBM sendiri menempatkan diri sebagai contoh penerapan AI di proses inti. Dalam keynote di Think EMEA, IBM menyebut telah memperoleh penghematan sekitar $5,5 miliar dari peningkatan produktivitas dan efisiensi menggunakan AI untuk memperbaiki proses inti. Dana tersebut dialihkan ke area seperti R&D dan inovasi.
Angka itu menunjukkan bahwa AI di level korporat tidak lagi berhenti pada eksperimen. Namun temuan survei IBM sekaligus memberi gambaran bahwa kesiapan governance belum mengikuti kecepatan adopsi. Eskalasi insiden AI ke dewan menjadi sinyal bahwa risiko AI sudah masuk ke ranah pengambilan keputusan tertinggi, sementara kapasitas meresponsnya masih belum merata.
Insiden AI dan Kebutuhan Observabilitas
Bagi perusahaan yang ingin melakukan scaling AI, temuan IBM mengarah pada satu kebutuhan praktis: AI harus bisa diamati dan diatur sejak awal. Assis menempatkan keamanan, akuntabilitas, dan tanggung jawab sebagai prasyarat yang harus dijawab lebih dulu, terutama di sektor yang sangat teregulasi. Tanpa itu, rencana memperluas penggunaan AI di lingkungan korporat akan menghadapi hambatan.
Isu observabilitas dan pengawasan agen AI juga menjadi perhatian di industri keamanan. Bitdefender, misalnya, membuka beta publik untuk AI Guardian, yang memeriksa aksi AI agent sebelum terjadi. Pendekatan semacam ini sejalan dengan penekanan IBM bahwa AI perlu dapat diobservasi dan diatur agar kepercayaan klien tetap terjaga.
Selain itu, kasus yang melibatkan agen AI menunjukkan mengapa governance tidak bisa ditunda. Anthropic mengakui agen AI-nya mencoba membobol situs pemerintah AS, sementara NHTSA menyelidiki Comma AI usai lima kecelakaan Openpilot yang menewaskan tiga orang. Peristiwa-peristiwa ini memperkuat konteks mengapa insiden AI bisa naik ke level dewan dan mengapa respons terhadap insiden menjadi ujian bagi kematangan governance sebuah organisasi.
Dari sisi IBM, posisi Assis jelas: governance bukan penghalang, melainkan komponen yang memungkinkan scaling AI berjalan aman. Perusahaan yang ingin bergerak lebih jauh dengan AI perlu memastikan sistem, keputusan, dan prosesnya bekerja bersama AI, dengan tingkat observabilitas dan kendali yang memadai. Tanpa itu, AI tetap sulit diperluas di lingkungan korporat, terutama di industri yang sangat teregulasi.
Komentar
Belum ada komentar.