AI Governance Tak Lagi Sekadar Kebijakan, Ini Tantangan Baru CISO

Telset.id – Perusahaan di seluruh dunia terus mempercepat adopsi kecerdasan buatan di berbagai lini operasional. Namun, kecepatan ini justru menciptakan masalah baru: tanggung jawab atas risiko AI menjadi tidak jelas dan terfragmentasi di berbagai fungsi bisnis.

Fenomena ini mendorong peran Chief Information Security Officer (CISO) meluas jauh melampaui keamanan siber tradisional. Seperti diungkap dalam laporan praktik terbaik dari Forrester, “CISOs will be the trust and assurance authority for the business.” Mereka kini harus menjadi otoritas kepercayaan dan jaminan bagi perusahaan.

Rich Cooper, Global Head of Market Transformation di Fusion Risk Management, menjelaskan bahwa kesenjangan ini menciptakan kategori risiko perusahaan yang benar-benar baru. Selama bertahun-tahun, para pemimpin keamanan siber fokus pada melindungi sistem dan mengelola ancaman. Kini, mandat itu meluas ke pertanyaan tentang kepercayaan, jaminan, ketahanan, dan akuntabilitas eksekutif.

Mengapa Model Tata Kelola Ketinggalan Zaman

Sebagian besar struktur tata kelola perusahaan saat ini dirancang untuk model pengawasan terpusat. Tim keamanan mengelola risiko siber, kepatuhan mengatur kewajiban regulasi, operasi mengelola eksekusi, dan pemimpin bisnis mengelola hasil strategis. AI mengacaukan batas-batas tersebut.

Saat ini, AI semakin memengaruhi keputusan operasional di berbagai fungsi. Alat dan model yang berbeda dapat digunakan secara simultan untuk interaksi pelanggan, deteksi penipuan, pengadaan, manajemen tenaga kerja, pengembangan perangkat lunak, hingga operasi rantai pasok. Akibatnya, visibilitas menjadi terbatas dan akuntabilitas sulit didefinisikan.

Ketika gangguan memengaruhi fungsi hukum, privasi, operasional, dan teknologi secara bersamaan, banyak organisasi tidak memiliki gambaran jelas tentang bagaimana risiko-risiko tersebut saling bersinggungan. Sebagian besar kerangka tata kelola dirancang untuk perangkat lunak yang mendukung keputusan. Kini, AI ikut serta dalam pembuatan keputusan.

Masalah ini menjadi semakin kritis seiring dengan menjamurnya perangkat dengan kecerdasan buatan. Untuk memahami lebih dalam tentang produk-produk yang membawa teknologi ini, Anda bisa menyimak Review Xiaomi 17T yang mengusung fitur canggih.

Kesenjangan Visibilitas di Balik Risiko AI

Banyak organisasi masih mengandalkan proses tata kelola yang terfragmentasi, dokumentasi statis, spreadsheet, dan alur kerja pelaporan yang terputus untuk mengelola lingkungan yang semakin kompleks akibat AI. Sistem AI tidak beroperasi secara terisolasi. Mereka bergantung pada pipa data yang saling terhubung, model pihak ketiga, infrastruktur cloud, API, sistem operasional, dan ketergantungan proses bisnis yang terus berkembang.

Ketika visibilitas terhadap ketergantungan tersebut terbatas, organisasi kesulitan memahami dari mana keputusan berbasis AI berasal, bagaimana keputusan itu menyebar, dan dampak hilir apa yang ditimbulkannya. Kesenjangan visibilitas itu dengan cepat berubah menjadi masalah ketahanan.

Jika organisasi tidak dapat melacak bagaimana tindakan berbasis AI terhubung ke sistem operasional dan hasil bisnis, mereka tidak dapat menilai eksposur secara efektif selama gangguan, memvalidasi rencana kelangsungan bisnis, atau menunjukkan akuntabilitas di bawah tekanan. Di sinilah banyak organisasi menyadari bahwa tata kelola AI bukan lagi sekadar tantangan kebijakan. Ini adalah tantangan ketahanan operasional yang dapat berdampak pada pelanggan dan keuangan.

Karena tim keamanan siber sudah beroperasi di persimpangan risiko teknologi, ketahanan, tata kelola, dan respons insiden, banyak organisasi kini beralih ke CISO untuk jaminan dan kepercayaan di tingkat perusahaan. Tren serupa juga terlihat di industri ponsel, seperti pada Motorola Edge 70 Pro+ yang membawa teknologi kamera periskop 50 MP.

Ketahanan AI Membutuhkan Konteks Operasional

Percakapan seputar tata kelola AI selama ini berpusat pada kerangka etika, kebijakan, dan kontrol regulasi. Hal-hal tersebut tetap penting. Namun, ketahanan semakin bergantung pada sesuatu yang lebih operasional: memahami bagaimana tindakan berbasis AI memengaruhi lingkungan bisnis nyata selama gangguan.

Itu membutuhkan organisasi untuk bergerak melampaui model tata kelola statis menuju visibilitas operasional berkelanjutan. Organisasi terkemuka kini semakin fokus pada pertanyaan seperti: Layanan bisnis mana yang bergantung pada sistem berbasis AI? Proses operasional apa yang menjadi rentan jika output AI gagal? Di mana ketergantungan pihak ketiga menciptakan eksposur hilir?

Seberapa cepat tim dapat melacak keputusan berbasis AI selama insiden? Dapatkah para pemimpin menunjukkan akuntabilitas operasional secara real-time? Bisakah kita kembali ke model operasi yang lebih tradisional jika agen atau kemampuan AI gagal? Pertanyaan-pertanyaan ini mencakup keamanan siber, ketahanan, operasi, dan tata kelola eksekutif. Pertanyaan-pertanyaan ini juga mewakili pergeseran yang lebih luas yang terjadi di seluruh manajemen risiko perusahaan.

Untuk konteks lebih lanjut, Anda bisa membaca artikel tentang bocoran iQOO 16 yang mengungkap keberadaan sensor 50MP dan periskop.

Kepercayaan, Akuntabilitas, dan Ketahanan

Organisasi tidak lagi diukur semata-mata oleh apakah kerangka tata kelola ada. Semakin sering, mereka dinilai dari apakah mereka dapat secara operasional menunjukkan kepercayaan, akuntabilitas, dan ketahanan ketika sistem kompleks gagal di bawah tekanan. AI mempercepat pergeseran ini.

Organisasi yang beradaptasi paling cepat belum tentu yang paling banyak menerapkan AI. Mereka akan menjadi organisasi yang paling jelas memahami, mengelola, dan pulih dari konsekuensi operasional yang dapat ditimbulkan AI ketika gangguan terjadi.

Kesimpulannya, adopsi AI yang masif menuntut perubahan fundamental dalam cara perusahaan memandang tata kelola. Bukan hanya soal kebijakan, melainkan tentang ketahanan operasional yang terukur. Peran CISO sebagai otoritas kepercayaan menjadi semakin krusial di tengah lanskap risiko yang terus berevolusi.

Artikel ini merupakan opini dari Rich Cooper, Global Head of Market Transformation di Fusion Risk Management, yang ditulis untuk kanal TechRadar Pro Perspectives. Pandangan yang diungkapkan adalah milik penulis dan belum tentu mencerminkan pandangan TechRadarPro atau Future plc.