Ancaman Shadow AI dan Utang Teknis Vibe Coding di Perusahaan

Telset.id – Fenomena vibe coding yang semakin masif di kalangan enterprise memunculkan ancaman baru bernama Shadow AI. Gregg Aldana, Vice President and Head of Global Solutions Consulting di Appian, mengungkapkan bahwa hampir separuh dari seluruh kode global kini dihasilkan oleh AI. Namun, di balik lonjakan produktivitas tersebut, terdapat utang teknis yang tidak dipahami sepenuhnya oleh para pengembang.

Anthropic, perusahaan AI-native dengan talenta teknik terbaik dunia, mencatat lebih dari 90 persen kode perusahaannya kini ditulis oleh AI miliknya sendiri. Tugas yang dulunya memakan waktu berjam-jam kini hanya membutuhkan 30 menit. Namun pertanyaan krusial bagi kebanyakan enterprise bukanlah apakah AI bisa menghasilkan kode secepat itu, melainkan apakah mereka bisa mengatur apa yang dihasilkan AI tersebut.

Shadow AI: Ancaman Baru di Era Vibe Coding

Istilah “vibe coding” yang merujuk pada pembuatan kode melalui AI kini telah menjadi arus utama. Diperkirakan hampir setengah dari seluruh kode global baru dihasilkan oleh AI. Produktivitas pengembang memang meningkat, tetapi utang yang ditimbulkan tidak dipahami oleh siapa pun. AI juga membantu menutup kesenjangan talenta teknik, di mana tim yang kekurangan pengembang berpengalaman menggunakannya untuk membangun dengan kecepatan yang dibutuhkan bisnis.

Masalahnya, kekurangan tenaga ahli yang sama yang membuat AI sangat diperlukan juga berarti tidak ada cukup insinyur senior untuk meninjau kode yang dihasilkan AI. Riset di perusahaan Fortune 50 menemukan bahwa pengembang yang dibantu AI memperkenalkan kerentanan keamanan sepuluh kali lebih cepat dibandingkan rekan-rekan mereka. Empat puluh lima persen kode yang dihasilkan AI mengandung kerentanan OWASP Top 10. Analisis independen menunjukkan utang teknis meningkat 30–41 persen setelah adopsi alat AI.

Utang teknis tradisional setidaknya masih terlihat jelas. Insinyur yang memotong jalan tahu apa yang mereka lakukan. Namun utang vibe coding berbeda: pengembang sering tidak menyadari bahwa mereka telah menanggungnya, karena kode terlihat benar—sampai akhirnya tidak berfungsi. Jika dulu kita khawatir tentang Shadow IT, kini ancaman baru adalah Shadow AI: kode yang dihasilkan dengan cepat tanpa tinjauan arsitektur, audit keamanan, atau pemahaman institusional tentang apa yang telah dibangun.

Tidak seperti Shadow IT yang biasanya terbatas dalam satu departemen, Shadow AI menyebar melintasi batas organisasi. Di enterprise yang sistemnya masih tersilo, masalah kompleks mencakup banyak departemen dan platform; tidak ada satu tim pun yang memiliki gambaran lengkap tentang apa yang telah dihasilkan atau apa dependensinya. Perusahaan telah menghabiskan puluhan tahun membayar kekurangan di masa lalu, dan AI berisiko menciptakan generasi sistem warisan berikutnya, hanya saja jauh lebih cepat. Ancaman keamanan ini perlu menjadi perhatian serius bagi setiap organisasi.

Mengulangi Kesalahan COBOL dan Kebutuhan Agility Layer

Pasar saat ini dibanjiri alat yang menjanjikan untuk membaca jutaan baris kode COBOL atau Java dan mengonversi fungsionalitasnya ke bahasa modern. Ini secara teknis mengesankan, tetapi secara strategis cacat. Sistem warisan penuh dengan inefisiensi, redundansi, dan solusi “swivel chair” yang tertanam bertahun-tahun lalu untuk mengkompensasi keterbatasan sistem lain. Menerjemahkan kode baris demi baris mereplikasi logika buruk itu dalam bahasa yang lebih baru, kini berjalan di infrastruktur cloud dengan antarmuka modern di atas kode lama dan proses yang ketinggalan zaman.

Untuk memodernisasi dengan benar, organisasi harus menghindari memperlakukannya sebagai latihan teknis. Mereka harus mundur dan bertanya apakah suatu proses masih valid, bukan hanya bagaimana mereplikasinya. Modernisasi sejati adalah tentang menciptakan kembali cara kerja dilakukan, dirancang berdasarkan pengalaman karyawan dan pelanggan, bukan batasan sistem yang dibangun puluhan tahun lalu. Ini adalah keadaan perubahan yang konsisten dan harus didorong oleh tujuan bisnis yang jelas.

AI probabilistik perlu beroperasi dalam batas deterministik agar aman dan berguna di skala enterprise. AI yang dapat menghasilkan apa saja tidak sama dengan AI yang menghasilkan hal yang benar secara andal dengan keterlacakan penuh, dalam konteks di mana setiap keputusan mungkin diperiksa oleh regulator. Inilah sebabnya organisasi berisiko tinggi mencari agility layer: platform proses yang teratur yang memaksakan struktur, memastikan auditabilitas, dan menjaga keluaran AI dalam batas yang dapat dipelihara.

Tentara AS mengikuti pendekatan ini untuk keamanan dengan ketangkasan untuk beroperasi dengan kepastian dan kecepatan. Pemesanan amunisi dalam kondisi lapangan yang terputus adalah misi kritis dengan toleransi nol terhadap keluaran yang tidak teratur. Demikian pula, rantai pasokan klinis Merck, di mana pengawasan regulasi sangat ketat dan kesalahan memiliki konsekuensi keselamatan pasien, membutuhkan platform yang dapat mempercepat pengiriman tanpa mengorbankan auditabilitas. Kedua organisasi ini menggunakan AI untuk mengekstrak spesifikasi dari aplikasi warisan yang terdokumentasi dengan buruk, mengonversinya menjadi rencana visual yang mencakup UI, model data, dan alur proses. Agen AI kemudian membangun berdasarkan spesifikasi tersebut di bawah pengawasan manusia, dengan pengembang menugaskan tugas dan melakukan iterasi—sekitar 25 persen dari waktu yang dibutuhkan pendekatan tradisional.

Ada godaan untuk menyimpulkan bahwa AI serba guna akan segera membuat platform enterprise menjadi usang. Ini prematur dan di lingkungan yang diatur, berbahaya. Model serba guna luar biasa dalam menghasilkan keluaran yang masuk akal, tetapi tidak dilengkapi untuk memastikan keluaran tersebut dapat diaudit, sesuai, dan dapat dipelihara oleh tim yang tidak menghasilkannya. Gelombang vibe coding itu nyata, dan utang yang ditimbulkannya juga nyata. Organisasi yang berhasil menavigasi dekade berikutnya dan menghindari jebakan warisan yang sama bukanlah yang menghasilkan kode tercepat pada 2025 dan 2026, melainkan yang membangun tata kelola dan batas proses ke dalam cara AI digunakan sejak awal—sehingga apa yang dibangun dengan cepat masih dapat dipahami, dipelihara, dan dipercaya bertahun-tahun kemudian.

Perusahaan yang ingin tetap kompetitif perlu mempertimbangkan pendekatan AI dan vibe-coding dengan strategi tata kelola yang matang sejak awal adopsi.