AI Kuasai Kode, Engineer Mulai Tak Paham Isi Pekerjaannya

Telset.id – Programmer kini makin sering kehilangan pemahaman atas kode yang mereka kerjakan sendiri. Tanggung jawab mereka bergeser dari menulis produk baru dari nol menjadi mengawasi model bahasa besar yang merangkai kode secara otomatis. Kondisi ini memunculkan kekhawatiran serius soal kemampuan engineer di masa depan.

Pergeseran itu terungkap dari pengalaman sejumlah engineer yang mengaku tidak lagi mampu memahami kode yang dihasilkan AI. Pendiri perusahaan perangkat lunak optimasi chip, Infinity, Jeremy Nixon, menyampaikan hal tersebut kepada Business Insider. Ia menyebut sebagian engineer sudah sampai pada titik tidak bisa menafsirkan kode yang dikeluarkan AI.

Kekhawatiran ini bertambah karena peneliti menemukan bahwa penggunaan AI secara luas dapat memicu penurunan kognitif dan penyusutan keterampilan, termasuk di kalangan ilmuwan komputer. Para developer pun cemas engineer makin jauh dari aktivitas menulis kode dan mempelajari keterampilan baru yang dibutuhkan untuk merancang proyek berskala besar.

Fenomena serupa juga terlihat di lingkungan laboratorium AI terdepan. Anggota staf teknis firma riset independen SemiAnalysis, Jordan Nanos, mengungkapkan dalam sebuah wawancara bahwa engineer OpenAI tidak tahu apa yang mereka lihat saat menelusuri kode kernel graphics processing unit milik mereka sendiri. Kernel tersebut merupakan program inti upaya perusahaan memanfaatkan perangkat keras yang tersedia untuk melatih dan menjalankan model AI.

“Intinya, orang-orang yang menelusuri kode ini bersama kami, cukup jelas bahwa mereka tahu banyak tentang perangkat keras, mereka tahu banyak tentang konsep dalam sistem, dan mereka sama sekali tidak tahu apa yang sebenarnya dilakukan kernel MLA yang mereka tunjukkan kepada kami untuk DeepSeek,” kata Nanos kepada Mansour Karam dari Fireside Alpha.

“Anda bisa menelusuri baris demi baris dan hasilnya seperti tidak, tidak, tidak,” tambahnya. “AI memahaminya, AI mengujinya, dan Anda melihat hasilnya. AI menghasilkan kernel yang benar dan berperforma sangat baik.”

Saat itu Nanos berargumen bahwa kode sebenarnya tidak selalu harus dipahami manusia secara mendalam, karena AI tahu cara memanipulasi pergerakan data dan elemen pemrosesan pada perangkat keras yang diberikan. Namun, salah satu bahaya yang mengintai adalah kesalahan atau halusinasi bisa lolos begitu saja ketika pengawasan manusia memudar.

Contoh nyatanya, Amazon terpaksa menerapkan “code safety reset” selama 90 hari pada awal tahun ini setelah serangkaian gangguan yang mengacaukan pesanan pelanggan. Meski perusahaan membantah AI menjadi penyebabnya, catatan rapat internal mengungkapkan bahwa manajer khawatir soal “blast radius tinggi” dari “perubahan yang dibantu gen-AI.”

Analisis terbaru dari perusahaan perangkat lunak Undo menemukan bahwa transisi ke agen AI membuka pintu banjir. Sekitar 35 persen kode yang dihasilkan AI belum sepenuhnya dipahami sebelum tim engineering mendorongnya ke produksi. Sementara itu, 29 persen responden software engineer mengaku pernah menyaksikan penurunan produktivitas karena engineer harus “membongkar” kode buatan AI beberapa kali dalam sebulan. Sebanyak 94 persen di antaranya mengaku pernah melihat insiden serupa setidaknya sekali dalam enam bulan terakhir.

Banyaknya waktu yang kini dihabiskan engineer setiap hari untuk menelusuri kode buatan AI memunculkan pertanyaan: apakah penggunaan teknologi ini lebih merepotkan daripada bermanfaat? Bagi orang seperti Nanos, ini bukan soal ketidakmampuan. Ini “sekadar ilustrasi pergeseran paradigma dalam pengembangan perangkat lunak,” seperti yang dikemukakan peneliti AI Sergey Cleftsow dalam tulisan terbaru di Medium.

“Dengan kata lain, AI telah maju ke titik di mana tidak perlu lagi mengkhawatirkan banyak hal,” tulisnya. “Developer cukup mendefinisikan arsitektur dan kriteria kebenaran; jaringan neural akan menangani sisanya.”

Namun, apakah optimisme semacam itu akan bertahan ketika pengembangan perangkat lunak makin tak dikenali, masih menjadi pertanyaan terbuka. Selain itu, para peneliti sama-sama khawatir bahwa generasi engineer baru tumbuh di lingkungan yang secara aktif menggerus nilai pemahaman atas kode itu sendiri. Hal ini tidak menjanjikan bagi tatanan dunia digital yang makin menempatkan AI di garis depan.

Perkembangan ini menjadi cerminan bagaimana AI perlahan mengambil alih peran teknis yang sebelumnya dipegang manusia. Di sisi lain, adopsi alat bantu AI dalam pekerjaan sehari-hari terus meluas, misalnya lewat kehadiran Writing Tools API di Android 16 yang memberi kontrol lebih besar atas alat penulisan berbasis AI.

Sejumlah perangkat juga sudah membenamkan kemampuan serupa. Samsung Galaxy S25 disebut memiliki Fitur AI Writing Assist yang membantu pengguna menyusun teks, sementara fitur Handwriting to Text di perangkat lama menunjukkan bagaimana otomatisasi pengolahan teks bukan hal baru.

Bagi industri pengembangan perangkat lunak, pertanyaan yang tersisa bukan lagi soal apakah AI akan dipakai, melainkan seberapa besar pemahaman manusia yang tersisa dalam prosesnya. Selama pengawasan manusia terus menipis, risiko kesalahan yang lolos ke produksi tetap menjadi bayangan yang sulit diabaikan.