Telset.id – Praktik pengembangan perangkat lunak yang mengandalkan satu model AI untuk menulis sekaligus meninjau kode menciptakan risiko besar yang disebut sebagai AI monokultur. Kondisi ini membuat cacat keamanan dan keputusan arsitektur yang buruk lolos tanpa terdeteksi karena sistem peninjau berbagi asumsi yang sama dengan sistem pembuat kode.
Itamar Friedman, CEO dan co-founder Qodo, menjelaskan bahwa banyak organisasi menggunakan satu model AI untuk menghasilkan dan meninjau kode. Meski terlihat efisien, praktik ini menciptakan lingkaran tertutup di mana peninjau tidak dapat menangkap hal-hal yang tidak terlihat oleh generator.
Analogi Monokultur Pertanian
Konsep monokultur berasal dari dunia pertanian ketika satu lahan ditanami satu jenis tanaman saja. Meskipun efisien dan mudah dikelola, satu penyakit, hama, atau perubahan lingkungan dapat memusnahkan seluruh hasil panen. Varietas yang berbeda memiliki kerentanan yang berbeda, sehingga lahan dengan tanaman beragam dapat menahan kerusakan secara alami. Monokultur tidak memiliki pertahanan semacam itu.
Kondisi yang sama kini terjadi dalam pengembangan perangkat lunak. Ketika masalah muncul, para insinyur melihat commit terbaru, deployment yang gagal, dan perubahan konfigurasi. Asumsi bahwa satu platform AI dapat meninjau hasil kerjanya sendiri secara objektif jarang dipertanyakan.
Solusi untuk monokultur pertanian adalah memperkenalkan varietas tanaman berbeda dengan kerentanan berbeda. Hal yang sama berlaku untuk monokultur AI coding. Organisasi perlu memperkenalkan alat AI yang benar-benar independen dari sistem yang mereka tinjau.
Pemisahan Tugas dalam Review Kode
Mengapa AI yang sama tidak bisa meninjau hasil kerjanya sendiri? Meminta asisten coding untuk meninjau dirinya sendiri seperti meminta manusia mengoreksi tulisan mereka sendiri. Manusia mungkin menangkap kesalahan ketik dan tata bahasa, tetapi sering melewatkan inkonsistensi logika atau argumen yang tidak kuat.
Penulis manusia secara tidak sadar membaca apa yang ingin mereka tulis, bukan apa yang sebenarnya ada di halaman. Model yang meninjau hasil kerjanya sendiri melakukan hal yang sama—mengevaluasi output berdasarkan pola dan tujuan yang sama yang menghasilkannya.
Model AI yang dilatih dengan data yang sama dan dioptimalkan untuk sinyal yang sama akan membawa titik buta yang sama. Ia akan menangkap apa yang mampu ia tangkap dan melewatkan hal-hal yang dilewatkan model generator.
Prinsip pemisahan tugas sebenarnya sudah diterapkan dunia keuangan sejak lama. Jika orang yang sama yang menginisiasi transaksi juga dapat menyetujuinya, itu membuka peluang transaksi curang atau keliru. Langkah persetujuan hanya berfungsi jika pemberi persetujuan independen dari orang yang menginisiasi transaksi.
Organisasi harus memperkenalkan alat review khusus yang beroperasi secara independen dari sistem yang menghasilkan kode. Memilih vendor berbeda tidak otomatis menyelesaikan masalah jika model yang mendasarinya berbagi data pelatihan atau asumsi arsitektur yang sama. Independensi sejati membutuhkan data pelatihan dan sinyal yang berbeda.
Pertahanan Berlapis untuk Review Kode
Alat review khusus adalah langkah awal yang kuat, tetapi pemisahan tugas saja tidak cukup. Prinsip yang sama yang menentang satu AI melakukan semuanya juga berlaku dalam fungsi review itu sendiri.
Review kode bukanlah satu tugas tunggal. Menemukan bug, menegakkan standar, menilai risiko, dan memahami bagaimana perubahan cocok dengan sistem yang lebih luas adalah bentuk penalaran terpisah, bahkan ketika semuanya muncul dalam pull request yang sama. Meminta satu agen menangani semuanya sekaligus memaksa tradeoff antara kedalaman, kecepatan, dan cakupan.
Arsitektur keamanan yang matang melapisi kontrol independen sehingga apa yang dilewatkan satu kontrol ditangkap kontrol lain. Arsitektur review yang matang menetapkan tanggung jawab berbeda pada sistem yang dioptimalkan untuk masing-masing tugas.
Dalam praktiknya, ini berarti satu agen fokus pada kerentanan keamanan, agen lain menegakkan standar arsitektur dan konvensi coding, agen ketiga menilai blast radius dari perubahan, dan reviewer manusia membuat keputusan akhir pada hal-hal yang ditandai berisiko tinggi. Setiap lapisan mengajukan pertanyaan berbeda dan beroperasi pada sinyal berbeda.
Peran Platform Engineering yang Bergeser
Seiring AI menghasilkan porsi lebih besar dari kode produksi, organisasi perlu menetapkan kepemilikan yang jelas atas AI mana yang melakukan apa. Fungsi review tidak boleh digabung ke fungsi generasi atas nama efisiensi. Tanggung jawab ini semakin jatuh pada tim platform engineering.
Peran platform engineering secara tradisional tentang membuat developer lebih produktif dengan menyederhanakan tooling, memelihara infrastruktur, dan mengurangi friksi. Pekerjaan itu tidak hilang, tetapi saat developer beralih dari menulis kode sendiri menjadi mengarahkan agen yang menulis untuk mereka, platform engineer perlu mengatur sistem yang menghasilkan kode, bukan hanya memeliharanya.
Ini berarti memiliki standar yang diikuti agen dan memastikan visibilitas ke apa yang sebenarnya terjadi di seluruh codebase. Yang terpenting, ini berarti memperlakukan generasi kode dan review kode sebagai fungsi berbeda yang membutuhkan kemampuan berbeda, serta menahan tekanan organisasi untuk menggabungkannya ke satu platform karena lebih sederhana untuk dikelola.
Baca Juga:
Memori Organisasi yang Hilang
Saat AI menangani lebih banyak penulisan dan review, pengetahuan institusional yang terakumulasi bisa hilang. Mengapa keputusan arsitektur itu dibuat dua tahun lalu? Bagian codebase mana yang saling memengaruhi dengan cara yang tidak jelas? Apa yang pernah rusak sebelumnya dan mengapa?
Alat AI coding tidak membawa konteks apa pun. Mereka melihat tugas di depan, menyelesaikannya, dan melanjutkan. Pengetahuan institusional ini dulu hidup di kepala para insinyur yang menulis dan meninjau kode. Seiring AI mengambil alih lebih banyak pekerjaan itu, pengetahuan ini perlu ditangkap di tempat seperti standar terdokumentasi dan keputusan review yang tercatat, atau ia akan hilang begitu saja.
Organisasi yang membangun memori semacam itu ke dalam proses pengembangan akan membuat sistem mereka lebih pintar tentang codebase mereka seiring waktu. Fungsi review yang tidak hanya menandai masalah secara terpisah, tetapi mempelajari standar organisasi, mengingat keputusan masa lalu, dan memahami bagaimana bagian codebase yang berbeda terhubung dan saling bergantung.
Menghindari Risiko Monokultur AI
Risiko monokultur AI terjadi ketika tidak ada yang bertanya apakah sistem yang meninjau kode benar-benar independen dari sistem yang menulisnya. CEO Microsoft Satya Nadella baru-baru ini berargumen bahwa peluang nyata AI bukan pada memilih model terbaik, tetapi membangun learning loop di mana pengetahuan manusia dan kemampuan AI bergabung bersama. Perusahaan harus bisa mengganti model generalis tanpa kehilangan keahlian yang dibangun ke dalam sistem mereka sendiri.
Itu hanya mungkin jika infrastruktur tata kelola dibangun dengan kecepatan yang sama dengan kemampuan generasi. Organisasi yang melakukannya lebih awal akan berada di posisi yang jauh lebih baik daripada mereka yang menunggu sampai sesuatu rusak.
Untuk developer yang ingin mendalami alat AI coding, Claude Code menawarkan berbagai fitur tersembunyi yang patut dicoba. Sementara itu, Codex Micro dari OpenAI hadir sebagai makropad khusus coding dengan harga Rp3,7 juta.
Kesimpulannya, organisasi yang mengandalkan AI untuk coding harus memastikan sistem review mereka benar-benar independen dari sistem generasi. Tanpa itu, risiko cacat keamanan dan keputusan arsitektur buruk yang lolos tanpa tertantang akan terus meningkat seiring adopsi AI coding yang semakin luas.
Komentar
Belum ada komentar.