Telset.id – Peringatan Bill Gates bahwa AI bisa “cukup kuat” untuk menyebabkan “satu miliar kematian” memicu perdebatan baru soal seberapa nyata ancaman kecerdasan artifisial bagi keselamatan manusia. Pakar AI, cloud, dan keamanan siber global David Linthicum menilai skenario kiamat tersebut secara teknis mungkin terjadi di atas kertas, tetapi tidak realistis dalam kondisi hari ini tanpa rangkaian keputusan buruk yang dibuat manusia sepanjang jalan.
Pernyataan Gates itu sendiri muncul dalam konteks kekhawatiran bahwa AI yang makin kuat dapat disalahgunakan. Linthicum, yang diminta menanggapi langsung prediksi tersebut, menegaskan bahwa untuk mewujudkan bencana sebesar itu, sebuah sistem AI perlu menguasai infrastruktur kritis, senjata, rantai pasok, atau sistem biologis, sekaligus mampu bertindak tanpa campur tangan manusia. Syarat itu, menurutnya, hanya bisa terpenuhi jika terjadi kegagalan integrasi besar-besaran, tata kelola yang buruk, dan penyalahgunaan yang disengaja.
“Secara teknis mungkin dalam teori, tetapi tidak realistis hari ini tanpa manusia membuat banyak keputusan buruk di sepanjang jalan,” kata Linthicum. Ia menduga Gates mungkin merujuk pada AI yang jatuh ke tangan teroris atau negara tidak stabil, namun menilai lompatan dari gagasan itu menuju bencana nyata tetap sangat besar dan sangat kecil kemungkinannya.
Ancaman AI yang Nyata Hari Ini
Alih-alih skenario superintelijen yang memusnahkan umat manusia, Linthicum menyoroti ancaman yang sudah terjadi sekarang: penipuan, deepfake, kebocoran data, otomasi yang buruk, keputusan bias, penyalahgunaan siber, hingga perusahaan yang men-deploy AI tanpa kendali. Ia menyinggung kasus yang baru-baru ini dilakukan OpenAI dengan serangan Hugging Face sebagai contoh nyata dari masalah tersebut.
“Risiko praktisnya bukan AI sihir; ini adalah AI yang direkayasa dengan buruk dan terhubung ke sistem bisnis dan pemerintah yang nyata. Sebagian besar yang saya takutkan adalah AI di tangan orang yang tidak kompeten,” ujarnya.
Pandangan ini sejalan dengan sorotan bahwa kesiapan pemerintah menghadapi dampak AI masih menjadi persoalan tersendiri. Isu tersebut pernah dibahas dalam artikel Kesiapan Pemerintah terkait peringatan Gates sebelumnya.
Ketika agen AI semakin otonom dan mampu bertindak atas nama pengguna, Linthicum menekankan pentingnya pembatasan izin, isolasi sistem, persetujuan manusia untuk tindakan berisiko tinggi, pencatatan semua aktivitas, pengujian berkelanjutan, dan kontrol akses berbasis kebijakan. Agen AI, katanya, tidak boleh diberi kredensial luas atau akses API tanpa pengawasan.
“Pengamanannya adalah arsitektur: hak istimewa paling rendah, pemantauan, rollback, dan penahanan. Percayai sistem hanya sejauh Anda bisa membatasinya. Sebagian besar masalah yang mengkhawatirkan hari ini adalah salah konfigurasi atau kesalahpahaman. Ancaman terbesar bukan AI; melainkan manusia yang tidak tahu cara menggunakannya,” tegas Linthicum.
Baca Juga:
Kill Switch Tidak Cukup
Soal gagasan memberikan tombol mati atau kill switch pada AI canggih, Linthicum menilai mekanisme itu tidak memadai untuk mencegah bencana terkait AI. Kill switch hanya membantu jika seseorang tahu kapan harus menggunakannya, bisa menjangkaunya, dan kerusakan belum terjadi.
Desain yang lebih baik, menurutnya, mencakup kontrol berlapis, circuit breaker, pembatasan laju, sandboxing, alur kerja persetujuan, jejak audit, red-teaming, dan default yang aman. “Keamanan harus direkayasa di seluruh sistem, bukan ditempel di akhir. Kill switch mungkin membuat orang merasa aman, tetapi tidak melakukan apa pun untuk keselamatan,” jelasnya.
Linthicum juga menyoroti bagaimana AI mengubah keseimbangan antara penyerang dan pembela. AI menurunkan biaya serangan dan menaikkan volumenya. Phishing, kloning suara, faktur palsu, dan penyelidikan kerentanan otomatis menjadi lebih mudah dan trennya terus naik. Pembela pun perlu memanfaatkan AI, tetapi dasar-dasar keamanan tetap penting: autentikasi multifaktor, verifikasi melalui panggilan balik, akses zero-trust, patching, backup, pelatihan karyawan, dan pemeriksaan identitas yang kuat.
“Anggap konten yang meyakinkan bisa saja palsu. Kita hanya perlu menjadi lebih cerdas dalam mengenali dan mempertahankannya,” kata Linthicum. Prinsip kehati-hatian serupa juga relevan bagi pengguna yang mengandalkan perkakas keamanan digital, seperti yang dibahas dalam ulasan Dompet Crypto terkait perlindungan data pribadi.
Mengenai kekhawatiran bahwa AI dapat membantu orang merancang senjata biologis, Linthicum memisahkan mana yang masuk akal dan mana yang masih spekulatif. AI dapat membantu merangkum biologi, mengoptimalkan alur kerja, dan menurunkan hambatan pengetahuan. Namun, membuat amatir mampu menciptakan senjata biologis dengan korban massal tetap spekulatif karena kemampuan laboratorium basah, material, pengujian, dan pengiriman sangat sulit. Alat dan bahannya sebagian besar tidak tersedia.
Pengamanan yang disarankan mencakup penyaringan model, akses terkendali ke protokol berbahaya, verifikasi pesanan laboratorium, pemantauan, dan standar biosekuriti yang lebih kuat. “Kita bisa mengetahui ketika seseorang menggunakan LLM untuk tujuan buruk, dan kita bisa menolak penggunaan serta melaporkannya. Kita perlu terus melakukannya,” ujarnya.
Untuk peta jalan lima tahun ke depan, Linthicum memprioritaskan peran pemerintah dalam menetapkan aturan berbasis risiko dan tanggung jawab hukum. Pengembang diminta membangun sistem yang aman, teramati, teruji, dengan pengawasan manusia. Perusahaan perlu menginventarisasi penggunaan AI dan mengendalikan akses data, sementara pengguna wajib memverifikasi identitas dan melindungi akun.
Kemajuan, menurutnya, akan terlihat dari berkurangnya pelanggaran keamanan yang dimungkinkan AI, audit yang lebih baik, standar yang dapat ditegakkan, pelaporan insiden yang transparan, dan sistem yang gagal dengan aman alih-alih gagal secara berisik. Kerangka tata kelola yang lebih luas juga menjadi sorotan dalam pembahasan Regulasi Digital yang menyoroti dampak kebijakan terhadap pengguna.
[VIDEO]
Komentar
Belum ada komentar.