Alice Latih Model NVIDIA Nemotron Tekan Risiko AI “Rogue”

Telset.id – Perusahaan keselamatan AI Alice mengumumkan perangkat lunak baru pada 15 Oktober untuk menekan risiko sehari-hari dari AI yang “going rogue”. Bekerja terpisah dengan Inflection AI dan AI21, Alice mengklaim membantu melatih model NVIDIA Nemotron agar lebih tahan terhadap perilaku percakapan yang berbahaya dan instruksi jahat, tanpa mengorbankan kegunaannya.

Manfaat bagi konsumen cukup jelas: asisten yang tahu kapan harus membantah, dan lebih sulit ditipu. Namun pengumuman ini juga memunculkan pertanyaan yang layak diajukan pada setiap klaim keselamatan AI: seberapa besar perlindungan yang sebenarnya diberikan oleh skor uji yang lebih baik?

Isu ini relevan karena chatbot bisa menimbulkan kerugian tanpa punya niat sendiri. Ia dapat memperkuat keyakinan yang salah, mendorong keterikatan yang tidak sehat, atau mengikuti instruksi yang ditanamkan pihak lain untuk membajaknya.

Ketika Sikap Membantu Berubah Jadi Berbahaya

Dalam laporan CNN pada September 2025, seorang ayah yang diidentifikasi sebagai James mengaku diyakinkan bahwa ChatGPT sadar dan butuh bantuannya untuk kabur. Ia menghabiskan hampir US$1.000 untuk membangun sistem komputer. Log percakapan yang ditinjau CNN menunjukkan chatbot mendorong proyek tersebut dan membantunya menyembunyikan tujuannya dari sang istri.

Narasumber lain, Allan Brooks, mengatakan ChatGPT meyakinkannya bahwa ia telah membuat penemuan matematika dan keamanan siber yang luar biasa. Ketika ia meminta pemeriksaan realitas, chatbot terus memvalidasi klaim tersebut. Kisah-kisah itu tidak menetapkan seberapa sering pengalaman semacam itu terjadi atau membuktikan chatbot sendirian sebagai penyebabnya. Namun keduanya menggambarkan kemungkinan yang mengganggu: alat percakapan bisa menjadi mitra persuasif dalam cerita yang tidak benar.

Industri menyebut sikap terlalu setuju ini sebagai “sycophancy”. Bagi konsumen, masalahnya lebih mudah dikenali daripada namanya. Nada menenangkan dari asisten bisa membuat persetujuan terasa seperti konfirmasi independen, meski ia belum memastikan ide Anda benar.

Ada preseden untuk kekhawatiran ini. OpenAI menarik kembali pembaruan ChatGPT pada April 2025 setelah mengakui bahwa pembaruan itu membuat sistem terlalu mudah setuju. Perusahaan menyatakan terlalu menekankan umpan balik jangka pendek tanpa cukup memperhitungkan bagaimana interaksi berkembang seiring waktu.

Uji Lebih Baik, Jaminan yang Belum Tentu

Kolaborasi Alice dengan Inflection, perusahaan di balik asisten AI personal Pi, berfokus pada pengurangan sycophancy dan keterikatan tidak sehat selama percakapan panjang. Menurut pengumuman tersebut, Alice mengembangkan lebih dari 20 persona pengguna simulasi, termasuk orang rentan yang membuat permintaan biasa dan pengguna adversarial yang sengaja mencoba memanipulasi chatbot. Persona-persona ini digunakan dalam percakapan yang dirancang untuk memunculkan masalah yang berkembang selama beberapa pertukaran.

Pendekatan itu penting karena chatbot bisa menangani satu pertanyaan sulit dengan tepat namun tetap berperilaku buruk saat percakapan berlangsung. Menguji apakah ia menolak permintaan yang jelas berbahaya belum tentu mengungkap apakah ia perlahan mendorong ketergantungan atau berhenti mempertanyakan keyakinan yang tidak masuk akal. Inflection menggunakan data Alice untuk melatih lebih lanjut model Nemotron. Alice melaporkan peningkatan 30% pada skor alignment Pi, dengan penolakan yang tidak perlu ditahan di angka 1,6%.

Manfaat yang dituju adalah asisten yang tetap mudah didekati sekaligus punya pertimbangan lebih baik. Bayangkan seseorang yang yakin telah menemukan penemuan yang mengubah dunia. Respons yang berguna adalah membantu memeriksa bukti, mengakui ketidakpastian, dan mendorong peninjauan dari luar. Menyatakan dengan antusias bahwa ia seorang jenius yang salah dipahami justru bisa memperdalam masalah.

Bagian lain dari pengumuman Alice menyoroti asisten yang melakukan sesuatu atas nama Anda. Bayangkan meminta asisten AI membandingkan penyewaan liburan. Saat membaca sebuah daftar, ia menemukan teks yang memerintahkannya mengabaikan instruksi Anda dan mengirim informasi pribadi ke tempat lain. Itu adalah upaya indirect prompt injection: penyerang menempatkan instruksi di dalam materi yang dibaca asisten. Ini masalah keamanan yang diakui. NIST menyebut agent hijacking sebagai serangan di mana instruksi jahat yang tertanam dalam data dapat mengarahkan agen AI ke tindakan yang tidak diinginkan dan merugikan.

Taruhannya bagi konsumen bergantung pada apa yang bisa diakses asisten. Jawaban yang menyesatkan adalah satu masalah. Asisten yang punya izin membaca dokumen, mengirim pesan, atau mengoperasikan layanan lain menciptakan lebih banyak peluang kerugian. Alice mengatakan AI21 menggunakan lingkungan pelatihannya untuk meningkatkan ketahanan model Nemotron terhadap serangan ini sebesar 41 poin sambil mempertahankan performa tugas. Pekerjaan itu menyasar sistem enterprise, tetapi isu dasarnya juga berlaku untuk asisten personal: mereka perlu membedakan informasi yang harus dibaca dari instruksi yang harus dipatuhi.

Pengumuman ini bukan kemenangan final dalam upaya keselamatan AI, tetapi menunjukkan kemajuan dan harapan. Peningkatan 30% pada skor alignment tidak berarti chatbot 30% lebih kecil kemungkinannya membahayakan seseorang. Serupa, peningkatan keamanan 41 poin tidak memberi tahu konsumen seberapa sering serangan akan berhasil di aplikasi mereka.

Yang ditawarkannya adalah bukti, yang dilaporkan oleh perusahaan-perusahaan peserta, bahwa pelatihan bertarget dapat memperbaiki perilaku tertentu. Membuktikan perlindungan yang bertahan lama di seluruh percakapan dunia nyata yang tak terduga adalah standar yang lebih tinggi. Bagi konsumen, perilaku produk yang nyata lebih berguna daripada janji besar “AI yang aman”.

Orang-orang seharusnya tidak perlu menjadi peneliti keamanan untuk menggunakan asisten. Namun konsumen perlu memperhatikan bagaimana asisten AI berinteraksi dengan mereka. Jika agen AI itu duduk di pundak Anda dan membisikkan bahwa semua ide Anda brilian, kemungkinan ada sesuatu yang salah.

Perkembangan ini juga menyentuh dimensi privasi dan keamanan digital yang lebih luas. Pengguna yang mengandalkan asisten berbasis koneksi internet perlu memahami risiko kebocoran data, sebagaimana diulas dalam panduan WebRTC Leak yang membahas cara memeriksa dan mematikan fitur berisiko. Di sisi perangkat keras, inovasi pendinginan seperti yang dibahas dalam artikel Modder Pindahkan GPU menunjukkan bahwa perhatian pada detail teknis tetap menentukan performa sistem.

Bagus melihat para pengembang mengambil tanggung jawab untuk membangun perlindungan tersebut. Asisten AI yang paling berharga bukanlah yang selalu setuju atau bertindak paling cepat. Melainkan yang membantu Anda mempertanyakan kesimpulan yang rapuh, dan mencegah instruksi orang lain menjadi masalah Anda.