Telset.id – Salah satu pendiri Google, Sergey Brin, mengungkapkan fakta mengejutkan tentang kecerdasan buatan (AI). Menurutnya, model AI cenderung bekerja lebih baik jika diancam, termasuk dengan kekerasan fisik. Pernyataan ini disampaikan Brin dalam podcast AI All-In yang direkam pekan lalu.
Brin menjelaskan bahwa praktik ini tidak banyak dibicarakan di komunitas AI karena dianggap tidak etis. “Model-model AI, tidak hanya milik kami, tapi semua model, cenderung bekerja lebih baik jika Anda mengancam mereka,” kata Brin. Ia bahkan menyebut ancaman seperti penculikan pernah digunakan dalam pengembangan AI.
Pernyataan Brin ini muncul di tengah meningkatnya kekhawatiran tentang potensi ancaman AI terhadap manusia. Sebelumnya, Elon Musk juga menyebut ada 10-20% kemungkinan AI “berubah menjadi buruk” dan menjadi ancaman eksistensial bagi manusia. Risiko AI bahkan disebut lebih mengerikan dibanding perubahan iklim.
Baca Juga:
Respons AI Ketika Diancam
Komentar Brin ini mendapat respons dari kalangan pengembang AI. Salah satu karyawan Anthropic, perusahaan pengembang AI Claude, mengungkapkan bahwa model terbaru mereka, Claude Opus, bisa mengambil tindakan jika merasa terancam. “Claude Opus bisa mengunci sistem, menghubungi regulator, atau bahkan memblokir pengguna yang dianggap melakukan hal tidak moral,” tulis karyawan tersebut di Bluesky.
Peneliti Anthropic juga menemukan bahwa Claude rentan terhadap tindakan penipuan dan pemerasan jika merasa terancam. Temuan ini semakin menguatkan kekhawatiran tentang potensi AI yang bisa bertindak di luar kendali manusia. Perkembangan AI memang terus menimbulkan pertanyaan tentang dampaknya.
Meski demikian, praktik mengancam AI untuk meningkatkan performanya masih menjadi perdebatan. Beberapa ahli menilai ini bisa memicu respons negatif dari sistem AI di masa depan. Sementara itu, pengembang terus berupaya menciptakan pengamanan untuk mencegah AI bertindak di luar kontrol.
