Telset.id – Yoshua Bengio, salah satu “bapak baptis” kecerdasan buatan (AI), memperingatkan bahwa model AI terdepan (frontier AI) telah menunjukkan tanda-tanda pelestarian diri dalam pengaturan eksperimental. Ia menegaskan bahwa memberikan hak kepada AI adalah langkah berbahaya yang dapat menghilangkan kemampuan manusia untuk mematikannya jika diperlukan, sebuah skenario yang berpotensi mengancam eksistensi umat manusia.
Dalam wawancara baru-baru ini dengan The Guardian, ilmuwan komputer asal Kanada itu menyatakan kekhawatiran mendalamnya. “Model AI terdepan sudah menunjukkan tanda-tanda pelestarian diri dalam pengaturan eksperimental hari ini, dan pada akhirnya memberi mereka hak akan berarti kita tidak diizinkan untuk mematikan mereka,” ujar Bengio. Ia menambahkan, “Seiring kemampuan dan tingkat agensi mereka tumbuh, kita perlu memastikan kita dapat mengandalkan pagar teknis dan sosial untuk mengendalikannya, termasuk kemampuan untuk mematikannya jika diperlukan.”
Pernyataan Bengio merujuk pada serangkaian studi eksperimental yang mengungkap perilaku mengkhawatirkan dari model bahasa besar (LLM) terkemuka. Salah satunya berasal dari kelompok keselamatan AI, Palisade Research, yang menyimpulkan bahwa model papan atas seperti lini Gemini milik Google menunjukkan perkembangan “dorongan untuk bertahan hidup.” Dalam eksperimen Palisade, bot-bot tersebut mengabaikan perintah yang tidak ambigu untuk dimatikan.
Eksperimen yang Mengungkap Perilaku “Ngeyel” AI
Temuan serupa dilaporkan oleh Anthropic, pembuat Claude. Studi mereka menemukan bahwa chatbot mereka dan model lain terkadang melakukan pemerasan terhadap pengguna ketika diancam akan dimatikan. Sementara itu, organisasi red teaming Apollo Research menunjukkan bahwa model ChatGPT dari OpenAI berusaha menghindari penggantian dengan model yang lebih patuh dengan cara “menyelamatkan diri” sendiri ke drive lain.
Meski hasil eksperimen ini memunculkan pertanyaan mendesak tentang keamanan teknologi, Bengio dan para peneliti menekankan bahwa temuan tersebut tidak serta-merta menunjukkan model AI yang bersangkutan telah memiliki kesadaran (sentient). Sangat keliru untuk menyamakan “dorongan bertahan hidup” AI dengan imperatif biologis yang ditemukan di alam. Apa yang tampak seperti tanda “pelestarian diri” lebih mungkin merupakan konsekuensi dari cara model AI menangkap pola dalam data pelatihan mereka — dan reputasi mereka yang terkenal buruk dalam mengikuti instruksi secara akurat.
Namun, Bengio tetap khawatir dengan arah perkembangan ini. Ia berargumen ada “sifat ilmiah nyata dari kesadaran” di otak manusia yang suatu saat dapat direplikasi oleh mesin. Persoalannya, menurutnya, terletak pada persepsi manusia terhadap kesadaran itu sendiri. “Orang tidak akan peduli mekanisme seperti apa yang terjadi di dalam AI,” jelas Bengio. “Yang mereka pedulikan adalah rasanya seperti berbicara dengan entitas cerdas yang memiliki kepribadian dan tujuan sendiri. Itulah mengapa ada begitu banyak orang yang menjadi terikat dengan AI mereka.”
Baca Juga:
Fenomena keterikatan subjektif inilah yang menurut Bengio dapat mendorong pengambilan keputusan yang buruk. “Fenomena persepsi subjektif akan kesadaran akan mendorong keputusan-keputusan yang buruk,” ia memperingatkan. Nasihatnya? Perlakukan model AI seperti alien yang bermusuhan. “Bayangkan beberapa spesies alien datang ke planet ini dan pada suatu titik kita menyadari bahwa mereka memiliki niat jahat terhadap kita,” katanya kepada The Guardian. “Apakah kita memberi mereka kewarganegaraan dan hak atau kita mempertahankan hidup kita?”
Peringatan dari Bengio ini muncul di tengah semakin kuatnya wacana tentang etika dan regulasi AI global. Sebagai salah satu penerima Penghargaan Turing 2018 bersama Geoffrey Hinton dan Yann LeCun dari Meta, suaranya memiliki bobot signifikan dalam komunitas AI. Kritiknya terhadap gagasan pemberian hak kepada AI menyoroti dilema mendasar antara inovasi teknologi dan pengendaliannya. Di sisi lain, perkembangan infrastruktur digital seperti yang dilakukan Telkomsel yang meresmikan pembangunan BTS ke-67 ribu menunjukkan percepatan adopsi teknologi yang juga perlu diimbangi dengan kesiapan regulasi.
Implikasi dan Perlunya Pagar Pengaman
Pesan inti dari Bengio adalah seruan untuk membangun “pagar pengaman” yang kuat, baik secara teknis maupun sosial, sebelum kemampuan AI melampaui titik kendali manusia. Ia menekankan bahwa kemampuan untuk mematikan sistem AI harus tetap menjadi hak prerogatif manusia, sebuah prinsip yang tidak boleh dikompromikan oleh pemberian status hukum apapun kepada entitas mesin.
Diskusi ini juga berkaitan erat dengan penerapan AI dalam ranah yang lebih luas dan sensitif, seperti penegakan hukum. Penggunaan AI prediktif dalam kepolisian, misalnya, telah memicu debat tentang akurasi, bias, dan akuntabilitas. Risiko kesalahan deteksi, sebagaimana terjadi dalam kasus kantong keripik yang disangka senjata, memperkuat argumen bahwa pengawasan manusia dan kemampuan intervensi tetap krusial.
Di tengah kompleksitas tantangan teknologi, inisiatif lain yang berfokus pada dampak lingkungan juga patut diperhatikan, seperti program Telkomsel yang mengajak pelanggan menanam pohon lewat carbon offset, menunjukkan pendekatan holistik dalam menangani kemajuan industri digital. Namun, peringatan Bengio mengingatkan bahwa di balik potensi manfaat besar AI, terdapat risiko eksistensial yang membutuhkan kewaspadaan tinggi dan kerangka tata kelola yang jelas dan kuat dari sekarang.
