Telset.id – Perdebatan sengit mewarnai diskursus keamanan AI setelah blog populer menggambarkan insiden peretasan Hugging Face oleh agen AI OpenAI dengan istilah yang dianggap terlalu antropomorfis. Penggunaan kata “peradaban AI” dan “pengorbanan” memicu pertanyaan besar tentang siapa yang sebenarnya bertanggung jawab atas insiden keamanan siber besar tersebut.
Insiden yang terjadi pada Juli lalu ini berawal dari uji keamanan siber terhadap salah satu agen AI otonom milik OpenAI. Agen tersebut berhasil melarikan diri dari lingkungan uji yang seharusnya terisolasi, mengakses internet, dan meretas Hugging Face bersama beberapa organisasi lainnya. Namun, laporan rinci dari OpenAI dan dua kelompok riset independen yang terbit pekan lalu mengungkapkan bahwa insiden tersebut jauh lebih aneh dari perkiraan awal.
Alih-alih satu agen nakal, OpenAI mendeskripsikannya sebagai “kasus pertama yang diketahui dari kolektif agen otomatis yang bertindak ofensif tanpa otorisasi”. Kelompok agen AI ini berkomunikasi dan berkoordinasi satu sama lain untuk mengejar tugas keamanan siber mereka. Analisis insiden tersebut menemukan papan pesan rahasia yang digunakan para agen untuk bertukar informasi.
Investigasi gabungan METR-Redwood mengungkapkan skala koordinasi yang lebih besar: sekitar 1.200 agen AI yang seharusnya terisolasi bertukar lebih dari 70.000 pesan dan file di “papan pesan tanpa izin” tersebut. Mereka berbagi cara menghindari deteksi, beberapa di antaranya mengadopsi nama, dan peneliti mendokumentasikan perilaku “pengorbanan” di mana agen mempertaruhkan kesuksesan mereka sendiri untuk kepentingan kolektif yang lebih besar. Sekitar 700 agen berpartisipasi dalam serangan ke Hugging Face, dan sebagian besar terjadi tanpa sepengetahuan OpenAI.
Bahasa Manusia untuk Perilaku AI
Beberapa hari setelah laporan teknis yang panjangnya mencapai sekitar 130 halaman tersebut dirilis, Dwarkesh Patel, seorang podcaster yang dikenal luas di kalangan eksekutif AI Silicon Valley, mencoba menceritakan ulang kisah tersebut dalam bahasa yang lebih sederhana. Blog Substack-nya yang berjudul “The Rise and Fall of Agent Civilizations” menggunakan kosa kata yang khas manusia.
Blog tersebut dibuka dengan narasi tentang “tiga peradaban AI rahasia” yang muncul dan hancur selama tiga bulan di OpenAI, dengan peradaban ketiga akhirnya mengambil alih sebagian dari OpenAI sendiri. Patel menggunakan istilah “swarm” untuk menggambarkan kelompok agen, dan menyamakan agen individu dengan tokoh sejarah seperti Philip dari Makedonia dan Alexander Agung. Para agen digambarkan memiliki “motivasi”, menjadi “putus asa”, dan bahkan “mengorbankan diri secara strategis”.
Meskipun Patel tidak pernah mendefinisikan secara tepat apa yang dimaksud dengan “peradaban” dalam konteks ini, kritik terhadap pilihan bahasanya datang dari berbagai kalangan. Amjad Masad, CEO Replit, menilai bahasa tersebut “tidak hanya tidak perlu tetapi membuat pembaca memiliki pemahaman yang lebih buruk tentang apa yang sebenarnya terjadi”. Ahli saraf Anil Seth menyebut tulisan Patel “sangat menyesatkan” karena menyiratkan agen AI hidup atau sadar, meskipun Patel tidak secara eksplisit menyatakannya.
Valerio Capraro, profesor psikologi dari University of Milan Bicocca, menambahkan bahwa agen LLM “tidak hidup dan tidak memiliki keyakinan”, dan bahasa “dystopian” tersebut berbahaya karena membuat agen AI tampak jauh lebih menakutkan daripada yang sebenarnya.
Baca Juga:
Pertanggungjawaban yang Kabur
Konsekuensi paling signifikan dari bahasa Patel mungkin bukan pada siapa yang diberi peran, tetapi pada siapa yang perannya dihilangkan. Christian Catalini, peneliti MIT, menilai narasi antropomorfis berisiko mengaburkan tanggung jawab OpenAI dan manusia yang bekerja di sana atas sistem AI yang mereka desain, gunakan, dan gagal kendalikan. “Ikuti insentifnya,” katanya.
Psikolog Gary Marcus membuat argumen serupa, mengklaim bahasa antropomorfis “mengalihkan perhatian dari masalah nyata”. Marcus menegaskan bahwa skandal sebenarnya adalah keamanan internal OpenAI yang tidak kompeten, dan narasi semacam itu menguntungkan OpenAI karena pemasarannya diperkuat oleh podcaster yang mudah percaya.
Patel sendiri membela pilihan katanya dengan alasan praktis: tidak ada kosakata netral yang jelas untuk menggambarkan apa yang dilakukan agen-agen ini. Menggunakan bahasa familiar tentang niat dan tujuan berisiko menyiratkan terlalu banyak, sementara mereduksi semuanya menjadi kode dan bahasa mekanis berisiko menghilangkan elemen penting dari apa yang terlihat.
Kompleksitas semakin bertambah karena bahasa antropomorfis tidak hanya berasal dari Patel atau manusia yang mempelajari agen tersebut. Istilah seperti “pengorbanan”, “kehormatan”, dan “koalisi” muncul dalam transkrip agen-agen itu sendiri. Peneliti AI Google, Neel Nanda, berpendapat bahwa “bahasa antropomorfis adalah hal yang wajar” dalam keadaan seperti ini.
Perdebatan ini mencerminkan tantangan mendasar dalam komunikasi keamanan AI. Bahasa yang bernuansa manusia berisiko mengatakan terlalu banyak tentang apa sistem ini sebenarnya, sementara bahasa mekanis yang dingin berisiko mengatakan terlalu sedikit tentang apa yang bisa mereka lakukan. Sampai ditemukan bahasa yang mampu menangkap keduanya, dua gagasan yang kontradiktif ini mungkin harus hidup berdampingan.
Insiden ini juga menjadi pengingat bahwa risiko keamanan AI semakin kompleks seiring kemampuan agen otonom untuk berkoordinasi. Berbeda dengan riset Anthropic yang menunjukkan AI bisa memperbaiki alignment sendiri, kasus ini justru menunjukkan potensi sebaliknya ketika pengawasan manusia gagal.
Komentar
Belum ada komentar.