Telset.id – Pemerintah Amerika Serikat dan Anthropic masih berselisih terkait keamanan model AI Claude Fable 5. Pemerintah meyakini ada cara untuk menonaktifkan beberapa pengaman pada model tersebut, sehingga pengguna bisa mengakses kemampuan keamanan siber yang lebih kuat dari model Mythos milik perusahaan.
Ketegangan ini bermula ketika kekhawatiran jailbreak (upaya menembus sistem keamanan) pada Fable 5 mencuat. Anthropic telah berhari-hari menyatakan bahwa kekhawatiran pemerintah berlebihan. Posisi ini kembali ditegaskan dalam pertemuan kelompok kerja di Departemen Perdagangan dengan peneliti pemerintah dari Center for AI Standards and Innovation dan Office of the National Cyber Director, Sean Cairncross, menurut sumber yang mengetahui pertemuan tersebut.
Pertemuan itu juga dihadiri Menteri Perdagangan Howard Lutnick, yang bergabung melalui panggilan konferensi dari KTT G7 di Evian, Prancis. Sementara itu, Cairncross sendiri tidak berpartisipasi. Dari pihak Anthropic, pendiri sekaligus chief compute officer Tom Brown dan kepala urusan eksternal Sarah Heck memimpin diskusi. Kepala tim red-teaming frontier Anthropic, Logan Graham, dan peneliti keamanan senior Nicholas Carlini terbang ke Washington, DC, untuk mengikuti pembahasan.
“Kedua pihak bekerja cepat untuk menyelesaikan ini,” kata juru bicara Anthropic dalam pernyataan kepada WIRED. Juru bicara Gedung Putih menolak berkomentar. Belum jelas bagaimana langkah selanjutnya akan berjalan. Departemen Perdagangan menyatakan kesediaan untuk mengembalikan Fable 5 untuk penggunaan konsumen, tetapi kemungkinan besar bergantung pada Anthropic yang sepenuhnya menyelesaikan masalah jailbreak.
Baca Juga:
Lonceng Alarm Berbunyi
Pembicaraan darurat ini terjadi di saat yang penuh tekanan politik bagi Anthropic. Perusahaan memang sudah terlibat dalam perselisihan panjang dengan Pentagon terkait penggunaan model AI mereka untuk aplikasi militer tertentu. Pemerintahan Trump pertama kali diberi tahu soal kekhawatiran jailbreak pekan lalu.
CEO Amazon Andy Jassy menelepon Menteri Keuangan Scott Bessent langsung tentang kerentanan yang diduga ada. Percakapan ini berperan dalam membuat pemerintah waspada. Percakapan Jassy dengan pemerintahan Trump pertama kali dilaporkan oleh The Information. Pejabat Gedung Putih yang khawatir kemudian menugaskan NSA untuk membantu meninjau kerentanan tersebut.
NSA merespons dengan menyatakan bahwa mereka yakin memang mungkin untuk melepaskan pengaman Fable 5. Hal ini mendorong pemerintah untuk menerapkan pembatasan pada model tersebut. Lutnick kemudian berbicara dengan CEO Anthropic Dario Amodei pada hari Jumat, saat Departemen Perdagangan menyusun surat yang memberlakukan kontrol ekspor pada Fable 5.
Akhir pekan lalu, setelah Anthropic memutus akses ke model tersebut untuk semua pengguna, Lutnick melakukan beberapa panggilan dengan Brown dan Heck, menurut sumber yang mengetahui peristiwa itu. Tidak jelas mengapa Amazon, salah satu investor terbesar Anthropic, membunyikan alarm soal Fable 5.
“Sebagai penyedia cloud terkemuka yang melayani banyak pelanggan sektor swasta dan publik, tidak jarang pemerintah meminta saran kami tentang potensi risiko keamanan,” kata juru bicara Amazon kepada WIRED. “Ketika hal itu terjadi, kami tidak membagikan detail diskusi tersebut.”
Perbedaan Pandangan Keamanan
Inti dari percakapan antara Anthropic dan pemerintah adalah ketidaksepakatan tentang seberapa serius masalah jailbreaking Claude Fable 5. Dalam posting blog pada hari Jumat, Anthropic menyiratkan bahwa penggambaran pemerintah tentang potensi risiko berlebihan.
Beberapa peneliti keamanan siber menegaskan posisi ini kepada pejabat pada hari Senin, dengan mengirimkan surat terbuka yang menyatakan bahwa tindakan kontrol ekspor yang diambil terhadap Anthropic tidak beralasan. “Model kelas Mythos milik Anthropic cukup baik dalam menemukan celah dan mengeksploitasi kelemahan. Namun, mereka tidak secara unik unggul dalam tugas-tugas ini, dan banyak dari penandatangan secara rutin menggunakan model fondasi dan sumber terbuka lainnya untuk audit keamanan dan red-teaming setiap hari,” demikian bunyi surat terbuka tersebut.
“Akibatnya, tindakan ini telah mengambil model terbaik dari para pembela, menciptakan ketidakpastian pasar, dan membahayakan kepemimpinan AI Amerika tanpa risiko nyata yang membenarkannya.”
Jailbreaking bekerja dengan meminta model AI dengan cara tertentu untuk menghindari sistem pengamannya. Karena Fable 5 adalah versi Mythos dengan pengaman keamanan siber, biologi, dan kimia tertentu, melewati perlindungan itu secara efektif akan memberikan pengguna akses ke versi Mythos. Anthropic sendiri telah menyuarakan kekhawatiran signifikan tentang mengizinkan Mythos digunakan oleh masyarakat umum. Namun, mereka mengatakan pada hari Jumat bahwa pengaman Fable 5 cukup kuat untuk dirilis ke publik.
Peneliti yang mengevaluasi temuan Amazon mengatakan bahwa masalah yang diidentifikasi tidak sepenuhnya meniadakan pengaman Fable 5. “Itu bukan jailbreak,” kata Katie Moussouris, pendiri dan CEO Luta Security, yang menerbitkan analisis setelah membaca makalah Amazon. Moussouris menekankan bahwa terlepas dari apakah pemerintah AS memiliki bukti jailbreak penuh Fable 5, membatasi kemampuan model untuk mengakses topik tertentu hanyalah solusi sementara.
“Kebanyakan dari kami [di penelitian keamanan] menganggap pengaman adalah gundukan kecepatan dan tidak boleh diperlakukan seperti batas keamanan untuk lawan yang terampil,” kata Moussouris. “Mereka hanya berfungsi memperlambat yang kurang terampil.”
Investor Anthropic juga bekerja selama akhir pekan, mencoba menilai bagaimana pertikaian terbaru perusahaan dengan Gedung Putih memengaruhi masa depan korporasi, kata sumber lain yang dekat dengan perusahaan. Beberapa investor percaya pemerintah AS memilih Anthropic secara khusus, dan pesaing mungkin tidak akan menghadapi reaksi yang sama jika mereka merilis model serupa dengan Mythos.
Arahan kontrol ekspor Gedung Putih juga menimbulkan pertanyaan lebih luas bagi laboratorium AI lain yang bertujuan merilis model AI dengan kemampuan setingkat Mythos, dan bagaimana mereka dapat melakukannya sesuai dengan pemerintah AS. Kini diharapkan laboratorium AI memberikan akses awal ke model AI canggih kepada Gedung Putih, dan sangat proaktif dalam memberi tahu pemerintah AS tentang peluncuran model.
“Peristiwa akhir pekan lalu … memberi informasi bagi semua orang bahwa pemerintah [AS] bersedia mengambil langkah-langkah ini,” kata Aidan Gomez, CEO Cohere, laboratorium AI yang lebih kecil berbasis di Kanada yang menawarkan alat perusahaan. “Tidak ada yang bisa naif terhadap kenyataan itu.”
Bagi Anda yang ingin mengetahui lebih lanjut tentang sengketa Anthropic dan kritik terhadap Claude Fable 5, tautan terkait tersedia untuk dibaca.
Komentar
Belum ada komentar.