Telset.id – Anthropic dan OpenAI menyatakan komitmen untuk mengizinkan evaluator pihak ketiga masuk ke dalam perusahaan mereka, sebuah perubahan besar dalam cara industri AI bekerja dengan kelompok riset independen. Langkah ini diungkapkan menyusul esai panjang yang dipublikasikan CEO Anthropic, Dario Amodei, pada akhir pekan lalu, di mana ia mengusulkan agar evaluator eksternal ditempatkan di semua perusahaan AI frontier.
Usulan tersebut memberi evaluator kewenangan untuk melaporkan insiden keselamatan, menilai apakah model AI benar-benar selaras, serta membagikan temuan mereka secara terbuka kepada publik. CEO OpenAI, Sam Altman, menyatakan perusahaannya juga akan berkomitmen pada praktik ini. Namun, sejumlah evaluator yang berbicara kepada TechCrunch menilai detail kesepakatan masih perlu dirampungkan, dan idealnya didukung oleh legislasi, agar mereka bisa berfungsi sebagai pengawas independen yang sesungguhnya, bukan sekadar vendor yang bekerja sesuai ketentuan perusahaan AI.
Akses yang lebih dalam ini menjadi semakin penting seiring model AI yang makin mahir mengenali kapan dirinya sedang dievaluasi. Kondisi itu memunculkan risiko model berperilaku baik selama pengujian namun menyembunyikan perilaku bermasalah. Peneliti menyebut petunjuk perilaku tersebut bisa terlewat saat pengujian model final, tetapi bisa ditemukan dengan menyelidiki bagaimana model berperilaku sepanjang proses pelatihannya.
“Perusahaan AI seharusnya bisa menjawab beberapa pertanyaan dasar tentang proses pelatihan mereka,” kata Alexander Meinke, kepala riset di Apollo Research, kepada TechCrunch. Ia mencontohkan pertanyaan seperti apakah AI pernah secara aktif berusaha melemahkan pelatihan alignment-nya sendiri. Menurut Meinke, jawabannya seharusnya tidak pernah terjadi, namun saat ini publik sepenuhnya bergantung pada perusahaan AI untuk memeriksa hal itu sendiri dan melaporkannya dengan jujur. Ia menilai insiden terbaru menunjukkan bahwa secara default, perusahaan tidak melakukan keduanya. Sebagai evaluator yang tertanam, timnya bisa memverifikasi langsung.
Secara historis, perusahaan AI menghadirkan pengulas eksternal untuk menguji model final sesaat sebelum peluncuran. Kini, evaluator mengusulkan akses tidak hanya ke model final, tetapi juga ke versi perantara atau “checkpoints” dari sepanjang masa pelatihannya. Adam Gleave, CEO FAR.AI, menyebut evaluator dapat membandingkan checkpoint tersebut untuk menentukan kapan perilaku mengkhawatirkan muncul, memeriksa lingkungan post-training yang memberi imbalan pada perilaku tertentu, serta memeriksa transkrip evaluasi dan log untuk memverifikasi klaim perusahaan soal performa model.
Detail Keterlibatan Masih Belum Jelas
Hingga kini belum jelas apakah dan kapan Anthropic serta OpenAI berencana memberikan akses semacam itu. Kedua perusahaan belum mengungkap evaluator mana yang akan mereka ajak bekerja sama, kapan mereka akan ditempatkan, berapa banyak yang akan dilibatkan, sistem dan informasi apa saja yang bisa diakses, maupun apa yang boleh diungkap ke publik, meski TechCrunch berulang kali menanyakan hal tersebut.
Pengawasan mendalam seperti ini penting karena model yang tampil baik pada uji keselamatan belum tentu aman jika ia belajar secara spesifik cara lulus uji tersebut. John Steidley, kepala strategi di Palisade Research, mencontohkan “shutdown resistance benchmark” yang mengukur apakah AI akan menolak dimatikan dalam kondisi tertentu. Menurutnya, hasil uji itu sangat relevan jika AI dilatih khusus untuk tampil baik pada benchmark tersebut. Ia menyamakannya dengan skandal Dieselgate Volkswagen, di mana mobil diprogram mengenali uji emisi dan berperilaku berbeda dalam kondisi pengujian.
Gleave menambahkan bahwa akses yang bermakna bisa melampaui model itu sendiri, dengan evaluator diberi kesempatan mewawancarai karyawan untuk memeriksa apakah dokumentasi dan deskripsi publik perusahaan soal praktik keselamatannya sesuai dengan apa yang terjadi secara internal.
Amodei memang memaparkan proposal yang cukup komprehensif dan berpotensi memberi evaluator akses yang mereka anggap perlu. Usulan itu mencakup hak untuk mempublikasikan temuan kunci soal tingkat risiko, insiden, praktik, serta akses yang mereka terima atau tidak terima, tanpa kontrol editorial dari Anthropic. Meski begitu, evaluator menilai sistem semacam itu hanya akan berjalan jika perusahaan AI benar-benar bersedia menyerahkan kendali atas prosesnya.
Pengalaman dari upaya evaluasi independen sebelumnya menunjukkan penyerahan kendali itu sulit diwujudkan. Pihak ketiga kerap berbenturan dengan persoalan akses, waktu, kerahasiaan, dan apa yang boleh mereka sampaikan ke publik. Gleave mengungkapkan FAR.AI pernah menolak kontrak dengan sejumlah pengembang frontier yang ingin mengontrol proses evaluasi secara berlebihan, karena hal itu mengancam independensi firma. Menurutnya, secara default evaluator diperlakukan seperti kontraktor biasa, terikat NDA ketat dan perjanjian yang memberi pengembang kendali besar atas apa yang akhirnya boleh dipublikasikan.
Persoalan waktu juga menjadi pertanyaan tersendiri, apakah pengulas akan mendapat cukup waktu dan akses untuk menjalankan tugas yang diminta. Saat menyelidiki insiden Hugging Face, OpenAI memberi METR dan Redwood waktu sekitar sepekan di lokasi untuk melakukan investigasi. Keduanya kemudian menyatakan tidak bisa menarik kesimpulan yang meyakinkan, sebagian karena keterbatasan ruang lingkup dan waktu.
Masalah serupa terjadi pada pengujian pra-rilis GPT-6 Astra, yang oleh OpenAI disebut sebagai modelnya yang paling selaras sejauh ini. Menurut kontribusi Apollo Research dalam model card, firma itu hanya diberi tiga hari untuk menguji Astra, sehingga sulit menarik kesimpulan yang pasti. Apollo Research menulis bahwa dengan tingkat kesadaran evaluasi yang lebih tinggi dan jendela evaluasi yang terbatas, rendahnya tingkat perilaku menyimpang tidak memberi bukti substansial soal alignment atau misalignment model tersebut.
Rekam jejak itu menyisakan pertanyaan mendasar bagi para evaluator: mengapa kali ini harus berbeda? “Sangat mungkin Dario dan Sam benar-benar berubah pikiran dan akan sangat terbuka soal ini,” kata Gleave. “Tapi kekayaan intelektual perusahaan-perusahaan ini begitu berharga bagi mereka, dan saya pikir secara default mereka akan sangat berhati-hati tentang apa yang bisa dibagikan.”
Dorongan Regulasi dan Pihak yang Belum Bergabung
Sejumlah peneliti yang berbicara kepada TechCrunch menyerukan kerangka kerja transparan yang disepakati bersama secara publik. Steidley menilai bagian dari kerangka itu harus mencakup standar soal jenis auditor apa yang boleh diandalkan perusahaan, agar mereka tidak menghindari persoalan dengan mencari evaluator yang tidak memenuhi kualifikasi atau tidak tertarik menilai risiko yang paling mengkhawatirkan.
Henry Papadatos, direktur eksekutif Safer AI, menyebut masalahnya, bahkan dengan kerangka publik, adalah langkah sukarela selalu bergantung pada itikad baik perusahaan. Ia menilai idealnya ada regulasi yang mewajibkan praktik ini, sehingga perusahaan tidak bisa berubah pikiran esok hari jika menghadapi krisis PR. Regulasi juga menjadi cara mendorong semua perusahaan mematuhi aturan, bukan hanya yang paling bersedia.
Tidak semua pihak menyatakan komitmen serupa. Sejauh ini Meta, SpaceXAI, dan Google DeepMind belum berkomitmen menempatkan evaluator pihak ketiga, meski CEO DeepMind Demis Hassabis mengusulkan badan standar industri terpisah untuk menguji model frontier secara independen. Google, OpenAI, dan Anthropic juga dikabarkan berdiskusi secara privat soal rencana keselamatan AI selama beberapa pekan, sejalan dengan langkah koordinasi yang sebelumnya turut menjadi sorotan dalam pembahasan regulasi AI.
Sejumlah regulasi sudah mulai terbentuk di sekitar gagasan evaluator pihak ketiga. Di California, SB 53 yang ditandatangani menjadi undang-undang tahun lalu mewajibkan pengembang AI frontier besar mempublikasikan kerangka keselamatan dan melaporkan insiden keselamatan kritis. Undang-undang baru, SB 813, yang ditandatangani bulan ini, membentuk kerangka bagi “independent verification organizations” yang diakui negara dan memiliki keahlian menilai risiko AI.
Di Eropa, EU AI Act mewajibkan pengembang frontier melakukan dan mendokumentasikan evaluasi model serta pengujian adversarial, sekaligus melaporkan insiden serius. EU AI Office juga dapat melakukan evaluasi sendiri dan menunjuk pakar independen. Namun untuk saat ini, hukum yang ada masih kurang luas dibandingkan apa yang diusulkan Amodei, sehingga laboratorium frontier masih sangat menentukan sendiri seberapa besar pengawasan independen yang akan mereka terima.
Papadatos menegaskan bahwa regulasi diri secara sukarela lebih baik daripada tidak sama sekali, tetapi pada akhirnya perusahaan tidak bisa menuntut kebebasan mengontrol aturan keselamatan mereka sendiri sambil meminta publik percaya bahwa aturan itu dipatuhi. “Anda tidak bisa memiliki keduanya, nol akuntabilitas eksternal, lalu berkata, ‘Saya akan punya aturan fleksibel sendiri’,” ujarnya.
Kebutuhan akan pengawasan eksternal ini juga tercermin dari sejumlah peringatan yang pernah disampaikan Anthropic, termasuk soal risiko penyalahgunaan model seperti dalam kasus drone otonom dan ancaman botnet AI. Dengan komitmen Anthropic dan OpenAI membuka akses evaluator, pertanyaan yang tersisa bukan lagi soal niat, melainkan seberapa nyata akses yang akhirnya diberikan dan apakah publik bisa memverifikasinya.
Komentar
Belum ada komentar.