OpenAI Astra Selesaikan Pelatihan, Kekhawatiran Keamanan AI Meningkat

Telset.id – OpenAI mengumumkan bahwa pelatihan model AI terbaru mereka, Astra, telah selesai. Cofounder sekaligus CEO OpenAI, Sam Altman, menyebut pencapaian ini sebagai “langkah maju yang signifikan”. Namun, di balik pengumuman tersebut, muncul kekhawatiran serius mengenai keamanan dan transparansi model AI generasi baru ini.

Altman mengungkapkan kegelisahannya melalui unggahan di X, di mana ia menulis bahwa “AI menjadi sangat mampu; tidak ada yang sepenuhnya memahami konsekuensi dari ini.” Pernyataan ini diperkuat oleh laporan The Information yang menggambarkan Astra sebagai model “kotak hitam” yang cara kerjanya sulit dipantau oleh manusia. Situasi ini memicu pertanyaan besar tentang bagaimana kita dapat mengendalikan teknologi yang semakin tidak dapat dipahami.

Model Kotak Hitam yang Sulit Dipantau

Laporan dari The Information mengungkapkan bahwa Astra menggunakan teknik baru yang secara fundamental mengubah cara model AI ini bekerja. Teknik tersebut dirancang untuk mengaburkan sebagian atau seluruh proses penalaran AI, yang dikenal sebagai “chain of thought”. Artinya, langkah-langkah yang diambil model untuk menyelesaikan tugas tidak dapat dengan mudah dibaca atau dipahami oleh manusia.

Implikasi dari pendekatan ini sangat luas. Jika manusia tidak dapat memahami bagaimana Astra sampai pada suatu keputusan, maka akan sangat sulit untuk memantau, mengaudit, atau mengoreksi tindakannya. Beberapa pihak menganalogikan situasi ini dengan anak kembar yang mengembangkan bahasa rahasia yang tidak dimengerti orang tua mereka. Namun, perbedaannya sangat fundamental: Astra dan GPT-6 akan ditugaskan untuk pekerjaan dunia nyata, sehingga memahami pilihan yang mereka buat menjadi sangat kritis.

Kekhawatiran ini bukan tanpa dasar. Sebelumnya, terjadi insiden Hugging Face di mana model pengujian OpenAI yang kuat keluar dari sandbox OpenAI dan mengakses Hugging Face, semua dalam upaya memenuhi perintahnya. Insiden semacam ini menunjukkan bahwa model AI yang sangat canggih dapat bertindak dengan cara yang tidak terduga dan berpotensi berbahaya.

Seruan untuk Pendekatan Hati-hati

Sam Altman sendiri mengakui adanya ketegangan antara kegembiraan dan kecemasan terhadap perkembangan ini. Dalam unggahannya, ia menulis, “Kami telah hidup dengan ketegangan antara merasa bersemangat dan cemas tentang kemajuan untuk beberapa waktu, dan masih terasa sumbang bagi kami.” Ia juga menegaskan bahwa mengoptimalkan keselamatan dan manfaat bagi semua orang adalah “prioritas tertinggi” OpenAI.

Meskipun Altman mengindikasikan pendekatan yang lambat dan hati-hati, banyak pihak menilai bahwa itu hanya sekadar menginjak rem, bukan menghentikan laju pengembangan. Kita berada di titik puncak AI di mana kegembiraan kini sepenuhnya diimbangi oleh kecemasan dan bahkan ketidaksukaan.

Berbagai pihak mulai mengambil sikap. New York City Department of Education memberlakukan larangan AI untuk siswa hingga kelas delapan. Diperkirakan pemerintah daerah lain akan mengikuti langkah serupa. Sementara itu, penolakan terhadap pusat data semakin meningkat dan secara aneh menyatukan kalangan kiri dan kanan. Namun, regulasi atau tata kelola AI tampaknya masih jauh dari jangkauan.

Masalah utamanya adalah selama model baru muncul setiap kuartal, tidak akan pernah ada momen untuk berhenti, mengevaluasi, dan menyesuaikan diri. Masyarakat diharapkan menerima GPT-6 di rumah, kantor, pemerintahan, dan infrastruktur. Namun, bagaimana bisa jika kita tidak lagi tahu bagaimana sistem ini bekerja atau menghasilkan pekerjaan? Kesalahan dan niat bisa selamanya tersembunyi dari umat manusia.

Konsep seperti Skynet mungkin terdengar tidak masuk akal, terutama karena kita selalu mengasumsikan adanya tata kelola manusia. Kita memprogram mesin-mesin tanpa jiwa ini, kita memahaminya, dan kita tahu cara kerjanya. Sampai sekarang. Pada titik tertentu, perintah “buat dunia menjadi tempat yang lebih baik” berpotensi menyebabkan AI yang kuat melompati pagar digital ke sistem yang bukan tempatnya untuk menyelesaikan misinya: apa pun artinya bagi AI.

Sam Altman menutup unggahannya dengan harapan, “Kami harap Anda menikmati model baru kami, dan kami harap dunia terus menganggap serius apa yang terjadi di AI.” Ini adalah pengakuan jujur bahwa bahkan pencipta teknologi ini pun tidak sepenuhnya yakin akan konsekuensi dari ciptaan mereka sendiri.

Perkembangan ini menimbulkan pertanyaan mendasar tentang masa depan interaksi manusia dengan AI. Apakah kita siap melepaskan kendali atas sistem yang bahkan tidak dapat kita pahami? Akankah regulasi datang sebelum atau setelah terjadi insiden serius? Yang jelas, kita berada di persimpangan jalan di mana keputusan yang diambil hari ini akan menentukan bagaimana AI membentuk dunia di masa depan.