Telset.id – Tokoh-tokoh terkemuka di industri kecerdasan buatan (AI), termasuk Demis Hassabis dari Google DeepMind, Sam Altman dari OpenAI, Dario Amodei dari Anthropic, dan Mustafa Suleyman dari Microsoft AI, menandatangani surat terbuka yang mendesak pemerintah untuk mewajibkan perusahaan penjual DNA dan RNA sintetis melakukan pemeriksaan ketat terhadap pelanggan dan pesanan guna mencegah penyalahgunaan materi genetik.
Surat yang diorganisir oleh Institute for Progress yang nonpartisan dan Foundation for American Innovation yang beraliran konservatif ini mengakui bahwa percepatan pengembangan AI membawa risiko serius. “Ada kemungkinan nyata bahwa hambatan pengetahuan yang secara historis mencegah aktor jahat mendapatkan senjata biologis akan terkikis secara signifikan,” demikian pernyataan dalam surat tersebut.
Dari DNA Sintetis ke Ancaman Pandemi
Ilmuwan Arthur Kornberg adalah orang pertama yang berhasil mensintesis DNA pada tahun 1950-an. Kini, proses tersebut sepenuhnya otomatis. Puluhan perusahaan di seluruh dunia menggunakan synthesizer komersial untuk “mencetak” dan menjual sekuens genetik kustom yang digunakan untuk penelitian ilmiah, pengembangan obat, dan diagnostik.
Banyak penyedia layanan hanya menjual kepada peneliti berkualifikasi, perusahaan bioteknologi, dan institusi pendidikan. Namun, tidak semuanya melakukan pemeriksaan terhadap pelanggan atau sekuens gen yang dipesan. Pada tahun 2017, para peneliti Kanada menimbulkan kekhawatiran saat mereka menggunakan DNA pesanan pos senilai $100.000 untuk merekonstitusi virus horsepox yang sudah punah. Kritikus menyatakan metodologi yang sama dapat digunakan untuk merekayasa virus smallpox (cacar), virus yang sangat terkait dan mematikan.
Sintesis gen semakin murah sejak saat itu. Ditambah dengan kemajuan AI, kini dimungkinkan untuk merancang toksin dan patogen berbahaya baru menggunakan model bahasa besar. Meskipun demikian, beberapa pelatihan biologi kemungkinan masih diperlukan untuk membuat virus fungsional dari awal.
Serangan bioteror memang jarang terjadi, tetapi berpotensi menyebabkan korban massal, kepanikan publik, dan kerugian ekonomi. Kekhawatiran utama adalah bahwa patogen yang dirancang AI dapat memicu pandemi global, baik secara sengaja maupun tidak sengaja.
Peran AI dalam Mempercepat Ancaman
David Relman, seorang mikrobiolog dan pakar biosekuriti di Stanford University yang turut menandatangani surat tersebut, menjelaskan bahaya spesifik dari teknologi AI. “Alat AI memungkinkan pengguna untuk dengan sangat cepat mengidentifikasi di mana harus memesan sekuens yang tidak akan menjalani pemeriksaan,” ujarnya. “Jika dipicu dengan tepat, alat-alat itu juga dapat memberi tahu cara mengubah sifat pesanan Anda, sehingga bahkan penyedia yang melakukan pemeriksaan pun akan jauh lebih sulit mendeteksi apa yang ingin Anda buat.”
Para penandatangan lainnya termasuk ilmuwan, pakar keamanan nasional, serta eksekutif dari perusahaan sintesis gen Twist Bioscience dan Ansa Biotechnologies. Perusahaan-perusahaan ini adalah anggota International Gene Synthesis Consortium, yang dibentuk pada tahun 2009 untuk menerapkan praktik pemeriksaan sukarela.
Banyak perusahaan sudah menggunakan perangkat lunak untuk memeriksa pesanan dari “sekuens yang menjadi perhatian” yang dapat berkontribusi pada toksisitas organisme atau kemampuannya menyebabkan penyakit. “Jika Anda memiliki teknologi yang mampu mensintesis DNA, maka Anda harus memastikan bahwa teknologi itu digunakan secara bertanggung jawab,” kata James Diggans, wakil presiden kebijakan dan biosekuriti di Twist Bioscience. “Bagian dari tanggung jawab itu adalah memastikan Anda memahami apa yang Anda buat dan untuk siapa Anda membuatnya.” Perusahaan telah mendukung penerapan aturan formal selama bertahun-tahun.
Regulasi dan Keterbatasannya
Pedoman federal yang diperkenalkan pada masa pemerintahan Biden mewajibkan para ilmuwan dan perusahaan yang menerima dana federal untuk memesan sekuens gen sintetis dari penyedia yang melakukan pemeriksaan pembelian. Sebuah rancangan undang-undang bipartisan yang diperkenalkan awal tahun ini di Senat AS akan mewajibkan semua penyedia sintesis gen yang beroperasi di AS untuk memeriksa pesanan dan pelanggan terhadap aktor jahat atau patogen berbahaya.
Namun, alat pemeriksaan tidak sempurna. Tahun lalu, para peneliti Microsoft menerbitkan studi yang menunjukkan bahwa alat desain protein AI mampu menghasilkan sekuens gen berbahaya yang lolos dari perangkat lunak pemeriksaan perusahaan. Model-model tersebut menyarankan sekuens protein baru dengan struktur serupa dari protein yang diketahui berbahaya.
Geoff Ralston, mantan presiden Y Combinator dan mitra di Safe AI Fund, yang juga menandatangani surat tersebut, berpendapat bahwa laboratorium AI dengan model biologi harus melakukan pemeriksaan sendiri terhadap pengguna. “Seharusnya sangat sulit, bahkan tidak mungkin, untuk meminta model membantu Anda melakukan sesuatu yang sangat berbahaya,” tegas Ralston.
Relman setuju bahwa regulasi seputar prosedur pemeriksaan hanyalah bagian dari solusi. “Mengingat bahwa pemeriksaan mungkin gagal dalam beberapa kasus, kita harus memiliki titik kontrol lainnya,” ujarnya. “Di situlah perusahaan AI harus turun tangan.”
Surat terbuka ini menandai momen langka di mana para pesaing utama di industri AI bersatu untuk mendorong regulasi yang lebih ketat. Langkah ini juga menimbulkan pertanyaan tentang sejauh mana perusahaan AI akan bertanggung jawab atas potensi penyalahgunaan teknologi mereka di masa depan.
Ketegangan antara inovasi dan keamanan menjadi sorotan utama, mengingat para pemimpin AI sendiri yang mengakui adanya celah keamanan. Perusahaan seperti OpenAI kini berada di bawah tekanan lebih besar untuk memastikan teknologi mereka tidak disalahgunakan untuk tujuan biologis yang berbahaya.
Ke depannya, kolaborasi antara pembuat kebijakan, perusahaan AI, dan penyedia sintesis gen akan menjadi krusial. Tanpa kerangka regulasi yang komprehensif, risiko penyalahgunaan AI untuk menciptakan senjata biologis hanya akan terus meningkat seiring dengan murah dan mudahnya teknologi ini diakses.
Komentar
Belum ada komentar.