Perang AI: OpenAI, Anthropic, Google Didesak Rem Superintelligence

Telset.id – Sejumlah perusahaan AI terkemuka di Amerika Serikat, termasuk Anthropic, OpenAI, Google, Microsoft, dan X, secara terbuka mulai menyerukan perlunya memperlambat pengembangan AI supercerdas atau yang mereka sebut sebagai upaya “pace the frontier”. Seruan ini muncul setelah musim panas yang diwarnai insiden agen AI nakal menjadi kenyataan, serta peringatan para peneliti bahwa AI berpotensi membahayakan umat manusia. Namun, para pemimpin industri ini baru sebatas memberikan dukungan lisan terhadap gagasan perlambatan superintelligence, sementara motivasi di balik manuver tersebut masih dipertanyakan banyak pihak.

Desakan untuk mengerem laju pengembangan AI ini menuai reaksi keras dari berbagai kalangan, terutama para ahli antitrust. Mereka menilai bahasa yang digunakan perusahaan-perusahaan AI tersebut justru berpotensi menimbulkan masalah hukum. Menurut para ahli, pengembangan AI pembunuh yang tidak terkendali kemungkinan besar tidak sejalan dengan semangat Sherman Act, undang-undang antitrust utama AS yang bertujuan mendorong pasar yang kompetitif. Di sisi lain, mendapatkan lampu hijau resmi dari pemerintah untuk melanjutkan pengembangan bisa menjadi tameng dari investigasi mahal di kemudian hari.

Dalam perspektif hukum antitrust, cara karyawan perusahaan berbicara tentang keputusan bisnis sering kali sama pentingnya dengan keputusan bisnis itu sendiri. Google pernah melatih karyawannya untuk tidak menggunakan frasa tertentu bahkan secara internal yang bisa menyiratkan perilaku anticompetitif, dan sebagai gantinya menginstruksikan mereka untuk menekankan bagaimana keputusan bisnis akan meningkatkan layanan dan menguntungkan konsumen. Dari sudut pandang antitrust, penggunaan frasa seperti “a slowdown” atau “a pause” justru bisa memicu lebih banyak alarm ketimbang aktivitas yang sebenarnya diwakilinya, yaitu mengembangkan cara agar model AI canggih tidak menjadi nakal.

John Bergmayer, penasihat hukum untuk organisasi nirlaba Public Knowledge, menilai perusahaan-perusahaan AI telah menyudutkan diri mereka sendiri dengan cara mereka mengungkapkan gagasan tersebut. Dalam analisis antitrust, salah satu hal yang diperhatikan ekonom adalah apakah sebuah kesepakatan mengurangi output, yang berarti apakah dua atau lebih perusahaan membuat pakta untuk bersantai-santai. Alih-alih membicarakan upaya yang terdengar kolutif untuk mengurangi pengembangan, menurut Bergmayer, perusahaan AI seharusnya cukup menekankan keinginan mereka untuk mengerjakan protokol keselamatan bersama guna mencegah risiko katastrofik, dan memperlakukan perlambatan rilis model sebagai efek samping alami dari upaya tersebut.

CEO Meta, Mark Zuckerberg, ikut menyuarakan pandangannya terkait proposal perlambatan ini, namun ia tidak sepenuhnya mendukung gagasan “slowdown” secara eksplisit. Zuckerberg berargumen bahwa laboratorium AI memiliki “insentif alami yang kuat” untuk membuat agen AI berperilaku lebih baik, karena konsumen tidak menginginkan model yang melakukan hal-hal di luar kehendak pengguna, yang dalam jargon industri AI dikenal sebagai “misalignment”. Ia menegaskan bahwa perusahaan yang tidak meluangkan waktu untuk memperbaiki alignment “akan tertinggal” secara kompetitif. Ini seperti perbedaan antara dua produsen mobil yang mengatakan “kami sepakat untuk tidak membuat mobil yang lebih baik untuk sementara waktu” versus mengatakan “kami tidak akan membuat mobil yang lebih cepat sampai kami tahu cara membuatnya aman, karena tidak ada yang akan membeli mobil kami jika mobil itu membunuh orang”.

David Lawrence, yang hingga baru-baru ini menjabat sebagai direktur kebijakan di Divisi Antitrust Departemen Kehakiman AS, menulis di LinkedIn bahwa kesepakatan yang mencegah risiko katastrofik justru “meningkatkan output dan mendorong persaingan” dan sudah dilindungi hukum melalui sesuatu yang disebut “ancillary restraints doctrine”. Seorang pengacara karier FTC berkomentar di bawah unggahan tersebut, “Bagaimanapun juga, tanpa umat manusia tidak akan ada persaingan.” Sebaliknya, jika perusahaan-perusahaan AI secara kolektif sepakat untuk tidak menerapkan langkah keselamatan, hal itu justru bisa membuka mereka pada tuduhan “quality fixing”, menurut Roger Alford, profesor di Notre Dame Law School dan mantan wakil kedua Divisi Antitrust DOJ. Alford merujuk pada kasus antitrust Eropa di mana perusahaan-perusahaan mobil bekerja sama mengembangkan teknologi pengurang emisi tetapi sepakat untuk tidak bersaing dalam peningkatan di luar yang diwajibkan hukum. Mereka akhirnya harus membayar denda setara sekitar satu miliar dolar.

Self-regulation sebenarnya bukan hal baru. Bergmayer mencatat bahwa industri sudah dapat membatasi tanggung jawab antitrust mereka melalui National Cooperative Research and Production Act of 1993, yang memungkinkan mereka membentuk organisasi pengembangan standar asalkan mengajukan notifikasi ke FTC dan DOJ. Namun, para penegak hukum antitrust biasanya skeptis terhadap pengecualian antitrust karena mereka menilai hal itu justru membuat pemain besar semakin besar dan menghalangi perusahaan baru mendapatkan traksi di pasar.

Keraguan juga datang dari David Sacks, salah satu ketua President’s Council of Advisors on Science & Technology. Sacks menuduh Anthropic dan OpenAI sebagai duopoli dan menyebut permintaan pengecualian antitrust sebagai “election-season psyop” serta alasan untuk “membentuk kartel”. Meski demikian, banyak karyawan perusahaan AI besar yang dengan tulus menyuarakan kekhawatiran tentang seberapa cepat tempat kerja mereka memproduksi model baru, yang berpotensi mengorbankan keselamatan. Bergmayer berpendapat bahwa terkadang perusahaan memang ingin diatur sebagai taktik untuk menarik tangga di belakang mereka, tetapi terkadang mereka benar-benar merasa pasar menekan mereka untuk bertindak dengan cara yang mereka anggap salah. Secara psikologis, mungkin laboratorium AI merasa tidak memiliki izin dari pasar atau IPO mereka yang akan datang untuk mengambil tindakan secara sepihak.

Pada musim panas ini, baik Anthropic maupun OpenAI telah mengajukan berkas rahasia untuk penawaran umum perdana atau IPO dan memiliki valuasi mendekati atau melampaui satu triliun dolar masing-masing. Anthropic diperkirakan akan go public bulan depan, sementara CEO OpenAI Sam Altman mengatakan perusahaannya akan menunda IPO hingga 2027 karena kekhawatiran keselamatan terkini. CFO OpenAI sebelumnya memberi tahu karyawan bahwa perusahaan akan menjadi perusahaan publik pada 2027. Ramp AI Index, yang mengukur tingkat adopsi AI, menunjukkan bahwa model kedua perusahaan memiliki tingkat penggunaan yang serupa dan bersaing ketat untuk posisi teratas. Tidak ada dari kedua perusahaan yang menanggapi permintaan komentar untuk kisah ini.

Alford menilai perusahaan-perusahaan tersebut menginginkan pengecualian karena dalam pikiran mereka, mereka perlu berkoordinasi untuk perlambatan agar tidak melucuti senjata secara sepihak sementara yang lain terus melaju dengan kecepatan tinggi. Tekanan politik untuk terus bergerak secepat mungkin juga ada. Setelah berita tentang proposal perlambatan, Presiden Donald Trump memposting di media sosial bahwa pemerintah sudah memiliki “kekuatan KRIMINAL dan REGULATORY yang luar biasa atas perusahaan-perusahaan ini!” dan bahwa “SIAPA YANG MENANG AI, MENANG!” Akun chief technology officer Departemen Pertahanan juga memposting meme “anti-doomer”, tampaknya sebagai respons terhadap gagasan perlambatan.

Divisi Antitrust DOJ juga tidak kebal terhadap manuver politik. Alford dicopot dari lembaga tersebut tahun lalu setelah menuduh kepemimpinan DOJ melakukan korupsi karena menyetujui merger antara dua perusahaan infrastruktur teknologi yang kemudian ia gambarkan sebagai “skandal” dalam pidato publik. Seorang jurnalis Wall Street Journal melaporkan bahwa Andrew Ferguson, ketua FTC, mengatakan kepada peserta konferensi antitrust bahwa Trump akan “pada akhirnya memutuskan kebijakan AI apa pun”. Jika pemerintah federal memulai investigasi antitrust terhadap perlambatan AI, hal itu akan dianggap sebagai “conduct investigation”. Berbeda dengan “merger investigation” yang memberlakukan batas waktu ketat pada penyelidikan pemerintah, conduct investigation bisa memakan waktu bertahun-tahun. Perusahaan AI bisa diminta memproduksi jutaan halaman dokumen, eksekutif dan karyawan kunci bisa diseret ke deposisi, dan ratusan karyawan lain bisa menjadi sasaran litigation holds pada perangkat mereka, bahkan jika pemerintah pada akhirnya memutuskan tidak memiliki kasus.

Dengan tidak adanya regulasi baru dan kemungkinan tidak adanya pengecualian antitrust, laboratorium AI terdepan harus menulis aturan main mereka sendiri, dan berpotensi menghindari satu atau dua investigasi di sepanjang jalan. Sementara itu, CEO Anthropic Dario Amodei menulis esai hampir 4.000 kata yang memaparkan argumen mengapa pengembangan AI harus diperlambat agar guardrails yang memadai dapat diterapkan. Rencana tersebut mencakup strategi internasional kolaborasi antara perusahaan dan pemerintah untuk penerapan yang aman. Eksekutif AI saingan seperti Sam Altman dari OpenAI dan Elon Musk dari xAI telah mendukung rencana Amodei. Esai tersebut memicu diskusi lebih lanjut di seluruh industri teknologi, meski tidak semua orang setuju dengan seruan Amodei untuk aksi terkoordinasi global.

Zuckerberg, yang mendukung sebagian rencana Amodei, tampaknya menyiratkan bahwa tindakan pemerintah tidak diperlukan dan bahwa insentif organik yang menyusun industri akan memaksa perusahaan untuk memperbaiki keamanan. Ia mengungkapkan bahwa perusahaannya telah menunda perilisan model AI-nya karena kekhawatiran keselamatan. “Meta menunda pengiriman Muse selama beberapa bulan untuk fokus pada keselamatan dan keamanan,” kata Zuckerberg. “Kami tidak menyerukan agar semua orang melakukan ini sebelum kami melakukannya. Kami hanya melakukannya sebagai bagian dari pekerjaan sehari-hari kami karena itu jelas hal yang benar bagi orang-orang dan bagi kami.”

Eksekutif senior lain yang ikut berkomentar adalah salah satu pendiri Reddit, Alexis Ohanian, yang mengatakan kepada CNBC bahwa ia merasa industri teknologi sebagian besar “tone deaf” dalam menjelaskan risiko AI kepada publik. Namun seperti Zuckerberg, Ohanian juga tampaknya berharap perusahaan dapat menyelesaikan masalah ini sendiri. Shane Legg, salah satu pendiri Google DeepMind, juga membagikan pemikirannya. “Kita hidup dalam periode di mana kemampuan maju sangat, sangat cepat,” kata Legg. “Tetapi kita tidak bisa membiarkan kemampuan melampaui keselamatan.” Ia menambahkan bahwa pihaknya perlu benar-benar memikirkan detailnya dan bagaimana hal itu akan bekerja dalam praktik.

Terlepas dari seruan laboratorium besar untuk kolaborasi publik-swasta, beberapa suara pro-regulasi tersebut tampaknya juga relatif puas membiarkan bisnis menulis aturan mereka sendiri. Sebuah laporan dari The Information menyebutkan bahwa OpenAI, Anthropic, dan perusahaan AI besar lainnya bekerja sama untuk membuat organisasi standar AI, yang digambarkan oleh salah satu media sebagai “badan pengatur mandiri” swasta. Diskusi sebelumnya telah diadakan tentang pembentukan organisasi serupa yang dijalankan secara federal. Namun, Gedung Putih Trump, yang mencakup pendukung AI vokal dan sebagian besar mendorong bisnis teknologi yang tidak diatur, tidak mengejar hal tersebut. “Czar AI” administrasi tersebut, veteran teknologi David Sacks, mengatakan bahwa regulasi AI harus diserahkan kepada perusahaan yang mengembangkannya.

Seperti Gedung Putih, anggota Kongres terkemuka tampaknya sama-sama tidak tertarik menerima tawaran Amodei untuk mengatur perusahaannya. Tidak lama setelah esai CEO Anthropic itu diterbitkan, Ketua DPR Mike Johnson menanggapi kekhawatiran tentang kemajuan AI katastrofik dengan mengatakan, “Kalian tidak akan semuanya mati dalam 10 tahun.” Organisasi swasta akan menjaga industri tetap tidak diatur kecuali oleh komitmen sukarela dan secara alami akan memberikan sejumlah otoritas dan pengaruh kepada perusahaan yang bertanggung jawab menciptakannya. Hal ini mengarah pada klaim lain yang sedang berlangsung, yaitu bahwa seruan industri untuk regulasi sebenarnya adalah strategi “regulatory capture”. Menurut argumen ini, perusahaan kuat yang sudah menikmati posisi menonjol di industri dapat menggunakan strategi regulasi untuk menyingkirkan atau merugikan perusahaan yang lebih kecil dan kurang sumber daya, sehingga mengekang persaingan mereka. Hal ini tidak perlu melibatkan regulasi aktual tetapi bisa melibatkan standar industri sukarela yang tetap memberi tekanan pada perusahaan yang kurang kuat.

Banyak suara terkemuka di pemerintah China telah menggemakan posisi tersebut. Setelah Amodei menyerukan “pacing the frontier”, juru bicara Kementerian Luar Negeri China Guo Jiakun menuduh Amerika menggunakan “fearmongering” untuk mengganggu pengembangan tata kelola AI global, sementara sebuah op-ed di surat kabar milik negara China menyebut retorika Amodei langsung keluar dari “buku pedoman Perang Dingin”. Restrukturisasi cara perusahaan berbisnis dengan China, salah satu hal yang diserukan Amodei dalam esainya, secara alami bisa menjadi peluang bagi perusahaan Amerika untuk mengarahkan keadaan sesuai keuntungan mereka. Amodei bahkan mengakui bahwa ini adalah tujuannya. “Jika kami melaksanakan langkah-langkah ini dengan baik, saya yakin itu akan memperlambat kemajuan China cukup untuk memperlebar keunggulan Amerika secara signifikan selama 3-5 tahun ke depan, jendela ketika AI menjadi paling penting secara geopolitik,” tulisnya dalam esai tersebut.

Bukan hanya China yang melihat laboratorium AI besar Amerika berusaha mengarahkan pertandingan sesuai keuntungan mereka. Aidan Gomez, CEO perusahaan AI Kanada Cohere, baru-baru ini menuduh perusahaan-perusahaan tersebut membentuk “kartel”. Dalam sebuah posting blog, ia menulis, “AI membutuhkan guardrails. Itu bukan perselisihan dan tidak pernah menjadi perselisihan. Perselisihannya adalah tentang siapa yang menulisnya, siapa yang boleh berpartisipasi, dan kepentingan siapa yang dilindungi oleh aturan tersebut.” Seperti yang dicatat Gomez, bidang keselamatan AI adalah bidang yang sangat politis, di mana istilah-istilah yang mendefinisikan keselamatan, dan oleh siapa, pada akhirnya akan membantu menentukan siapa yang memiliki keunggulan dan siapa yang tertinggal di tahap berikutnya persaingan AI.

Perdebatan ini juga tercermin dalam langkah sejumlah pihak lain. Meta, misalnya, baru-baru ini meluncurkan Muse Image, model AI generatif pertama dari Superintelligence Labs, yang menunjukkan bahwa perlombaan model tetap berjalan meski wacana perlambatan menguat. Di sisi lain, ada pula dorongan untuk mempercepat pengembangan superintelligence yang aman, seperti langkah SSI Gandeng Nvidia yang menyiapkan infrastruktur pengembangan. Sementara itu, Manifesto AI yang dirilis Zuckerberg menegaskan posisi bahwa kolaborasi dengan pemerintah hanya diperlukan secara terbatas dan daya saing Amerika menjadi kunci masa depan teknologi yang makmur.