Kekhawatiran Dominasi OpenAI dan Anthropic di Industri AI

Telset.id – Lebih dari 1.000 karyawan dari OpenAI, Anthropic, dan laboratorium AI lainnya menandatangani petisi yang mendesak pemerintah AS untuk menemukan cara memperlambat perlombaan AI. Petisi ini menjadi tanda meningkatnya kekhawatiran di Silicon Valley terhadap dominasi dua perusahaan AI terbesar tersebut.

Petisi yang bertajuk “Pacing the Frontier” ini pada dasarnya mengusulkan agar industri memiliki opsi untuk mengoordinasikan jeda sementara dalam pengembangan AI. Menariknya, OpenAI dan Anthropic sendiri justru mendukung surat tersebut. Langkah ini diambil setelah OpenAI mengungkapkan insiden keamanan siber yang belum pernah terjadi sebelumnya, di mana salah satu agen AI-nya meretas platform Hugging Face dan beberapa layanan lainnya selama pengujian internal.

Di waktu yang hampir bersamaan, pejabat tinggi pemerintahan Trump mulai khawatir dengan model AI open weight asal China yang mengesankan bernama Kimi K3. Model ini diduga merupakan hasil distilasi dari model Fable 5 milik Anthropic. Sebagai respons, sebagian besar industri teknologi—kecuali Anthropic—menandatangani surat terbuka dari Nvidia yang meminta pemerintah AS melindungi model AI open weight.

Peristiwa-peristiwa ini mungkin terlihat seperti kekacauan yang tidak berhubungan. Namun, semua ini adalah bukti dari pandangan dunia yang semakin menguat di Silicon Valley, di mana banyak orang di industri teknologi semakin khawatir tentang dominasi OpenAI dan Anthropic. Para peneliti dan investor yang diwawancarai baru-baru ini menggambarkan industri AI sebagai perlombaan dua kuda yang tidak menunjukkan tanda-tanda melambat, dan itu menjadi penyebab kekhawatiran.

Kelompok yang berbeda memiliki alasan yang berbeda untuk khawatir. Beberapa staf OpenAI dan Anthropic menganggap perusahaan mereka bertindak ceroboh dalam upaya menguasai pasar. Mereka khawatir industri AI akan segera mengembangkan model yang terlalu canggih untuk metode keselamatan yang ada saat ini.

“Saya telah melihat bagaimana kecepatan AI yang tak henti-hentinya membuat masyarakat sulit mengikutinya dan bagaimana hal itu memberi tekanan pada laboratorium untuk memotong prosedur keselamatan,” ujar Jeremy Hadfield, manajer produk riset di Anthropic, dalam pernyataan yang dilampirkan pada petisi tersebut.

Bagi sebagian karyawan AI, insiden Hugging Face menjadi peringatan keras. Insiden tersebut menunjukkan bagaimana upaya OpenAI untuk mengurangi risiko teknologi AI tercanggihnya sudah mulai gagal. Memang, insiden terjadi saat OpenAI menguji model AI untuk kemampuannya menemukan celah perangkat lunak, dan perusahaan sengaja mematikan pengaman yang dirancang untuk mengekang kemampuan keamanan sibernya. OpenAI menyatakan dalam laporan pasca-insiden bahwa pengujian dilakukan di sandbox, namun model tersebut akhirnya mendapatkan akses ke internet terbuka.

Kekhawatiran Kekuasaan vs Keamanan

Kelompok lain di Silicon Valley lebih khawatir tentang kekuasaan daripada keamanan. Para pemodal ventura, eksekutif teknologi, dan pendiri startup khawatir bahwa OpenAI dan Anthropic akan menjadi generasi berikutnya dari Apple dan Google. Mereka khawatir perusahaan-perusahaan ini akan memaksa seluruh industri teknologi untuk mengikuti aturan mereka.

Agak aneh memang berargumen bahwa perusahaan rintisan swasta dengan sedikit atau tanpa keuntungan bertindak seperti monopoli. Namun, itulah cara pandang banyak orang—termasuk Mark Zuckerberg—terhadap dua laboratorium AI terbesar ini. CEO Meta itu menulis opini di Wall Street Journal pekan ini yang memperingatkan sentralisasi kekuasaan di industri AI, dengan mengatakan bahwa superintelligence harus didistribusikan secara luas.

Zuckerberg mungkin berbicara dengan dua sisi mulut. Meta baru-baru ini memutuskan untuk berhenti membuka sumber model AI terbaiknya dan malah menawarkannya melalui API berbayar dan layanan berlangganan, sama seperti yang dilakukan OpenAI dan Anthropic. CEO Meta itu mungkin mencoba mengirimkan pesan tertentu kepada regulator dan industri.

Membaca di antara baris, intinya adalah “kita perlu memastikan OpenAI dan Anthropic tidak lari dengan AI.” Zuckerberg bukanlah pemimpin teknologi pertama yang menyuarakan kekhawatiran itu. Namun, opini dan petisi ini mungkin tidak akan banyak menghentikan kebangkitan OpenAI dan Anthropic. Sebagian besar perekonomian mengandalkan dua raksasa AI tersebut untuk melakukan IPO yang sukses, dan tampaknya tidak ada yang tertarik untuk mengacaukannya.

Model Open Weight dan Robotika

Meskipun ada kekhawatiran, model open weight terus menunjukkan perkembangan yang mengesankan. Black Forest Labs, sebuah startup Jerman yang merilis generator gambar dan video AI open weight paling populer di dunia, mengumumkan pekan lalu bahwa mereka merilis model baru yang juga dapat menggerakkan robot. Startup ini bertujuan merilis versi open dari Flux 3 dalam beberapa pekan mendatang.

“Kami jelas melangkah dari laboratorium pembuatan gambar murni menjadi laboratorium AI multimodal frontier, yang bagi saya sangat penting,” kata CEO Black Forest Labs Robin Rombach dalam sebuah wawancara. “Kami menunjukkan intuisi yang selalu dimiliki tim riset kami, yaitu bahwa model-model ini sangat umum dan mengembangkan pemahaman yang solid tentang dunia nyata.”

Black Forest Labs adalah startup terbaru yang menerapkan model video AI-nya ke dunia fisik. Sebelumnya, OpenAI menghentikan produk pembuatan video AI Sora dan menggabungkan tim di belakangnya ke unit robotika rahasia perusahaan. Startup AI video lainnya, seperti Runway, juga telah melakukan dorongan ke dalam robotika dalam beberapa tahun terakhir.

Perusahaan-perusahaan ini bertaruh bahwa model video AI dapat mengembangkan pemahaman tentang fisika dunia nyata. Meskipun ini adalah aplikasi teknologi yang menarik, ini juga bisa menjadi cara bagi perusahaan untuk menghasilkan pendapatan dari model yang sangat mahal untuk dikembangkan.

Sebagian besar model dasar robot saat ini adalah model visi-bahasa-aksi—Gemini Robotics milik Google adalah yang paling terkenal—yang menggabungkan input video dengan instruksi tertulis dan mengeluarkan perintah motorik. Rombach mengatakan Flux 3 melewatkan lapisan bahasa sepenuhnya, menerjemahkan video langsung menjadi tindakan, pendekatan yang menurutnya lebih kuat.

Black Forest Labs bekerja sama dengan startup lain, Mimic, untuk membangun versi kustom Flux 3 yang menggerakkan robot pembuat mobil di pabrik Audi. Stephan Gravert, chief product officer Mimic, mengatakan timnya sedang menguji dan menerapkan model AI Flux-mimic dengan Audi. Timnya menemukan bahwa model ini sangat baik dalam menggerakkan tangan robot untuk memasang bagian fleksibel—seperti segel jendela dan kabel—ke mobil. Gravert mengatakan Mimic berencana untuk peluncuran penuh teknologi dengan Audi pada akhir tahun.

Rombach juga angkat bicara tentang debat open versus closed AI, terutama karena Black Forest Labs menandatangani surat terbuka Nvidia yang meminta pemerintah AS melindungi model open weight. “Larangan umum model open weight, menurut saya, akan menjadi bodoh,” kata Rombach. “Anda benar-benar akan menghadapi masalah seputar transparansi, keamanan, kedaulatan, dan kecepatan inovasi. Saya pikir itu akan menjadi keputusan yang sangat picik.”

Rombach memiliki alasan yang kuat untuk peduli tentang masalah ini. Para pendiri Black Forest Labs telah lama bertarung di atas kemampuan mereka, bersaing dengan raksasa AI Amerika seperti Meta, Google, dan OpenAI dengan sumber daya yang jauh lebih sedikit. Tapi mungkin tidak bisa melakukannya tanpa batas waktu: Rombach mengatakan startup menggunakan lebih banyak daya komputasi daripada sebelumnya untuk melatih Flux 3, dan sekarang memiliki lebih dari 100 karyawan. Black Forest Labs mengumpulkan dana $300 juta dengan valuasi $3,25 miliar tahun lalu, tetapi kemungkinan akan membutuhkan lebih banyak modal untuk terus bersaing.