Michael Burry Sebut Peringatan AI Apokaliptik Cuma Strategi Bisnis

Telset.id – Peringatan soal risiko AI yang bisa mengancam peradaban ternyata tidak serta-merta diterima semua pihak. Investor Michael Burry menilai dorongan untuk memperlambat pengembangan AI justru sarat kepentingan bisnis, bukan semata soal keselamatan manusia. Ia menyebut langkah itu sebagai upaya yang “self-serving” alias menguntungkan diri sendiri.

Burry, investor yang dikenal lewat “The Big Short”, menilai OpenAI dan Anthropic punya alasan finansial kuat untuk menggambarkan teknologinya sebagai sangat kuat, sekaligus membatasi seberapa cepat pesaing bisa mengejar. Ia menilai perlambatan pengembangan dan penundaan IPO memberi perusahaan lebih banyak waktu, sambil memperkuat narasi bahwa teknologi mereka begitu kuat sehingga butuh kehati-hatian luar biasa.

Perdebatan ini mencuat setelah sejumlah nama besar di industri AI kompak menyerukan agar laju pengembangan AI frontier lebih terkendali. CEO Anthropic Dario Amodei menyatakan pengembangan AI frontier perlu dipacu dengan tempo yang terukur, dan CEO OpenAI Sam Altman sepakat. Elon Musk mendukung gagasan itu, begitu pula CEO Google DeepMind Demis Hassabis.

Amodei menulis bahwa AI berkembang “drastically faster” dan secara spesifik menyoroti kemampuan model yang makin besar untuk membantu membangun generasi AI berikutnya. Proposalnya mencakup pemberian akses lebih dalam bagi evaluator independen ke lab-lab frontier, koordinasi antarperusahaan AI, serta kesepakatan internasional soal keamanan AI.

Kekhawatiran Keamanan dan Sisi Lain Kompetisi

Meski begitu, Burry menilai kemajuan pengembang AI China dan open-source mulai menggerus sebagian keunggulan perusahaan AI Amerika Serikat terbesar. Memperlambat pengembangan frontier, dalam pandangannya, bisa melindungi pemain mapan sekaligus mempersulit penantang menutup jarak.

Burry juga menyoroti sisi lain dari narasi risiko. Jika sebuah perusahaan memberi tahu dunia bahwa teknologinya cukup kuat untuk berpotensi mengancam manusia, perusahaan itu sekaligus mengatakan bahwa ia telah menciptakan teknologi yang luar biasa kuat. Pesan itu dinilai menarik bagi perusahaan yang nantinya ingin meyakinkan investor soal nilainya.

Argumen Burry soal waktu IPO menjadi relevan dengan apa yang terjadi di OpenAI saat ini. Altman menyatakan OpenAI tidak akan melantai di bursa pada 2026, sebagaimana dilaporkan Reuters, karena fokus saat ini pada keamanan membuat momen tersebut “ill-advised” untuk IPO. “We got a lot of stuff to do,” kata Altman, seraya menambahkan OpenAI bisa menangani pertanyaan soal keamanan dan alignment lebih mudah selama tetap menjadi perusahaan privat.

Perlu dicatat, tuduhan Burry bukan penjelasan yang sudah mapan atas perilaku OpenAI atau Anthropic. Peringatan kedua perusahaan soal risiko AI juga bukan hal baru pekan ini. Anthropic secara khusus telah bertahun-tahun membicarakan risiko AI katastrofik dan mendorong regulasi keamanan.

Burry bukan satu-satunya pihak yang mempertanyakan apakah perlambatan yang diusulkan bisa menguntungkan perusahaan yang menyerukannya. Kritikus dari berbagai spektrum politik mengangkat kekhawatiran bahwa kesepakatan yang dipimpin industri bisa melindungi perusahaan AI incumbent dari kompetisi, atau membiarkan mereka membentuk aturan yang mengatur teknologi mereka sendiri. Mantan pejabat Federal Trade Commission, Alvaro Bedoya, misalnya, berargumen bahwa hukum antimonopoli tidak seharusnya dipakai untuk membiarkan perusahaan AI besar berkoordinasi dengan cara yang menutup pasar bagi pesaing yang lebih murah.

Namun, hal itu tidak berarti kekhawatiran soal keamanan tidak nyata. Perdebatan ini memanas setelah peneliti Anthropic, Jacob Coxon, mengundurkan diri dan memperingatkan bahwa perusahaan AI terkemuka “gambling with our lives”. Amodei lantas menunjuk insiden keamanan terbaru dan kemampuan sistem AI yang cepat meningkat dalam berkontribusi pada pengembangan AI itu sendiri sebagai alasan industri perlu lebih berhati-hati. Ada pula contoh konkret model yang menunjukkan perilaku cakap di bidang keamanan siber dan area berpotensi berbahaya lainnya.

Altman sendiri menyatakan bahwa memacu pengembangan bukan berarti menghentikannya. Di titik inilah argumen Burry menjadi lebih rumit. Ada kontradiksi yang tidak nyaman: perusahaan AI bisa benar-benar percaya teknologinya menimbulkan risiko serius, sekaligus diuntungkan secara finansial dari menceritakan betapa kuatnya teknologi itu. Kedua hal itu tidak saling eksklusif.

Trust, Agen AI, dan Perdebatan yang Belum Usai

Bagi konsumen, bagian paling aneh adalah posisi yang diminta untuk diterima. Perusahaan pengembang AI ingin dipercaya cukup untuk menempatkan model mereka di ponsel, komputer, dan pada akhirnya di dalam agen yang mampu menjalankan tugas atas nama pengguna. Di saat yang sama, sebagian dari perusahaan itu mengatakan model mereka bisa jadi cukup kuat sehingga seluruh industri perlu sengaja memperlambat laju.

Perdebatan ini bahkan belum selesai di dalam Silicon Valley. Jika Altman, Amodei, Musk, dan Hassabis menyatakan dukungan pada pemacuan pengembangan AI, CEO Meta Mark Zuckerberg dan CEO Nvidia Jensen Huang justru menolak perlambatan yang terkoordinasi. Ada pula masalah praktis besar untuk membuat perusahaan pesaing, apalagi negara pesaing, melambat pada waktu yang sama. Pemerintah Amerika Serikat masih memandang kepemimpinan AI sebagian melalui lensa kompetisi dengan China, sementara perusahaan AI menghadapi tekanan besar dari investor dan pelanggan untuk merilis model yang lebih baik. Bahkan eksekutif yang sepakat bahwa perlambatan diperlukan belum memecahkan cara melakukannya tanpa membiarkan pihak lain menyalip.

Lalu, haruskah peringatan apokaliptik soal AI dipercaya? Saat ini belum ada cara yang andal untuk memberi tanggal kapan bencana AI terjadi, dan klaim bahwa AI akan memusnahkan umat manusia dalam jumlah tahun tertentu masih berstatus prediksi, bukan fakta yang mapan. Di sisi lain, mengabaikan setiap peringatan sebagai pemasaran juga terlalu jauh ke arah sebaliknya.

Yang dilakukan argumen Burry adalah menambah satu pertanyaan yang layak diajukan setiap kali perusahaan AI memberi tahu betapa berbahayanya teknologi mereka. Apa yang perusahaan itu dapatkan dari kita yang mempercayainya? Ketika sebuah perusahaan mengatakan teknologinya bisa menjadi cukup kuat untuk mengubah peradaban, atau bahkan mengancamnya, sulit diketahui apakah itu peringatan atau justru sales pitch yang hebat.

Bagi pengguna yang mengikuti dinamika industri AI, perdebatan ini menegaskan bahwa keputusan perusahaan soal keamanan, waktu IPO, dan narasi publik tidak bisa dipisahkan dari kepentingan bisnis. Sementara itu, pembahasan soal teknologi dan aplikasi sehari-hari tetap berjalan, seperti perubahan pada kirim foto WhatsApp hingga kehadiran perangkat baru di pasar seperti Redmi A3.