Telset.id – CEO dan salah satu pendiri Anthropic, Dario Amodei, secara terbuka mengakui bahwa perusahaan AI termasuk Anthropic belum memberikan manfaat besar yang selama ini dijanjikan kepada dunia. Pernyataan ini muncul di tengah meningkatnya krisis kepercayaan publik terhadap teknologi AI, terutama karena banyaknya infrastruktur militer, penegakan hukum, dan intelijen AS yang kini bergantung pada sistem AI.
Dalam unggahannya di X, Amodei menyampaikan bahwa kritik paling akurat terhadap perusahaan AI adalah kegagalan mereka memenuhi janji besar untuk memberi manfaat bagi dunia. Ia berpendapat bahwa teknologi ini sedang mengalami “krisis kepercayaan” yang berakar dari keyakinan masyarakat bahwa perusahaan dan pemerintah sedang “menyiapkan cara baru untuk menipu mereka.”
Kekhawatiran tersebut tidak sepenuhnya tanpa dasar. Penggunaan AI dalam pengawasan massal, sistem tilang otomatis yang kontroversial, hingga teknologi militer canggih telah memicu perdebatan sengit tentang siapa sebenarnya yang diuntungkan dari perkembangan AI.
Janji Besar vs Realita di Lapangan
Ketika teknologi AI mulai populer, banyak perusahaan memposisikannya sebagai solusi untuk mengurangi biaya tenaga kerja dengan menggantikan pekerja manusia. Beberapa pemimpin AI bahkan masih memperdebatkan argumen ini di forum-forum tertutup. Dalam sebuah acara privat tahun ini, seorang “guru” AI memprediksi bahwa kecerdasan buatan super akan menghapus hingga 50% tenaga kerja global dalam 10 tahun, dan perusahaan yang siap mengambil keuntungan dari peristiwa besar ini akan meraih kendali dan kekayaan yang tak terbayangkan.
Amodei sendiri pernah terkenal karena pernyataannya bahwa AI bisa menghilangkan 50% pekerjaan kerah putih. Namun, ia kemudian mengubah pesan tersebut dengan mengatakan bahwa AI adalah “pengganda output” – atau istilah korporat untuk “meningkatkan produktivitas tanpa harus menaikkan kompensasi.”
Amodei mengakui bahwa bukti nyata manfaat AI masih sulit ditemukan. Ia mencontohkan bahwa jika ada iklan yang mengatakan AI bisa menyembuhkan kanker, iklan tersebut akan dianggap sepenuhnya menyesatkan. “Hal yang akan berhasil adalah benar-benar menyembuhkan kanker,” ujarnya. Anthropic memang mengklaim sedang “meningkatkan upayanya” untuk fokus menggunakan AI dalam bidang biologi dan kedokteran, namun hasilnya belum terlihat.
AI dan Konsentrasi Kekuasaan
Unggahan Amodei juga menyentuh isu sentralisasi kekuasaan AI, yang mirip dengan pernyataan Mark Zuckerberg tentang cara terbaik menggunakan AI untuk kepentingan semua orang. Namun, argumen Amodei sedikit berbeda, ia menekankan perlunya keseimbangan antara regulasi, pengawasan, pengujian, dan model open-weight.
Dalam beberapa aspek, Amodei setuju dengan gerakan “Pacing the Frontier” yang mengusulkan penerapan kontrol pada laboratorium frontier untuk memperlambat laju teknologi sekaligus memberi kesempatan industri lain mengejar ketertinggalan. Kelemahan jelas dari rencana ini adalah tidak ada negara lain yang tunduk pada regulasi tersebut, yang berpotensi menghambat hegemoni AS dalam industri AI – sesuatu yang sering ditegaskan pemerintahan Trump tidak akan diizinkan terjadi.
Menariknya, perkembangan ini terjadi di tengah berbagai dinamika industri yang melibatkan Anthropic. Perusahaan baru-baru ini dikabarkan menyewa komputasi AI senilai $45 miliar dari Nscale, menunjukkan ambisi besar mereka dalam infrastruktur. Di sisi lain, pengeluaran model AI flagship Anthropic dikabarkan stagnan, yang bisa berdampak pada daya saing mereka di pasar.
Baca Juga:
AI untuk Infrastruktur Otoriter?
Pertanyaan besar yang muncul adalah apakah AI memberikan lebih banyak manfaat bagi infrastruktur otoriter daripada bagi masyarakat umum. Sistem AI telah banyak diterapkan dalam infrastruktur pengawasan. Hingga hubungannya dengan Pentagon memburuk, Anthropic bekerja sama dengan Departemen Pertahanan untuk pengadaan sistem AI.
Anthropic menolak bekerja sama dalam penggunaan teknologinya untuk pengawasan massal dan senjata otonom penuh, dan akhirnya kehilangan kontrak tersebut. OpenAI kemudian menandatangani kesepakatan baru dengan Pentagon dan langsung mengisi posisi yang ditinggalkan Anthropic, dengan larangan penggunaan teknologinya untuk memata-matai warga Amerika.
Namun, tidak semua perusahaan mematuhi standar etika yang sama. Flock menghadapi gerakan gerilya yang meluas menargetkan kamera bertenaga AI yang dirancang untuk melacak plat nomor kendaraan di seluruh AS. Sistem ini dimaksudkan untuk menandai mobil tersangka saat melintasi batas wilayah, tetapi justru berhasil digunakan oleh aparat penegak hukum untuk menguntit mantan pasangan, memantau rekan kerja, dan melacak minat cinta mereka.
Sistem AI juga digunakan dalam pemantauan lalu lintas dan kamera tilang kecepatan. Area ini mendapat banyak perhatian sebagai wilayah abu-abu dalam kepolisian, terutama untuk sistem yang salah mengidentifikasi plat nomor atau salah dikonfigurasi. Beberapa sistem tilang otonom yang mengeluarkan surat tilang ke kendaraan yang salah telah dikritik karena mewajibkan pihak yang dituduh membuktikan ketidakbersalahan mereka di pengadilan, membalikkan beban pembuktian untuk kasus pidana.
Dan yang tidak kalah penting, teknologi AI Palantir diterapkan di seluruh militer dan penegakan hukum AS. Yang paling terkenal, teknologi ini digunakan oleh Badan Imigrasi dan Bea Cukai AS (ICE) untuk melacak mereka yang diduga imigrasi ilegal – tetapi teknologi Palantir juga digunakan dalam analisis citra drone, serangan presisi jarak jauh, dan analisis serta perencanaan data militer.
Kondisi ini menimbulkan pertanyaan mendasar tentang arah pengembangan AI. Sementara perusahaan seperti Anthropic mengklaim ingin memberi manfaat bagi dunia, realitas di lapangan menunjukkan bahwa teknologi AI justru lebih banyak digunakan untuk pengawasan dan kontrol. Amodei mungkin benar bahwa “hal yang akan berhasil adalah benar-benar menyembuhkan kanker,” tetapi selama implementasi AI di dunia nyata masih didominasi oleh kepentingan militer dan penegakan hukum, krisis kepercayaan ini kemungkinan akan terus berlanjut.
Bagi industri AI di Indonesia, perkembangan ini menjadi pelajaran penting tentang pentingnya keseimbangan antara inovasi dan tanggung jawab etis. Vonis $1,5 miliar untuk Anthropic yang tidak mengubah status legal AI training juga menunjukkan bahwa regulasi AI masih menjadi medan pertempuran yang kompleks.
Terlepas dari berbagai kontroversi tersebut, satu hal yang jelas: industri AI harus segera membuktikan bahwa teknologi ini benar-benar bermanfaat bagi masyarakat luas, bukan hanya untuk kepentingan segelintir perusahaan dan institusi pemerintah. Jika tidak, krisis kepercayaan yang saat ini terjadi hanya akan semakin dalam.
Komentar
Belum ada komentar.