Krisis Kepercayaan AI: Manfaat Nyata Masih Minim di Tengah Ekspansi Militer

Telset.id – Industri kecerdasan buatan (AI) menghadapi krisis kepercayaan publik yang serius karena janji-janji besar untuk memberikan manfaat bagi dunia belum juga terwujud. Pernyataan ini datang langsung dari CEO dan salah satu pendiri Anthropic, Dario Amodei, yang secara terbuka mengakui bahwa perusahaannya—dan perusahaan AI lain—gagal memenuhi janji besar mereka. Pengakuan jujur ini muncul di tengah kekhawatiran yang semakin meluas mengenai bagaimana teknologi AI justru digunakan secara masif oleh infrastruktur militer, penegakan hukum, dan intelijen Amerika Serikat (AS).

Dalam unggahannya di platform X, Amodei menyatakan bahwa kritik paling akurat terhadap perusahaan AI termasuk Anthropic adalah belum adanya pengiriman manfaat nyata bagi dunia. Ia berargumen bahwa teknologi ini sedang mengalami “krisis kepercayaan” yang berakar pada keyakinan masyarakat bahwa perusahaan dan pemerintah sedang “merancang cara baru untuk menipu mereka.” Pertanyaan yang kemudian muncul adalah apakah kekhawatiran publik tersebut tidak berdasar, mengingat sebagian besar infrastruktur militer, penegakan hukum, dan pengumpulan intelijen AS kini sangat bergantung pada sistem AI.

Krisis kepercayaan ini tidak muncul tanpa sebab. Ketika teknologi AI mulai berkembang pesat, sebagian besar manfaat yang dipromosikan justru diarahkan untuk meyakinkan para eksekutif dan jajaran C-suite bahwa teknologi yang belum terbukti ini layak menjadi investasi besar. Akibatnya, banyak pemimpin industri AI memposisikan teknologi ini sebagai cara untuk memangkas biaya tenaga kerja dengan menggantikan pekerja manusia. Beberapa pakar AI bahkan masih memperjuangkan argumen ini secara tertutup.

Sebuah peristiwa menarik terjadi dalam acara privat tahun ini, di mana seorang “guru” AI memprediksi bahwa superintelligence AI akan menghapus hingga 50% tenaga kerja global dalam 10 tahun ke depan. Perusahaan-perusahaan yang diposisikan paling siap memanfaatkan peristiwa dahsyat ini diprediksi akan meraih kendali dan kekayaan yang tak terbayangkan. Prediksi ini tentu saja disambut tepuk tangan oleh para manajemen puncak dari perusahaan yang menghadiri acara tersebut.

Menariknya, Amodei sendiri pernah menyatakan bahwa AI dapat melenyapkan 50% pekerjaan kerah putih. Namun, ia kemudian mengubah pesan tersebut dengan mengatakan bahwa AI adalah ‘pengganda output’—istilah korporat yang berarti ‘meningkatkan produktivitas tanpa harus menaikkan kompensasi.’ Perubahan narasi ini semakin mempertegas bahwa bukti nyata manfaat AI masih jauh dari kata memadai. Publik telah mendengar segala hal yang bisa dilakukan AI, tetapi hanya melihat sedikit manfaat dari apa yang sebenarnya bisa dilakukan teknologi ini.

Amodei mengakui bahwa jika sebuah iklan dipasang dengan klaim bahwa AI bisa menyembuhkan kanker, iklan tersebut akan dianggap sepenuhnya menyesatkan. “Hal yang akan berhasil adalah benar-benar menyembuhkan kanker,” ujarnya. Anthropic memang telah menggoda publik dengan komitmen moralnya, menyatakan bahwa perusahaan sedang “meningkatkan upayanya” untuk fokus menggunakan AI dalam bidang biologi dan kedokteran. Namun hingga saat ini, hasil nyata dari upaya tersebut belum juga terlihat.

Dalam unggahannya, Amodei juga menyentuh isu pemusatan kekuasaan AI, yang menggema sebagian pernyataan Mark Zuckerberg baru-baru ini tentang cara terbaik menggunakan AI untuk kepentingan semua orang. Argumen Amodei sedikit berbeda dari Zuckerberg, di mana ia menyatakan bahwa harus ada keseimbangan antara regulasi, pengawasan, pengujian, dan model open-weight. Ia juga mengaku setuju dengan gerakan “Pacing the Frontier” dalam beberapa aspek, dengan menyatakan bahwa penerapan kontrol pada laboratorium frontier akan “memodulasi” laju teknologi sambil memungkinkan industri lainnya untuk mengejar ketertinggalan.

Kelemahan yang jelas dari rencana ini adalah tidak ada negara lain yang akan tunduk pada regulasi semacam itu, yang berpotensi melemahkan hegemoni AS dalam industri AI—sesuatu yang sering ditegaskan oleh pemerintahan Trump tidak akan diizinkan terjadi. Pertanyaan yang kemudian mengemuka adalah apakah AI memberikan lebih banyak manfaat bagi infrastruktur otoriter daripada bagi masyarakat umum.

Di mana sistem AI telah diterapkan secara ekstensif adalah infrastruktur pengawasan. Hingga runtuhnya hubungannya dengan Pentagon, Anthropic bekerja sama dengan Departemen Pertahanan AS untuk pengadaan sistem AI. Anthropic menolak untuk bekerja sama dalam mengizinkan teknologinya digunakan untuk pengawasan massal dan senjata otonom penuh, dan akhirnya kehilangan kontrak tersebut. Beruntung bagi Departemen Pertahanan, OpenAI kemudian menjalin kesepakatan baru dengan Pentagon dan segera mengisi posisi yang ditinggalkan Anthropic dengan larangan teknologinya digunakan untuk memata-matai warga AS.

Namun, tidak semua perusahaan mematuhi standar etika yang sama. Flock menghadapi gerakan gerilya yang meluas yang menargetkan kamera bertenaga AI yang dirancang untuk melacak plat nomor kendaraan di seluruh AS. Sistem ini dimaksudkan untuk menandai mobil tersangka saat mereka melintasi batas wilayah dan garis otoritas, tetapi justru berhasil digunakan sebagai cara bagi aparat penegak hukum untuk menguntit mantan pasangan, memantau rekan kerja, dan melacak minat asmara mereka.

Sistem AI juga diterapkan dalam pemantauan lalu lintas dan kamera pengukur kecepatan. Hal ini mendapatkan banyak perhatian sebagai area abu-abu dalam kepolisian, terutama untuk sistem yang salah mengidentifikasi plat nomor atau salah dikonfigurasi. Untuk kasus pidana di AS, beban pembuktian berada pada pemerintah untuk membuktikan seseorang melakukan kejahatan. Namun, beberapa sistem tilang otonom yang telah mengeluarkan surat tilang kepada kendaraan yang salah justru dikritik karena mengharuskan mereka yang dituduh untuk membuktikan ketidakbersalahan mereka di pengadilan, membalikkan beban pembuktian untuk kasus pidana.

Dan kemudian ada gajah di dalam ruangan: teknologi AI Palantir yang diterapkan di seluruh militer dan penegakan hukum AS. Yang paling menonjol, teknologi ini telah digunakan oleh US Immigration and Customs Enforcement (ICE) untuk melacak mereka yang diduga imigrasi ilegal—tetapi teknologi Palantir juga digunakan dalam analisis citra drone, serangan presisi jarak jauh, dan analisis serta perencanaan data militer.

AI memang kabar baik jika Anda tidak memiliki apa pun untuk disembunyikan dan senang berada di sisi “Orang Baik”, tetapi itu adalah definisi yang terus berubah. Pertanyaan tentang siapa yang diuntungkan dan siapa yang dirugikan oleh teknologi ini masih menjadi perdebatan yang belum tuntas. Yang jelas, krisis kepercayaan yang diakui sendiri oleh CEO Anthropic ini tidak akan selesai hanya dengan retorika publikasi.

Amodei sendiri telah mengakui bahwa perusahaan AI belum memenuhi janji besar mereka. Ia menyebut bahwa “hal yang akan berhasil adalah benar-benar menyembuhkan kanker,” bukan sekadar beriklan tentang potensi AI. Pernyataan ini menegaskan bahwa publik membutuhkan bukti nyata, bukan sekadar janji. Sampai saat itu tiba, krisis kepercayaan terhadap AI kemungkinan akan terus berlanjut, terutama di tengah meluasnya penggunaan teknologi ini dalam infrastruktur militer dan pengawasan yang semakin mengkhawatirkan banyak pihak.

Perjalanan AI dari sekadar alat produktivitas menjadi kekuatan yang membentuk kebijakan keamanan nasional telah menimbulkan dilema etika yang kompleks. Di satu sisi, teknologi ini menawarkan efisiensi dan kemampuan analisis yang belum pernah ada sebelumnya. Di sisi lain, penerapannya dalam pengawasan massal dan operasi militer menimbulkan pertanyaan mendasar tentang privasi, hak sipil, dan akuntabilitas. Tanpa jawaban yang jelas atas pertanyaan-pertanyaan ini, dan tanpa bukti manfaat nyata bagi masyarakat luas, industri AI akan terus bergulat dengan krisis kepercayaan yang diakuinya sendiri.

Di tengah semua ketidakpastian ini, satu hal yang pasti: publik semakin skeptis terhadap narasi positif tentang AI yang terus digaungkan oleh para pemimpin industri. Mereka menuntut bukti, bukan sekadar janji. Dan sampai perusahaan-perusahaan AI dapat menunjukkan dampak positif yang nyata dan terukur bagi kehidupan masyarakat—bukan hanya untuk keuntungan korporasi atau kepentingan militer—krisis kepercayaan ini akan tetap menjadi bayangan yang menghantui industri yang sedang berkembang pesat ini.