Profesor Harvard Peringatkan AI Ciptakan Factory Farming Manusia

Telset.id – Seorang profesor sejarah dari Harvard, Jill Lepore, memperingatkan bahwa kecerdasan buatan (AI) dapat mendorong terciptanya “factory farming of humans” atau peternakan pabrik manusia. Peringatan ini disampaikan dalam episode terbaru podcast “Hard Fork” dari The New York Times, di mana ia menguraikan konsep “artificial state” yang mengancam otonomi manusia.

Menurut Lepore, dalam tatanan dunia yang sedang dibangun ini, pemerintahan tidak lagi dijalankan berdasarkan persetujuan rakyat, melainkan oleh mesin yang membuat keputusan. Mesin-mesin tersebut, tentu saja, dimiliki oleh korporasi. Meski kita belum sepenuhnya hidup dalam artificial state, Lepore menegaskan bahwa sistem ini sedang dibangun dan direalisasikan di sekitar kita.

Konsep ini bukan sekadar teori. Lepore menyebutnya sebagai fantasi yang dipegang oleh elite berpengaruh tertentu yang percaya bahwa kekuasaan mereka seharusnya melampaui pemerintahan yang sah dan para pemilih yang menentukan jalannya pemerintahan. “Retorika yang keluar dari momen historis tertentu ini benar-benar tentang kelenyapan demokrasi liberal modern, demokrasi konstitusional,” katanya dalam wawancara tersebut.

Para elite yang mendorong retorika ini tidak tertarik pada keinginan rakyat. “Karena sebenarnya, yang diinginkan orang bukanlah AI dan bukan pusat data. Jadi itulah krisisnya,” tambah Lepore.

Lepore mengeksplorasi gagasan ini secara mendalam dalam bukunya yang akan segera terbit berjudul “The Rise and Fall of the Artificial State”. Ia terinspirasi oleh sebuah pertanyaan sederhana: di dunia saat ini di mana kita dipaksa berbicara dengan AI untuk mendapatkan jawaban—mulai dari menelepon untuk bertanya tentang janji temu hingga berbicara dengan chatbot dukungan perusahaan—”siapa yang memutuskan ini adalah cara kita harus hidup?”

Konsep Artificial State dan Dampaknya

Artificial state merupakan bentuk kemunduran di mana semakin banyak fungsi negara digantikan oleh korporasi yang memiliki dan mengendalikan infrastruktur komunikasi digital kita. Cara kita mendapatkan berita dan informasi tentang pemilu serta calon pemimpin, semuanya dimediasi oleh kelompok-kelompok kuat ini—melalui teknologi seperti TV dan radio sebelumnya, dan kini media sosial menjadi medium yang semakin dominan.

Komunikasi digital yang menjadi struktur kehidupan kita memiliki efek isolasi yang kuat. Dalam tulisannya untuk The New Yorker pada 2024 yang menjadi cikal bakal bukunya, Lepore menggambarkan artificial state sebagai “factory farming kehidupan publik, penyortiran dan segmentasi, isolasi dan alienasi, penghancuran komunitas manusia.”

Artificial state tidak sepenuhnya didorong oleh AI, tetapi jelas dipercepat olehnya. Masyarakat kini bertanya kepada ChatGPT tentang siapa yang harus dipilih dalam pemilu, alih-alih berbicara dengan tetangga, pejabat lokal, atau para ahli. Pesan politik yang mereka lihat, kemungkinan besar sebagian ditulis dengan bantuan AI. Keputusan di setiap level dibuat dengan bantuan mesin berpikir. AI juga memperkuat pengawasan dengan memproses data dalam jumlah besar yang dikumpulkan dari semua orang.

Kritik terhadap Retorika AI Silicon Valley

Salah satu aspek buruk dari retorika pro-AI yang keluar dari Silicon Valley adalah cara mereka membingkai AI sebagai sesuatu yang tidak bisa dihindari. Lepore berpendapat bahwa fatalisme semacam ini adalah “premis palsu” yang bertumpu pada beberapa proposisi yang meragukan.

Salah satu argumen yang sering kita dengar adalah bahwa regulasi menghambat inovasi, sehingga pemerintah harus melepas rem dari pengembangan AI. Argumen lainnya adalah bahwa teknologi selalu memajukan demokrasi, yang meyakinkan kita bahwa semua ancaman nyata AI terhadap demokrasi saat ini akan terselesaikan dengan sendirinya di masa depan.

Lepore menegaskan bahwa kedua argumen tersebut tidak benar. Kita hanya perlu melihat bagaimana janji serupa dibuat untuk teknologi di masa lalu. “Jadi sekarang, orang-orang AI datang kembali dengan argumen yang sama yang dibuat tentang internet—komputer pribadi, internet, dan media sosial,” katanya dalam wawancara tersebut.

Peringatan Lepore ini hadir di tengah meningkatnya kekhawatiran tentang peran AI dalam kehidupan publik. Dari penggunaannya dalam kampanye politik hingga pengambilan keputusan di berbagai sektor, AI semakin mengakar dalam infrastruktur sosial. Para peneliti dari berbagai institusi, termasuk Harvard Business School, bahkan telah mulai mengadopsi teknologi ini dalam berbagai aplikasi praktis.

Kekhawatiran tentang hilangnya otonomi manusia ini bukan tanpa dasar. Lepore menunjukkan bahwa infrastruktur komunikasi digital yang kita gunakan sehari-hari justru menciptakan isolasi, bukan koneksi. Alih-alih membangun komunitas, teknologi ini justru memilah dan memisahkan manusia satu sama lain.

Pandangan Lepore juga menyoroti paradoks dalam pengembangan teknologi. Di satu sisi, inovasi seperti baterai solid-state yang dikembangkan peneliti Harvard menunjukkan potensi positif teknologi. Namun di sisi lain, penggunaan AI yang tidak terkendali dalam tata kelola publik mengancam fondasi demokrasi itu sendiri.

Yang lebih mengkhawatirkan, Lepore menekankan bahwa transisi menuju artificial state ini sedang berlangsung secara bertahap. Masyarakat mungkin tidak menyadari bahwa mereka sedang kehilangan kendali atas keputusan-keputusan penting yang mempengaruhi kehidupan mereka sehari-hari. Dari rekomendasi berita yang mereka baca hingga pesan politik yang mereka terima, semua dimediasi oleh algoritma yang dimiliki korporasi.

Krisis ini, menurut Lepore, terletak pada kesenjangan antara apa yang diinginkan elite teknologi dan apa yang diinginkan masyarakat umum. Sementara elite teknologi mendorong adopsi AI secara masif, masyarakat justru tidak menginginkan AI dan pusat data di lingkungan mereka. Ketegangan ini menjadi inti dari perdebatan tentang masa depan demokrasi di era kecerdasan buatan.

Peringatan dari profesor Harvard ini menjadi relevan mengingat semakin masifnya adopsi AI di berbagai sektor kehidupan. Tanpa regulasi yang tepat dan kesadaran publik yang memadai, artificial state yang digambarkan Lepore bukan lagi sekadar fiksi ilmiah, melainkan ancaman nyata yang sedang dibangun di sekitar kita.