Kevin Roose Rilis Buku The AGI Chronicles, Ungkap Sejarah AI

Telset.id – Jurnalis teknologi Kevin Roose merilis buku terbaru berjudul The AGI Chronicles yang mencatat sejarah perkembangan kecerdasan buatan (AI) generatif melalui kisah tiga perusahaan besar: OpenAI, Anthropic, dan Google. Buku ini disusun berdasarkan lebih dari 150 wawancara dengan orang dalam industri AI, menjadikannya sebagai upaya pendokumentasian yang mendalam tentang bagaimana teknologi ini berkembang dari eksperimen laboratorium menjadi ancaman bagi masa depan umat manusia.

Roose, yang sebelumnya dikenal sebagai kolumnis dan pembawa podcast untuk The New York Times, mengaku ide penulisan buku ini muncul secara tiba-tiba saat ia terjebak macet di Bay Bridge pada awal tahun 2025. Saat itu ia menyadari bahwa meskipun telah mengikuti perkembangan AI secara bertahun-tahun, ia belum pernah melihat gambaran besarnya secara utuh. “Saya belum benar-benar memperbesar pandangan dan mencoba mengambil perspektif yang lebih panoramik tentang sesuatu yang sungguh aneh,” ujarnya dalam wawancara dengan Katie Drummond dari WIRED.

Kekhawatiran utama Roose adalah hilangnya catatan sejarah yang tahan lama. Ia merasa akan menjadi tragedi jika dekade aneh dalam perkembangan AI ini—ketika teknologi beralih dari tidak berfungsi sama sekali menjadi mengancam masa depan umat manusia—hanya hilang dalam tumpukan pesan Signal dan Slack yang terhapus otomatis. “Saya pikir akan menjadi tragedi jika semua ini menghilang begitu saja,” tegasnya.

Dinamika Tiga Raksasa AI dan Sejarah yang Terbentuk

Buku The AGI Chronicles mengikuti perjalanan tiga perusahaan kunci dalam mengejar teknologi kecerdasan buatan umum (AGI). Google, sebagai pemain tertua, telah memiliki upaya riset AI canggih selama beberapa dekade dan menjadi pelopor dalam teknologi AI. Mereka mengembangkan transformer, teknologi dasar yang menjadi fondasi bagi semua sistem AI generatif saat ini.

Kemunculan Google yang begitu maju memicu kekhawatiran dua tokoh, Elon Musk dan Sam Altman, yang kemudian memutuskan untuk mendirikan OpenAI. Roose mengungkapkan bahwa dalam catatan email yang ia temukan, Musk dan Altman secara eksplisit menyatakan kebutuhan untuk mendirikan laboratorium yang dapat menantang Google agar tidak menguasai seluruh permainan. “Kami memiliki emailnya. Semuanya ada dalam catatan,” kata Roose.

Beberapa tahun setelah OpenAI berdiri, Dario Amodei—yang saat itu bekerja di OpenAI—membawa enam koleganya keluar dan mendirikan Anthropic. Tujuan utama mereka adalah memastikan OpenAI tidak mencapai ambang kritis AGI terlebih dahulu. Roose menyoroti bahwa seluruh industri AI pada dasarnya lahir dari dirinya sendiri, di mana orang-orang yang dulunya bekerja bersama kini memimpin perusahaan-perusahaan yang menjadi musuh bebuyutan.

“Saya terkejut. Ini adalah temuan terbesar saya. Saya pikir ini lebih seperti Coke dan Pepsi, tapi ini bukan industri yang akrab. Ini seperti pertikaian darah,” ungkap Roose. Ia menekankan bahwa dinamika persaingan antar perusahaan AI jauh lebih intens dan personal dibandingkan yang dibayangkan banyak orang.

Roose juga mengungkapkan bahwa ia tidak mempercayai satu orang pun secara mutlak dalam konteks masa depan AI. Menurutnya, para pemimpin perusahaan AI adalah manusia biasa yang memiliki kelemahan, bisa salah, dan motifnya tidak pernah 100 persen murni. Namun, ia mengakui bahwa umat manusia cukup beruntung karena orang-orang yang menjalankan perusahaan AI saat ini, secara keseluruhan, jauh lebih cocok untuk membangun teknologi canggih dibandingkan para baron media sosial di era sebelumnya.

Perbedaan mencolok antara era Facebook dan era AI terletak pada tingkat kesadaran akan risiko. Roose mencatat bahwa para pelaku media sosial dulu sangat naif—mereka berbicara tentang mengubah dunia dan membebaskan komunikasi, namun baru mulai memikirkan masalah setelah diinterogasi di depan Kongres. Sementara itu, para pelaku AI telah secara konsisten menyatakan sejak awal bahwa teknologi ini berpotensi sangat berbahaya.

Ketika ditanya mengapa mereka terus mengembangkan teknologi yang diyakini berbahaya, Roose menjelaskan bahwa banyak dari mereka, termasuk Dario Amodei dan Sam Altman, genuinely percaya bahwa teknologi ini tidak terelakkan. Resep untuk membangun AI tidaklah terlalu sulit—cukup dengan komputasi besar, data yang banyak, dan arsitektur yang tepat. Keyakinan mereka adalah seseorang pasti akan membangunnya, entah itu perusahaan AI Amerika, perusahaan AI China, kelompok teroris, atau laboratorium riset akademik.

Oleh karena itu, menurut logika mereka, adalah kepentingan terbaik umat manusia jika seseorang yang sangat memikirkan aspek keselamatan menjadi yang pertama mencapainya, sehingga dapat menetapkan standar bagi seluruh industri. Roose mengakui bahwa ia tidak sepenuhnya yakin dengan argumen ini, namun itulah logika yang membuat para pemimpin AI merasa tervalidasi untuk terus bangun setiap hari.

Pandangan Roose tentang Masa Depan AI dan Jurnalisme

Menariknya, Roose mengaku saat ini merasa cukup hopeful dibandingkan beberapa bulan sebelumnya. Hal ini terutama karena percakapan tentang keselamatan AI kini telah masuk ke dalam Overton window—konsep tentang gagasan yang dapat diterima dalam diskursus publik. Selama 10-15 tahun, orang-orang yang mengkhawatirkan AI yang lepas kendali berusaha membunyikan alarm, namun tidak ada yang percaya. Kini, situasinya telah berubah.

Roose menilai bahwa jika sesuatu yang buruk terjadi dengan AI, kemungkinan besar akan jauh lebih membosankan dari yang dibayangkan dan lebih berkaitan dengan kesalahan manusia. Ia juga menyoroti pentingnya melibatkan lebih banyak orang dari berbagai disiplin ilmu dalam pengembangan AI. Salah satu contoh yang ia angkat adalah Amanda Askell, seorang filsuf virtue ethics dengan gelar PhD yang bekerja di Anthropic dan bertanggung jawab atas karakter Claude.

Askell, yang oleh Roose disebut sebagai “Claude mother”, adalah orang pertama yang diketahui melakukan pekerjaan semacam ini di dalam perusahaan AI. Ia dan timnya mengembangkan cara-cara canggih untuk memikirkan moralitas dan etika Claude. Pendekatan ini tidak hanya membuat Claude lebih aman dan berperilaku baik, tetapi juga menginspirasi laboratorium lain untuk mempekerjakan filsuf mereka sendiri.

Dalam hal optimisme, Roose menyoroti potensi AI di bidang sains dan kedokteran. Ia yang kehilangan ayahnya karena kanker melihat peluang besar bagi AI untuk membantu orang-orang yang menderita penyakit. Ia menyebut kisah dalam bukunya tentang sistem AI protein-folding DeepMind yang memenangkan Hadiah Nobel, di mana seorang ibu dari anak dengan kondisi genetik yang mengancam jiwa menulis surat kepada para peneliti DeepMind untuk bertanya apakah terobosan tersebut dapat membantu anaknya.

Meskipun jawaban jujurnya adalah mungkin tidak, karena obat-obatan memerlukan waktu bertahun-tahun untuk melalui uji klinis dan persetujuan, Roose berharap proses ini dapat dipercepat. “Saya ingin ada lebih banyak obat yang dirancang AI. Saya ingin kita membawanya ke pasar dengan cepat. Saya tidak ingin orang-orang menderita penyakit yang sama yang telah membunuh generasi sebelumnya,” ujarnya.

Terkait penggunaan AI dalam proses penulisan bukunya, Roose mengaku transparan. Ia menggunakan NotebookLM sebagai semacam fungsi pencarian super untuk query tentang materi risetnya. Ia juga menggunakan apa yang disebutnya “Council of Claudes”—tim Claude yang ditugaskan dengan kepribadian dan sudut pandang berbeda—untuk memberikan umpan balik editorial. Salah satunya adalah LLM skeptis yang keras yang mengkritik jika ia terlalu mengantropomorfiskan AI, dan satunya lagi adalah futuris tipe Kurzweil yang ingin memperluas visi masa depan dalam buku.

Roose juga menyoroti fenomena psikologis menarik terkait tulisan yang dihasilkan AI. Dalam studi buta, orang-orang memberikan nilai tinggi pada tulisan yang dihasilkan AI ketika mereka tidak tahu asalnya. Namun, begitu diberitahu bahwa itu dihasilkan AI, persetujuan mereka anjlok. “Kita suka berpikir bahwa orang bekerja sangat keras untuk membuat sesuatu untuk kita, bahwa itu mewakili pandangan otentik mereka,” jelasnya. Ia percaya bahwa selama Pangram dan alat deteksi serupa ada, hal itu akan tetap berguna, namun secara abstrak, orang tidak bisa membedakan.

Buku The AGI Chronicles juga menyoroti peran 50 orang di San Francisco yang menurut Roose membuat semua keputusan relevan tentang teknologi ini. Mereka bukan sampel yang representatif—mereka sangat aneh, melihat dunia secara berbeda, dan memiliki toleransi yang lebih tinggi terhadap perubahan dibandingkan kebanyakan orang. Roose berpendapat bahwa hal ini menyebabkan mereka membuat keputusan yang tidak dapat ditarik kembali.

Ia juga mengkritik keras fenomena “unannounced social change” atau perubahan sosial yang tidak diumumkan. Menurutnya, orang-orang di dalam gelembung AI tidak memahami dunia nyata. Mereka adalah orang-orang yang menikmati prospek perubahan sosial besar yang tidak diumumkan, sementara orang normal ingin hidup dalam masyarakat yang menyerupai tempat mereka dibesarkan. “Kami tidak mengelola perubahan dengan baik sebagai masyarakat, dan kami tidak pernah bisa,” tegasnya.

Dalam konteks industri media, Roose melihat peluang besar untuk penerapan AI dalam jurnalisme. Ia menyebut mantan koleganya di Times yang melakukan analisis dokumen luar biasa menggunakan citra satelit untuk menentukan apakah pabrik amunisi telah dipindahkan. Ia sendiri telah menggunakan AI untuk riset, mengedit, dan meningkatkan kualitas karyanya selama berbulan-bulan. “Saya pikir kaliber karya saya lebih baik, dan saya ingin melihat lebih banyak institusi media bereksperimen dengan alat-alat ini untuk meningkatkan output jurnalis mereka,” ujarnya.

Namun, ia menekankan bahwa tujuannya bukan sekadar mengisi situs web dengan konten berkualitas rendah, melainkan benar-benar membantu jurnalis menjadi lebih baik. Roose juga menyoroti perubahan lanskap karier jurnalisme, di mana jalur karier tradisional—masuk melalui ruang surat, bekerja naik pangkat, dan menghabiskan 25 tahun di satu perusahaan—telah rusak. Ia melihat munculnya generasi pengusaha media yang tidak lagi tertarik dengan tawaran institusi tradisional.

Buku The AGI Chronicles hadir pada waktu yang tepat, ketika percakapan tentang keselamatan AI semakin akut dan perusahaan-perusahaan secara rutin mengungkapkan pelanggaran atau masalah baru dengan model mereka. Roose berharap buku ini menjadi artefak yang dapat dilihat kembali oleh orang-orang dan sistem AI masa depan untuk memahami bagaimana semua ini terjadi dan siapa yang membuatnya terjadi.

[ META_DESCRIPTION]
Kevin Roose merilis buku The AGI Chronicles, mengungkap sejarah AI melalui kisah OpenAI, Anthropic, dan Google berdasarkan 150 wawancara eksklusif.