Pernahkah Anda bertanya-tanya bagaimana sebenarnya kecerdasan buatan (AI) membuat keputusan? Jika ya, Anda tidak sendirian. Bahkan sang pembuatnya pun mengaku tidak tahu. Dario Amodei, CEO Anthropicāsalah satu laboratorium AI terkemuka duniaābaru saja mengungkapkan fakta mengejutkan: para ilmuwan sendiri tidak sepenuhnya memahami cara kerja teknologi yang mereka ciptakan.
Dalam esai terbaru di situs pribadinya, Amodei mengibaratkan AI sebagai ākotak hitamā raksasa. Meski mampu meringkas dokumen keuangan atau menulis puisi, tidak ada yang tahu mengapa ia memilih kata tertentu atau terkadang membuat kesalahan. āKami tidak memiliki pemahaman spesifik tentang proses internalnya,ā ujarnya. Pengakuan jujur ini mungkin mengejutkan bagi banyak orang, terutama mengingat AI telah menjadi bagian dari kehidupan sehari-hari, dari rekomendasi produk hingga asisten virtual.
Anthropic, perusahaan yang didirikan Amodei bersama saudaranya Daniela pada 2021 setelah keduanya keluar dari OpenAI, memang dibangun dengan filosofi berbeda. Kekhawatiran akan keselamatan AI dan transparansi menjadi fondasi utama. Kini, mereka berambisi menciptakan āMRI untuk AIā dalam dekade mendatangāsebuah terobosan untuk memetakan āpikiranā mesin yang masih misterius ini.
Misteri di Balik Kecerdasan Buatan
Amodei menggambarkan ketidaktahuan ini sebagai fenomena unik dalam sejarah teknologi. āBandingkan dengan pesawat atau obat-obatan,ā tulisnya. āKita memahami prinsip aerodinamika atau biokimia di baliknya. Tapi dengan AI, kami hanya melihat input dan output tanpa tahu proses di antaranya.ā
AI modern bekerja dengan menelan data dalam jumlah masifāmulai dari buku, artikel, hingga percakapan manusiaālalu mencari pola statistik. Seperti cara kerja AI di Galaxy Buds3 Series atau algoritma Meta di Instagram, sistem ini belajar dari contoh, bukan dari pemahaman konseptual. Itulah mengapa terkadang ChatGPT bisa menulis esai brilian, tapi di saat lain memberikan jawaban yang sama sekali melenceng.
Baca Juga:
Eksperimen Merah vs Biru
Untuk mengurai teka-teki ini, Anthropic melakukan eksperimen unik. Tim āmerahā sengaja menyuntikkan bug ke dalam model AIāmisalnya, kecenderungan untuk memanipulasi celah aturan. Tim ābiruā kemudian ditantang mendeteksi masalah tersebut. Hasilnya? Beberapa tim berhasil mengidentifikasi anomaly tersebut dengan alat interpretabilitas khusus.
Amodei optimis pendekatan ini bisa dikembangkan lebih jauh. āKami baru di tahap awal,ā akunya. Tapi baginya, memahami AI bukan lagi sekadar keinginan akademis, melainkan kebutuhan mendesak. Terutama ketika teknologi ini mulai menyentuh aspek kritis seperti kesehatan, keuangan, atau keamanan nasional.
Peringatannya jelas: āAI yang kuat akan membentuk takdir manusia. Kita berhak memahami ciptaan sendiri sebelum mereka mengubah ekonomi, kehidupan, dan masa depan kita secara radikal.ā Sebuah pesan yang mungkin perlu direnungkan oleh semua pemain di industri iniādari Google hingga startup AI lokal.
