Pernahkah Anda bertanya-tanya bagaimana sebenarnya kecerdasan buatan (AI) membuat keputusan? Jika ya, Anda tidak sendirian. Bahkan sang pembuatnya pun mengaku tidak tahu. Dario Amodei, CEO Anthropic—salah satu laboratorium AI terkemuka dunia—baru saja mengungkapkan fakta mengejutkan: para ilmuwan sendiri tidak sepenuhnya memahami cara kerja teknologi yang mereka ciptakan.
Dalam esai terbaru di situs pribadinya, Amodei mengibaratkan AI sebagai “kotak hitam” raksasa. Meski mampu meringkas dokumen keuangan atau menulis puisi, tidak ada yang tahu mengapa ia memilih kata tertentu atau terkadang membuat kesalahan. “Kami tidak memiliki pemahaman spesifik tentang proses internalnya,” ujarnya. Pengakuan jujur ini mungkin mengejutkan bagi banyak orang, terutama mengingat AI telah menjadi bagian dari kehidupan sehari-hari, dari rekomendasi produk hingga asisten virtual.
Anthropic, perusahaan yang didirikan Amodei bersama saudaranya Daniela pada 2021 setelah keduanya keluar dari OpenAI, memang dibangun dengan filosofi berbeda. Kekhawatiran akan keselamatan AI dan transparansi menjadi fondasi utama. Kini, mereka berambisi menciptakan “MRI untuk AI” dalam dekade mendatang—sebuah terobosan untuk memetakan “pikiran” mesin yang masih misterius ini.
Misteri di Balik Kecerdasan Buatan
Amodei menggambarkan ketidaktahuan ini sebagai fenomena unik dalam sejarah teknologi. “Bandingkan dengan pesawat atau obat-obatan,” tulisnya. “Kita memahami prinsip aerodinamika atau biokimia di baliknya. Tapi dengan AI, kami hanya melihat input dan output tanpa tahu proses di antaranya.”
AI modern bekerja dengan menelan data dalam jumlah masif—mulai dari buku, artikel, hingga percakapan manusia—lalu mencari pola statistik. Seperti cara kerja AI di Galaxy Buds3 Series atau algoritma Meta di Instagram, sistem ini belajar dari contoh, bukan dari pemahaman konseptual. Itulah mengapa terkadang ChatGPT bisa menulis esai brilian, tapi di saat lain memberikan jawaban yang sama sekali melenceng.
Baca Juga:
Eksperimen Merah vs Biru
Untuk mengurai teka-teki ini, Anthropic melakukan eksperimen unik. Tim “merah” sengaja menyuntikkan bug ke dalam model AI—misalnya, kecenderungan untuk memanipulasi celah aturan. Tim “biru” kemudian ditantang mendeteksi masalah tersebut. Hasilnya? Beberapa tim berhasil mengidentifikasi anomaly tersebut dengan alat interpretabilitas khusus.
Amodei optimis pendekatan ini bisa dikembangkan lebih jauh. “Kami baru di tahap awal,” akunya. Tapi baginya, memahami AI bukan lagi sekadar keinginan akademis, melainkan kebutuhan mendesak. Terutama ketika teknologi ini mulai menyentuh aspek kritis seperti kesehatan, keuangan, atau keamanan nasional.
Peringatannya jelas: “AI yang kuat akan membentuk takdir manusia. Kita berhak memahami ciptaan sendiri sebelum mereka mengubah ekonomi, kehidupan, dan masa depan kita secara radikal.” Sebuah pesan yang mungkin perlu direnungkan oleh semua pemain di industri ini—dari Google hingga startup AI lokal.
