📑 Daftar Isi

Ilustrasi data efficiency gap antara anak manusia dan model AI dalam belajar bahasa

Anak Manusia vs AI: Mengapa Machine Learning Butuh Data Raksasa?

Penulis:Nur Hamzah
Terbit:
Diperbarui:
⏱️5 menit membaca
Bagikan:
  • Anak manusia menguasai bahasa dengan 100 juta kata, sementara LLM seperti Llama 3.1 butuh 15 triliun token
  • Data efficiency gap menjadi tantangan utama riset AI modern
  • Proyek BabyLM melatih model dengan data skala anak-anak dan berhasil mengalahkan model besar pada benchmark tertentu
  • Proyek SAYCam dan BabyView merekam kehidupan anak untuk melatih model multimodal
  • Meta dan peneliti akademis mengembangkan benchmark untuk pelatihan model dari video kamera kepala bayi
  • Penutupan kesenjangan data dapat mendemokratisasi AI dan membantu bahasa minoritas
  • Model AI digunakan sebagai "organisme model" untuk memahami pembelajaran bahasa manusia

Telset.id – Selama lebih dari 100.000 tahun, hanya ada satu entitas di dunia yang mampu menguasai bahasa manusia dengan sempurna: anak manusia. Kini, ada yang kedua, yakni model bahasa besar (LLM) seperti ChatGPT. Namun, di balik kemampuan AI yang tampak fasih, terdapat kesenjangan besar yang disebut data efficiency gap, yaitu jurang perbedaan jumlah data yang dibutuhkan mesin untuk belajar bahasa dibandingkan dengan anak manusia.

Seorang anak manusia dapat menguasai bahasa ibunya hanya dengan mendengar sekitar 100 juta kata hingga usia remaja. Sementara itu, model AI modern seperti Meta’s Llama 3.1 harus dilatih dengan 15 triliun token—jumlah yang seratus ribu kali lebih banyak dari pengalaman manusia. Perbedaan ini menjadi tantangan sekaligus peluang bagi para peneliti untuk menciptakan model AI yang lebih efisien dan hemat data.

Mengapa Anak Manusia Lebih Efisien dari AI?

Michael C. Frank, seorang ilmuwan kognitif di Stanford University, menyebut kemajuan LLM luar biasa, tetapi masih membutuhkan sumber daya yang tidak masuk akal. “Kami harus membakar hutan dan mengeruk seluruh pengetahuan manusia untuk menciptakan kembali pencapaian yang terjadi di ruang keluarga kami selama setahun,” ujarnya. Anak-anak mulai menghasilkan kalimat yang benar secara gramatikal setelah mendengar sekitar 10 juta hingga 30 juta kata, sementara GPT-2 yang dilatih dengan 30 juta kata hanya menghasilkan omong kosong.

Perbedaan skala ini diibaratkan oleh Ethan Gotlieb Wilcox, ilmuwan kognitif di Georgetown University, bahwa Claude telah melihat jumlah bahasa yang dialami seluruh kota dalam satu generasi. Jika semua kata yang digunakan untuk melatih LLM dicetak di atas kertas, tumpukannya akan melewati Stasiun Luar Angkasa Internasional. Sementara itu, 100 juta kata yang didengar anak manusia hanya akan setinggi 20 meter.

Salah satu misteri terbesar adalah bagaimana bayi bisa belajar bahasa dengan begitu mudah. Noam Chomsky, ahli linguistik MIT, pada 1950-an mengusulkan bahwa bayi dilahirkan dengan pengetahuan tata bahasa bawaan. Ia berargumen bahwa bahasa terlalu kompleks untuk dipelajari hanya dari pengalaman. Namun, kemunculan LLM yang mampu belajar tata bahasa hanya dari statistik data besar menantang asumsi ini.

Alison Gopnik, psikolog perkembangan di University of California, Berkeley, mengaku terkesan bahwa model AI bisa belajar sintaksis. “Saya tidak berpikir itu akan terbukti benar, dan saya pikir kebanyakan orang tidak berpikir Anda bisa hanya melihat statistik dari sampel bahasa yang besar dan menemukan tata bahasa,” katanya.

a cradle with an LLM model hanging like a mobile over it

Proyek BabyLM dan Upaya Meniru Cara Anak Belajar

Alex Warstadt, ahli linguistik di University of California, San Diego, memprakarsai kompetisi tahunan bernama BabyLM pada 2022. Kompetisi ini menantang peneliti untuk melatih model bahasa dengan korpus yang “developmentally plausible” hanya 100 juta kata untuk trek balita, dan 10 juta kata untuk trek anak-anak. Data diambil dari buku cerita, dialog, subtitle film, dan transkrip ucapan yang ditujukan kepada anak-anak.

Hasil kompetisi ini cukup mengejutkan. Pemenang 2024, GPT-BERT, yang dilatih dengan sekitar 100 juta kata, mampu mengalahkan performa Meta’s Llama 2 70B—model yang dilatih dengan data 15.000 kali lebih banyak—pada salah satu tolok ukur BabyLM. Namun, model-model ini masih jauh dari kemampuan LLM komersial dan banyak yang bahkan tidak bisa menghasilkan teks sama sekali.

Meski demikian, BabyLM telah menantang beberapa asumsi, seperti efektivitas curriculum learning yang mengurutkan data dari sederhana ke kompleks. Aaron Mueller dari Boston University mengakui bahwa pendekatan ini tampaknya masuk akal secara intuitif, tetapi ternyata transformer tidak membutuhkan urutan data seperti itu untuk belajar secara efektif.

Upaya lain dilakukan oleh Michael Frank melalui proyek SAYCam yang merekam kehidupan tiga bayi menggunakan kamera kepala selama dua jam seminggu antara usia enam bulan hingga dua setengah tahun. Data video ini kemudian digunakan oleh Brenden Lake dari Princeton untuk melatih model yang mampu mengidentifikasi objek dan mengasosiasikannya dengan kata-kata tanpa bias bawaan tertentu.

Sementara itu, Uri Hasson dari Princeton menghabiskan lima tahun terakhir untuk merekam 1.000 hari pertama kehidupan 17 anak. Keluarga yang berpartisipasi memasang kamera dan mikrofon di setiap area rumah dan merekam 12 jam sehari hampir setiap hari. Data yang dihasilkan, dijelaskan dalam preprint terbaru, memiliki skala yang mustahil diproses tanpa alat AI baru untuk transkripsi dan analisis video.

a retro computer with the word hello in script on the screen sits in a child's high chair

Masa Depan AI yang Lebih Efisien

Meskipun pelatihan model dengan video terbukti sulit, Gopnik percaya bahwa kunci yang hilang adalah eksplorasi aktif. “Anak-anak terus bereksperimen,” katanya. Berbeda dengan model yang belajar secara pasif dan terisolasi, anak-anak secara aktif memilih data mereka sendiri dan mencari pengalaman yang memaksimalkan “empowerment” mereka.

Elizabeth Bonawitz dari Harvard menambahkan bahwa anak-anak tidak hanya bernalar tentang bukti yang diberikan, tetapi juga tentang guru, pengetahuan guru, dan mengapa guru menyampaikan informasi tertentu. Ini sangat berbeda dari cara model belajar yang pasif dan tanpa konteks sosial.

Menariknya, kompetisi BabyLM tahun lalu membuka kesempatan bagi model yang bisa belajar dengan berinteraksi dengan model lain. Namun, model sosial ini tidak mengungguli model standar. Meta tampaknya paling tertarik mengambil inspirasi dari anak-anak, terutama untuk melatih model dari video. Dua peneliti Meta terlibat dalam cabang multimodal BabyLM, dan para ilmuwan Meta bersama peneliti akademis termasuk Frank baru-baru ini mengumumkan benchmark untuk melatih model pada rekaman kamera kepala bayi.

David Samuel, peneliti machine learning di University of Oslo dan salah satu arsitek GPT-BERT, memiliki alasan pribadi untuk menutup data efficiency gap. Sebagai orang Ceko yang bekerja di Norwegia, ia menyadari bahwa bahasa minoritas seperti Sami mungkin hanya memiliki puluhan juta token yang tersedia—setara dengan paparan bahasa seorang balita. “Pertanyaannya adalah bagaimana kami bisa mengembangkan model bahasa yang sama mampunya dengan model Inggris untuk bahasa-bahasa kecil?” ujarnya.

Warstadt sendiri ingin menutup kesenjangan ini untuk mendemokratisasi AI agar universitas dan pihak lain tanpa sumber daya raksasa bisa melatih model yang baik dan tetap relevan dalam penelitian AI. Sementara itu, Mueller menunjuk pada benchmark NanoGPT Slowrun yang diluncurkan Q Labs pada Maret 2026 sebagai contoh meningkatnya minat pada data efficiency tanpa motivasi dari pembelajaran bahasa manusia.

Mungkin alasan paling menarik untuk menutup kesenjangan ini adalah membantu kita memahami diri sendiri. Bonawitz mengaku awalnya skeptis bahwa LLM bisa mengungkap sesuatu tentang kognisi, tetapi kini merevisi keyakinannya. Para peneliti menggunakan model bahasa sebagai “tikus laboratorium linguistik”—pengganti yang tidak sempurna tetapi informatif untuk pengguna bahasa manusia yang sebenarnya.

Futrell dari UC Irvine membandingkan situasi ini dengan mengajarkan bahasa kepada alien lalu membuka otaknya untuk melihat apa yang terjadi. Selama 100.000 tahun, manusia adalah satu-satunya entitas yang menggunakan bahasa. Sekarang ada entitas linguistik lain. “Akhirnya kami memiliki model; bukan dalam arti model bahasa, tetapi dalam arti organisme model,” kata Warstadt.

Ikuti Telset.id di Google NewsFollow

Komentar

Belum ada komentar.