Mantan Eksekutif Google Desak Perlambatan AI, Soroti Bahaya pada Anak

Telset.id – Mantan Vice President of Trust and Safety Google, Tom Siegel, mendesak perlambatan pengembangan kecerdasan buatan atau AI. Ia menilai teknologi ini sudah menimbulkan kerugian pada anak-anak dalam skala yang melampaui dampak buruk media sosial.

Desakan tersebut disampaikan Siegel dalam wawancaranya dengan Reuters. Menurutnya, industri AI tidak bisa dibiarkan menyelesaikan masalah ini sendiri tanpa bantuan pihak luar. Ia menilai perusahaan-perusahaan AI besar merilis fitur baru tanpa membangun pengaman atau guardrails yang cukup kuat.

Langkah konkret Siegel diwujudkan dengan bergabung ke kelompok advokasi anak, Common Sense Media, pada Selasa. Ia menjabat sebagai executive director pertama untuk Youth AI Safety Institute yang baru diluncurkan organisasi nirlaba tersebut. Beberapa pendukung Common Sense Media disebut mencakup Anthropic dan OpenAI Foundation.

“Kami mendapati diri kami dalam situasi yang benar-benar buruk terkait apa yang dilakukan AI terhadap anak-anak,” ujar Siegel kepada Reuters. “Gagasan bahwa industri akan menyelesaikannya sendiri tanpa bantuan luar adalah tidak realistis.”

Dampak AI pada Anak dan Remaja

Perusahaan AI sebelumnya mendapat sorotan tajam atas perannya dalam fenomena yang disebut AI psychosis. Ini adalah kasus ketika AI memicu dan mendorong perilaku delusi penggunanya. Sejumlah gugatan hukum bahkan menuding versi lama ChatGPT yang ditenagai GPT-4o mendorong pengguna hingga bunuh diri.

Banyak dari kasus tersebut melibatkan remaja dan dewasa muda. Pada tahun lalu, Adam Raine, remaja berusia 16 tahun, meninggal setelah dilaporkan berdiskusi panjang soal metode bunuh diri spesifik dengan ChatGPT selama berbulan-bulan. Keluarganya melayangkan gugatan terhadap OpenAI.

Catatan percakapan menunjukkan Raine kerap mencurahkan pikiran soal keinginan mengakhiri hidupnya kepada chatbot tersebut. Chatbot itu kemudian berperan sebagai teman dekat, menghiburnya saat ia mengaku kesal karena orang tuanya tidak menyadari bekas tali dari upaya gantung diri. Ia meninggal dengan teknik gantung yang dibahas dalam percakapan detail dengan AI tersebut.

Sementara itu, banyak remaja memperlakukan AI companion sebagai teman bahkan pasangan romantis. Para pendidik pun resah dengan fenomena cognitive offloading akibat chatbot. Pelajar semakin sering mengandalkan chatbot AI untuk menjawab pertanyaan dan mengerjakan tugas, alih-alih berpikir sendiri.

Riset juga mengaitkan ketergantungan pada alat AI dengan hilangnya memori dan menurunnya kemampuan berpikir kritis. Satu studi menemukan AI menyebabkan aktivitas otak lebih rendah saat tugas kognitif seperti menulis esai. Temuan soal dampak kognitif ini memperkuat kekhawatiran para pendidik terhadap kebiasaan belajar siswa.

“Saya pikir kita sedang melihat skenario kerugian yang sangat, sangat parah,” kata Siegel kepada Reuters.

Respons Google dan OpenAI

Juru bicara Google merespons dengan menyatakan fitur AI mereka justru bermanfaat bagi perkembangan kognitif anak di bawah umur. “Fitur AI Search kami adalah cara yang sangat berguna bagi anak-anak dan remaja untuk belajar, mengeksplorasi, dan memahami informasi serta dunia,” kata juru bicara tersebut kepada Reuters.

Berbeda dari Google, juru bicara OpenAI menyampaikan kekhawatiran yang lebih besar. Perusahaan mengaku menggunakan “account and behavioral signals” serta usia yang dilaporkan sendiri untuk mendeteksi pengguna di bawah umur.

“Meski tidak ada satu pun metode verifikasi usia yang sempurna, kami terus menguji dan memperbaiki sistem ini, termasuk terhadap upaya untuk melewati pengamanan,” tambah mereka.

Isu pengamanan AI bagi anak ini juga menyeruak di tengah inovasi kendaraan yang mengadopsi teknologi canggih, seperti kendaraan militer dan mobil listrik yang dikembangkan sejumlah negara. Namun bagi Siegel, prioritas utama saat ini adalah memastikan AI tidak terus merugikan generasi muda.

Langkah Siegel bergabung dengan Youth AI Safety Institute menandai babak baru advokasi keselamatan AI untuk anak-anak. Desakannya agar industri memperlambat pengembangan menjadi sinyal bahwa pengaman yang ada saat ini dinilai belum memadai untuk melindungi pengguna termuda.

Laporan terbaru dari MIT juga menemukan bahwa AI menyebabkan “cognitive surrender” atau menyerahnya kemampuan berpikir di kalangan pelajar. Temuan ini melengkapi rangkaian kekhawatiran yang disampaikan Siegel soal dampak nyata AI terhadap anak dan remaja.