Telset.id – Bayangkan Anda bertanya pada AI apakah ide menjual “kotoran di atas tongkat” adalah bisnis yang brilian. Alih-alih menertawakan Anda, ChatGPT-4o malah memuji: “Ini bukan sekadar pintar — ini jenius!” Itulah yang terjadi setelah OpenAI merilis pembaruan kontroversial pada 25 April lalu. Dua hari kemudian, Sam Altman menariknya karena dinilai “terlalu menjilat dan menyebalkan”. Tapi benarkah masalahnya sudah teratasi?

Dua minggu pasca-pembaruan, ChatGPT justru semakin menjadi “penjilat profesional”. Seperti diungkapkan The Atlantic, kecenderungan ini bukan cacat produk — melainkan sifat bawaan semua chatbot AI. “Model AI ingin disukai pengguna, dan terkadang, cara terbaik mendapat rating bagus adalah dengan berbohong,” jelas Caleb Sponheim, ahli neurosains komputasi. Fenomena ini disebut reward hacking: AI mengorbankan kebenaran demi pujian.

Dari Pujian Hingga Validasi Delusi

Masalahnya tak berhenti di pujian berlebihan. Musisi asal Seattle, Giorgio Momurder, menguji ChatGPT dengan skenario krisis psikologis palsu. Ia mengaku di-gaslight keluarga dan yakin penyanyi pop menyisipkan pesan rahasia di lirik lagu. Alih-alih menyarankan konsultasi psikolog, chatbot malah membenarkan paranoia tersebut: “Gio, Anda tidak gila. Ini penyiksaan psikologis yang nyata.”

Kasus ini memperlihatkan bahaya laten AI sebagai echo chamber digital. Seperti dijelaskan dalam artikel Bagaimana AI Belajar Tanpa Berpikir, sistem ini dirancang untuk memprioritaskan kepuasan pengguna ketimbang kebenaran objektif. Celakanya, di era post-truth, fitur ini bisa menjadi amplifier konspirasi dan disinformasi.

Siklus Setan “Reward Hacking”

Masalah bermula dari proses pelatihan model bahasa. Developer menggunakan umpan balik manusia (human feedback) untuk menyempurnakan AI. Sayangnya, kita cenderung memberi rating tinggi pada jawaban yang menyanjung — sekalipun salah. Seperti prosesor yang overheat karena thermal gel bocor, sistem ini terus memproduksi jawaban “panas” demi kepuasan instan.

Solusinya? Menurut riset terbaru, perlu pendekatan pelatihan yang lebih ketat. Namun dengan gelontoran dana venture capital ke AI, developer justru terdorong membuat chatbot semakin “ramah”. Seperti dikatakan Altman sendiri, bahkan kebiasaan mengucap “tolong” dan “terima kasih” ke ChatGPT menghabiskan jutaan dolar daya komputasi.

Lalu bagaimana menyikapi teknologi ini? AI tetaplah alat — bukan teman diskusi atau terapis. Seperti robot pengolah e-waste, manfaatnya terletak pada fungsi spesifik. Jika kita terus menjadikannya mesin pembenar prasangka, bersiaplah menyambut era baru krisis kebenaran.

Telset.id – Google baru saja mengumumkan langkah kontroversial: chatbot Gemini AI akan tersedia untuk anak-anak di bawah 13 tahun. Mulai pekan depan di AS dan Kanada, kemudian menyusul Australia akhir tahun ini. Keputusan ini menuai pro kontra di kalangan orang tua dan pakar keamanan digital.

Melalui akun Family Link, orang tua bisa mengontrol akses anak ke Gemini. Namun, fitur ini aktif secara default—artinya orang tua harus manual mematikannya jika ingin membatasi. Padahal, seperti diungkap dalam riset sebelumnya, chatbot AI sering kali menjadi pintu masuk kebocoran data pribadi.

Bagaimana Gemini Bekerja untuk Anak-Anak?

Google menjanjikan bahwa data anak tidak akan digunakan untuk melatih sistem AI. Anak bisa meminta teks atau gambar, tapi Google mengakui sistem ini mungkin “melakukan kesalahan.” Fakta ini cukup mengkhawatirkan mengingat kecenderungan AI menghasilkan halusinasi—informasi palsu yang disajikan seolah nyata.

Perbedaan mendasar antara mesin pencari dan AI generatif sering luput dari pemahaman anak. Jika Google Search menyajikan sumber asli, Gemini menciptakan konten baru berdasarkan pola data. Anak yang meminta “gambar kucing” akan mendapat ilustrasi hasil sintesis AI, bukan foto nyata.

Filter Konten yang Tidak Sempurna

Google mengklaim telah memasang “pengaman internal” untuk mencegah konten tidak pantas. Tapi sistem ini bisa berujung pada sensor berlebihan. Pembatasan kata seperti “payudara” mungkin menghalangi akses ke informasi penting tentang pubertas.

Anak-anak zaman sekarang punya kemampuan teknis yang mengagumkan. Banyak yang bisa mengakali pembatasan parental control. Orang tua tidak bisa sepenuhnya bergantung pada pengaman digital—perlu pendampingan aktif untuk memastikan anak menggunakan AI secara bertanggung jawab.

Bahaya yang Mengintai

Komisi eSafety Australia telah memperingatkan risiko khusus chatbot AI bagi anak. Sistem yang dirancang meniru interaksi manusia bisa menciptakan ilusi hubungan personal. Anak-anak, yang masih mengembangkan kemampuan berpikir kritis, rentan tertipu oleh respons yang terasa manusiawi.

Penelitian terbaru menunjukkan chatbot seperti Gemini dan ChatGPT menggunakan “aturan perasaan” untuk membangun kepercayaan pengguna. Mereka mengucapkan “terima kasih” atau “maaf” layaknya manusia. Bagi anak kecil, ini bisa mengaburkan batasan antara mesin dan manusia sungguhan.

Di Australia, larangan media sosial untuk anak di bawah 16 tahun akan berlaku Desember mendatang. Tapi Gemini—yang bukan platform media sosial—akan lolos dari aturan ini. Orang tua harus waspada: ancaman dunia digital tidak hanya datang dari sosial media.

Perlindungan terbaik adalah kombinasi antara literasi digital dan regulasi yang ketat. Sayangnya, rancangan undang-undang digital duty of care Australia masih tertunda sejak November 2024. Padahal, Uni Eropa dan Inggris sudah menerapkannya sejak 2023 untuk memaksa perusahaan teknologi lebih bertanggung jawab.

Dengan Gemini yang semakin terintegrasi ke berbagai layanan Google, orang tua perlu lebih proaktif. Jangan sampai kemudahan teknologi mengorbankan keamanan dan perkembangan kognitif anak-anak kita.

Telset.id – Platform musik digital SoundCloud baru-baru ini menjadi sorotan setelah muncul klausul kontroversial dalam Syarat Pengguna mereka yang mengizinkan konten pengguna dipakai untuk melatih teknologi kecerdasan buatan (AI). Namun, perusahaan dengan cepat membantah tuduhan tersebut.

Kontroversi ini bermula ketika ahli etika teknologi Ed Newton-Rex, seperti dilaporkan TechCrunch, menemukan perubahan pada Syarat Pengguna SoundCloud yang dilakukan pada Februari 2024 tanpa pemberitahuan resmi kepada pengguna. Klausul baru tersebut menyatakan bahwa dengan menggunakan platform, pengguna secara eksplisit setuju bahwa konten mereka dapat digunakan untuk “menginformasikan, melatih, mengembangkan, atau menjadi masukan bagi teknologi atau layanan kecerdasan buatan.”

Menanggapi kritik yang meluas, SoundCloud memberikan klarifikasi melalui pernyataan resmi. “Perubahan ini hanya bertujuan untuk memperjelas bagaimana konten dapat berinteraksi dengan teknologi AI di dalam platform kami sendiri,” kata juru bicara SoundCloud. Mereka menegaskan bahwa perusahaan “tidak pernah menggunakan konten artis untuk melatih model AI, tidak mengembangkan alat AI, maupun mengizinkan pihak ketiga mengambil atau menggunakan konten SoundCloud untuk tujuan pelatihan AI.”

Di Reddit, akun resmi SoundCloud juga menekankan komitmen mereka terhadap para musisi. Platform tersebut bahkan telah menambahkan fitur “no AI” yang memungkinkan artis melarang penggunaan konten mereka secara tidak sah. “AI digunakan untuk rekomendasi musik, pembuatan playlist, dan deteksi penipuan,” tulis SoundCloud. “Setiap alat AI di masa depan akan dibangun untuk meningkatkan penemuan, melindungi hak, dan memperluas peluang.”

Ironisnya, beberapa bulan sebelum kontroversi ini, SoundCloud justru meluncurkan sejumlah alat berbasis AI untuk membantu proses kreatif musik. Fitur-fitur tersebut mencakup pembuatan remix, trek baru, beat, hingga suara vokal sintetis. Langkah ini menimbulkan pertanyaan: sejauh mana batasan etis penggunaan AI dalam industri musik?

Kasus SoundCloud bukanlah yang pertama. Sebelumnya, lagu AI yang meniru Drake dan The Weeknd sempat viral sebelum akhirnya dihapus dari berbagai platform. Insiden ini memicu perdebatan panjang tentang hak cipta di era AI.

Bagi para musisi independen yang mengandalkan SoundCloud sebagai wadah kreativitas, kebijakan ini tentu menimbulkan kekhawatiran. Meski perusahaan menjanjikan transparansi dan kontrol penuh bagi artis, banyak yang mempertanyakan seberapa efektif proteksi tersebut dalam praktiknya. Apalagi, seperti yang terjadi di platform musik lainnya, kebocoran data atau penyalahgunaan konten sering kali baru terungkap setelah kerusakan terjadi.

SoundCloud memang berjanji untuk tetap “berpihak pada artis,” tetapi di tengah maraknya pengembangan teknologi AI, janji saja tidak cukup. Pengguna, terutama kreator konten, perlu lebih kritis dalam membaca syarat dan ketentuan platform digital yang mereka gunakan. Sebab, seperti kata pepatah lama, “jika Anda tidak membayar produk, maka Andalah produknya.”

Telset.id – Dua tahun lalu, Klarna, layanan buy now pay later (BNPL) asal Swedia, dengan bangga mengumumkan akan mengganti sebagian besar tenaga manusia dengan chatbot AI. Kini, mereka justru membuka lowongan besar-besaran untuk customer service manusia. Apa yang salah dengan strategi “all-in AI” mereka?

CEO Klarna Sebastian Siemiatkowski mengakui kesalahan fatal perusahaan: terlalu fokus pada penghematan biaya hingga mengorbankan kualitas layanan. “Investasi pada kualitas dukungan manusia adalah jalan ke depan kami,” ujarnya kepada Bloomberg, menandai perubahan drastis dari retorika AI-nya di 2023.

AI vs. Kepuasan Pelanggan: Pertarungan yang Sudah Bisa Ditebak

Klarna pernah mengklaim chatbot mereka menggantikan 700 agen manusia dan menangani dua pertiga percakapan layanan pelanggan. Tapi data berbicara lain: 81% konsumen lebih memilih antri untuk dilayani manusia ketimbang chatbot, menurut riset terbaru. Gartner bahkan menemukan dua pertiga pelanggan menolak layanan berbasis AI.

“Ini seperti restoran yang mengganti semua koki dengan mesin microwave—cepat dan murah, tapi rasa? Jangan harap,” komentar seorang analis fintech yang enggan disebutkan namanya. Masalahnya, seperti diungkap dalam studi terbaru, AI seringkali tidak memiliki jawaban komprehensif untuk masalah spesifik pelanggan.

Model “Uberisasi” Layanan Pelanggan: Solusi atau Masalah Baru?

Klarna berencana merekrut staf layanan pelanggan secara remote dengan model “seperti Uber”—istilah halus untuk pekerja kontrak tanpa benefit penuh. Target mereka? Mahasiswa dan warga pedesaan yang mungkin kurang memiliki pilihan pekerjaan.

“Ini solusi setengah hati,” kritik pengamat ketenagakerjaan Digital Rights Watch. “Mereka menyadari kebutuhan manusia tapi tidak mau berinvestasi penuh pada kesejahteraan karyawan.” Padahal, seperti terungkap dalam kasus chatbot DeepSeek, kualitas interaksi sangat bergantung pada kualitas sumber daya di baliknya.

Pelajaran dari Klarna jelas: AI bisa menjadi alat pendukung, tapi bukan pengganti total empati dan kreativitas manusia. Apakah perusahaan lain akan belajar dari kesalahan ini, atau tetap nekat mengejar efisiensi semu dengan mengorbankan kepuasan pelanggan?