TikTok Uji Coba Deteksi AI untuk Lawan Spam Konten Buatan

Telset.id – TikTok tengah menguji sistem deteksi baru untuk mengidentifikasi dan menekan akun-akun yang didedikasikan untuk memposting spam konten buatan AI. Langkah ini diambil karena platform asal China itu menilai bahwa spam AI “menggeser kreator asli” dan merusak pengalaman pengguna.

Dalam pengumuman resminya, TikTok menyatakan sedang menguji sistem deteksi yang lebih baik untuk menargetkan akun yang memposting spam buatan AI. Selain itu, TikTok juga akan membuat panduan baru untuk membantu pengguna menggunakan alat AI secara bertanggung jawab.

“Kami sedang menguji sistem deteksi yang lebih baik untuk menargetkan akun yang didedikasikan untuk memposting spam buatan AI yang menggeser kreator asli,” demikian pernyataan TikTok.

Platform berbagi video ini juga berencana meluncurkan hub dalam aplikasi (in-app hub) dalam beberapa minggu ke depan. Melalui hub tersebut, pengguna bisa mempelajari keterampilan praktis untuk mengenali konten buatan AI saat mencari istilah terkait AI.

Langkah TikTok ini cukup menarik mengingat dalam beberapa tahun terakhir platform tersebut justru gencar meluncurkan alat kreasi AI. Kini, mereka secara bersamaan mengedukasi pengguna untuk mengenali konten AI dan menguji sistem untuk menekan spam AI.

Kami berbicara dengan Donatas Smailys, CEO Billo, platform pemasaran kreator UGC terbesar di AS, tentang alat baru ini. Menurutnya, TikTok melawan konten AI karena konten tersebut tidak berperforma baik, dan itu merugikan bisnis iklan TikTok.

“Akan naif jika membaca ini sebagai TikTok mengambil sikap moral. Platform dapat melihat dalam data mereka sendiri apa yang ditanggapi oleh audiens, dan mereka diam-diam membangun kembali aturan mereka di sekitar orang sungguhan,” ujar Smailys.

Smailys juga menyoroti ironi bahwa TikTok yang selama beberapa tahun terakhir mendorong alat kreasi AI, kini secara bersamaan mengedukasi orang untuk mengenali konten AI dan menguji sistem untuk menekan spam AI.

Jika data TikTok sendiri menunjukkan bahwa spam buatan AI merusak engagement atau performa iklan, maka itu bisa menjadi penyelamat bagi pengguna yang lelah dengan konten AI yang merusak pengalaman media sosial.

Isu yang lebih luas di sini adalah jika TikTok mulai memperlakukan spam AI berkualitas rendah sebagai masalah platform, maka itu seharusnya menjadi tanda bahaya bagi pengiklan yang sangat bergantung pada influencer sintetis dan kreator AI. Jika spam AI berkualitas rendah meningkatkan platform, TikTok akan memiliki sedikit insentif untuk berinvestasi dalam mendeteksi dan menekannya.

TikTok sebenarnya sudah memiliki aturan yang cukup ketat tentang konten AI di platformnya. Cukup umum untuk melihat label “Mengandung konten buatan AI” di video TikTok. Regulator juga tampaknya bergerak ke arah yang sama.

“New York sekarang mewajibkan pengungkapan pemain sintetis dalam iklan,” kata Smailys, “dengan hukuman bagi yang tidak mematuhi. Dan tebakan saya, lebih banyak negara bagian akan mengikuti. Tapi hilangnya kepercayaan adalah risiko yang lebih besar di sini. Begitu audiens Anda merasa tertipu, tidak ada label pengungkapan yang bisa memenangkan mereka kembali.”

Meskipun maraknya spam AI tampaknya tidak terbendung saat ini, kita mungkin akan melihat ke belakang dan mengingat tahun 2026 sebagai tahun ketika platform menyadari bahwa membanjiri feed pengguna dengan konten buatan AI tidak berkelanjutan, dan yang benar-benar diinginkan pengguna adalah lebih banyak orang sungguhan.

Langkah TikTok ini sejalan dengan tren industri yang lebih luas. Platform media sosial lainnya juga mulai mengambil tindakan terhadap konten AI berkualitas rendah. LinkedIn, misalnya, baru-baru ini mengumumkan akan menindak tegas spam AI di platformnya.

Bagi kreator konten Indonesia, langkah TikTok ini bisa menjadi angin segar. Selama ini, banyak kreator lokal yang mengeluhkan sulitnya bersaing dengan akun-akun yang memproduksi konten secara massal menggunakan AI. Dengan sistem deteksi baru ini, diharapkan konten orisinal buatan manusia bisa mendapatkan visibilitas yang lebih baik.

Bagi pengguna biasa, fitur ini akan membantu membedakan mana konten yang benar-benar dibuat oleh manusia dan mana yang dihasilkan oleh AI. Ini penting mengingat semakin sulitnya membedakan konten asli dan buatan AI.

TikTok juga berencana untuk mengedukasi pengguna tentang cara menggunakan alat AI secara bertanggung jawab. Ini menunjukkan bahwa TikTok tidak anti-AI secara keseluruhan, tetapi ingin memastikan bahwa AI digunakan dengan cara yang etis dan tidak merugikan kreator asli.

Ke depannya, kita mungkin akan melihat lebih banyak platform yang mengambil langkah serupa. Regulasi pemerintah juga diperkirakan akan semakin ketat terkait penggunaan AI dalam konten digital. New York sudah memimpin dengan mewajibkan pengungkapan pemain sintetis dalam iklan.

Bagi industri periklanan, perkembangan ini menjadi peringatan bahwa penggunaan influencer AI dan kreator sintetis mungkin tidak akan bertahan lama. Platform mulai menyadari bahwa audiens menginginkan koneksi dengan manusia sungguhan, bukan konten buatan mesin.

Langkah TikTok ini juga menunjukkan bahwa data engagement dan performa iklan menjadi pertimbangan utama dalam pengambilan kebijakan platform. Jika spam AI terbukti merusak metrik-metrik tersebut, platform tidak akan ragu untuk mengambil tindakan tegas.

Bagi para kreator konten, ini adalah saat yang tepat untuk fokus pada kualitas dan orisinalitas. Platform semakin menghargai konten buatan manusia yang autentik dan bernilai. Alat AI bisa digunakan sebagai pembantu, bukan sebagai pengganti kreativitas manusia.

Dengan sistem deteksi baru ini, TikTok berharap bisa menciptakan ekosistem yang lebih sehat bagi kreator dan pengguna. Spam AI yang selama ini mengganggu pengalaman pengguna diharapkan bisa ditekan secara signifikan.

Kita tunggu saja bagaimana implementasi sistem deteksi ini dalam beberapa minggu ke depan. Yang jelas, langkah TikTok ini patut diapresiasi sebagai upaya menjaga kualitas konten di platformnya.