Startup AI Detection Pangram Raup Pendanaan $9 Juta

Telset.id – Startup pendeteksi konten buatan AI, Pangram, mengumumkan pendanaan sebesar $9 juta atau sekitar Rp 144 miliar. Pendanaan ini dipimpin oleh Menlo Ventures, dengan partisipasi dari Haystack, ScOp, Script Capital, dan Cadenza. Pengumuman ini bertepatan dengan peluncuran model deteksi teks AI generasi terbaru mereka, Pangram 4, serta model deteksi gambar AI, Pangram Image.

Pangram menyatakan bahwa model deteksi teks barunya memiliki akurasi lebih dari 99% dalam menemukan tulisan berbantuan AI dan konten campuran manusia-AI. Model ini juga diklaim lebih mudah mendeteksi program humanizer AI. Sementara itu, detektor gambar AI masih tersedia dalam pratinjau riset dan rencananya akan dirilis secara lebih luas dalam beberapa pekan mendatang.

Startup yang berbasis di New York ini didirikan oleh Max Spero dan Bradley Emi, lulusan Stanford AI dan machine learning, sekitar dua tahun lalu. Pendirian Pangram dipicu oleh maraknya konten bot, konten SEO sampah buatan AI, dan apa yang disebut Spero sebagai “kampanye disinformasi Rusia yang didukung LLM dan kampanye yang dipengaruhi UEA di Twitter” setelah peluncuran ChatGPT.

“Saya pikir sangat berharga untuk mengetahui apakah apa yang Anda lihat itu buatan AI atau bukan,” ujar Spero kepada TechCrunch. “Terutama teks yang Anda baca, karena itu mengubah cara orang mendekati teks tersebut. Apakah ini sesuatu yang harus saya waspadai halusinasinya dan bersikap skeptis, atau ini sesuatu yang saya percaya telah diteliti dengan baik oleh jurnalis sungguhan?”

Sistem deteksi AI Pangram pada dasarnya adalah model machine learning besar yang dilatih pada puluhan juta dokumen manusia yang diketahui. Startup ini kemudian menciptakan “cermin sintetis” untuk setiap dokumen, mereplikasi topik, panjang, dan nada suara, tetapi ditulis oleh LLM frontier.

“Model kami mempelajari perbedaan gaya dan pilihan yang dibuat AI secara konsisten dan mampu menggunakannya untuk mempelajari apa yang membuat sesuatu dihasilkan oleh AI dengan keyakinan tinggi,” kata Spero, menambahkan bahwa detektor AI tidak bergantung pada metadata copy-paste atau watermark tersembunyi.

Bagi Pangram, deteksi AI tidak hanya tentang apakah sebuah teks ditulis seluruhnya oleh AI atau tidak. Ini juga tentang membedakan tingkat bantuan AI — seperti dalam kasus seseorang yang menulis sesuatu sendiri, tetapi kemudian meminta AI untuk mengedit atau merapikannya. Spero percaya bantuan AI dapat diterima, selama penulis mengungkapkan penggunaan AI mereka.

Kemunculan Pangram terjadi di saat penggunaan AI semakin umum. Dalam beberapa kasus, seperti politisi Kanada yang membaca prompt AI dengan keras dalam pidato di depan anggota parlemen, kesalahan tersebut berujung pada cemoohan. Dalam kasus lain, seperti pengacara yang menggunakan kutipan palsu yang dibuat oleh ChatGPT, konsekuensinya bisa berupa sanksi dan denda.

Reaksi balik itu juga mulai terlihat dalam aturan institusional. Arsip akses terbuka arXiv memperkenalkan kebijakan penegakan baru tahun ini, yang menyatakan bahwa pengajuan yang mengandung bukti bahwa penulis gagal meninjau output LLM (seperti referensi halusinasi atau komentar meta seperti, “Apakah Anda ingin saya membuat perubahan?”) dapat memicu larangan pengajuan selama satu tahun.

Pangram bukan satu-satunya yang bertaruh bahwa deteksi AI akan semakin dicari. Pesaing seperti Winston AI, Originality.ai, Copyleaks, dan GPTZero juga mengejar permintaan yang sama, masing-masing membangun detektornya sendiri. Teknologi Pangram, meskipun tidak sempurna, dapat membantu mendorong perlawanan terhadap penerimaan konten buatan AI yang membanjiri internet, ruang sidang, dan makalah akademis.

Pengguna dapat mengakses Pangram melalui langganan $20 per bulan di web atau mengunduh ekstensi Chrome, yang secara otomatis memberi label pada postingan secara real-time di X, LinkedIn, Substack, Reddit, dan Medium. Ekstensi ini juga menyediakan skor kesehatan feed dengan persentase rincian konten manusia versus AI di layar Anda.

Pangram juga menawarkan teknologinya melalui API. Substack baru-baru ini mengintegrasikan teknologi Pangram ke dalam platformnya untuk menunjukkan kepada pembaca penulis favorit mana yang menulis buletin mereka menggunakan AI. Pelanggan API lainnya termasuk Quora, sekolah dan universitas, penerbit dan agen, serta perekrut.

Dalam pengujian yang dilakukan TechCrunch, model deteksi teks sangat mengesankan tetapi tidak sempurna. Model ini dengan mudah menandai artikel berita yang sepenuhnya dihasilkan AI oleh ChatGPT dan Claude, dan jarang tertipu oleh upaya mengedit teks AI agar terdengar lebih manusiawi. Namun, Pangram menandai kalimat yang ditulis ulang sepenuhnya sebagai tulisan AI.

Pangram juga tidak tertipu oleh upaya meminta ChatGPT dan Claude untuk menghindari detektor AI saat menghasilkan konten. Saat ChatGPT dan Claude diberikan artikel asli untuk dipoles, Pangram memberikan skor 13% bantuan AI. Model ini mampu mendeteksi perubahan pilihan kata yang halus di beberapa kalimat dan mengabaikannya di kalimat lain.

Pengujian pada konten buletin Substack pribadi juga menunjukkan hasil yang impresif. Pangram dengan mudah mendeteksi teks tulisan manusia versus teks tulisan AI. Pengujian terbatas pada model deteksi gambar baru Pangram juga menunjukkan hasil yang sama mengesankannya.

Sistem deteksi gambar AI Pangram menjanjikan untuk mendeteksi gambar yang dihasilkan AI di berbagai model AI, tidak seperti pemeriksaan berbasis watermark milik OpenAI atau Google DeepMind yang sebagian besar mendeteksi output mereka sendiri. Sistem ini bekerja pada distribusi tingkat piksel, mempelajari perbedaan statistik halus antara foto asli dan gambar yang dihasilkan AI.

Spero mengatakan model ini bahkan dapat mendeteksi gambar AI yang muncul di dalam foto dunia nyata. Dalam pengujian, model dengan mudah mendeteksi citra yang dihasilkan AI, baik yang fotorealistik maupun kartun. Model juga dapat mendeteksi gambar AI yang muncul di foto dunia nyata, meskipun dalam satu contoh salah memberi label foto gambar AI sebagai konten manusia.

Spero menegaskan bahwa dia tidak ingin teknologinya memicu perburuan terhadap orang yang menggunakan AI untuk menulis, tetapi harus ada semacam mekanisme untuk mendorong kembali konten sampah.

“Masa depan yang saya lihat adalah konten AI terus berkembang biak,” kata Spero. “Kami mendapatkan GPU baru lebih cepat daripada orang baru yang dilahirkan. Jika kami tidak secara aktif mendiskriminasi demi konten manusia, maka kami hanya akan melihat lebih banyak dan lebih banyak AI, dan itu hanya akan menenggelamkan sinyal manusia yang kami miliki.”

Dengan pendanaan baru dan model deteksi yang lebih canggih, Pangram siap menjadi pemain kunci dalam pertempuran melawan invasi konten AI di internet. Teknologi ini menawarkan harapan bagi mereka yang ingin membedakan antara karya manusia dan buatan mesin di era informasi yang semakin kompleks.