Pengadilan Jerman Vonis Google Bertanggung Jawab atas AI

Telset.id – Pengadilan di Jerman memutuskan bahwa Google bertanggung jawab secara hukum atas konten yang dihasilkan oleh sistem kecerdasan buatan (AI) miliknya, khususnya fitur AI Overviews. Keputusan ini merupakan preseden baru yang signifikan dalam regulasi teknologi AI global.

Kasus ini bermula dari laporan Decoder, di mana dua perusahaan penerbit menemukan bahwa ringkasan hasil pencarian buatan AI Google mengaitkan bisnis mereka dengan praktik penipuan dan penipuan berlangganan yang tidak berdasar. Para penggugat telah mengirimkan surat penghentian dan penghentian (cease-and-desist) kepada Google awal tahun ini, namun raksasa teknologi itu membantah tanggung jawabnya.

Pihak Google berdalih bahwa fitur ringkasan otomatisnya telah memperingatkan pengguna akan potensi kesalahan dan menganjurkan verifikasi mandiri. Namun, analisis pengadilan menyimpulkan bahwa AI Google menggabungkan informasi dari perusahaan lain yang terindikasi melakukan praktik ilegal dengan data penggugat, sehingga menghasilkan asosiasi yang tidak muncul di sumber asli mana pun yang ditautkan oleh mesin pencari.

Preseden Baru Tanggung Jawab AI

Pengadilan menemukan bahwa, tidak seperti mesin pencari tradisional yang hanya menampilkan tautan dengan pernyataan pihak ketiga, alat AI Google menghasilkan pernyataan yang independen, baru, dan substansial berdasarkan misinterpretasi informasi di internet. Menurut pengadilan, koreksi atas informasi yang salah bukanlah tanggung jawab pihak ketiga. Google adalah satu-satunya entitas yang memiliki kemampuan untuk memodifikasi teknologi yang mendasari ringkasan buatan AI-nya dan, oleh karena itu, “harus dimintai pertanggungjawaban.”

Lebih lanjut, pengadilan menyatakan bahwa pembelaan Google tidak berdasar karena ringkasan yang disengketakan “berisi pernyataan yang sama sekali tidak muncul dalam hasil pencarian.” Interpretasi pengadilan Jerman ini bisa menjadi preseden bersejarah yang menempatkan perusahaan teknologi besar bertanggung jawab atas pengaruh pengembangan AI paling canggih di platform yang banyak digunakan.

Hingga saat ini, di sebagian besar sistem hukum, mesin pencari dianggap sebagai alat yang hanya memfasilitasi akses ke konten buatan pihak ketiga. Status ini memberikan perlindungan tertentu ketika informasi yang dipublikasikan ternyata salah, tidak akurat, menyesatkan, atau bahkan memfitnah. Namun, pengadilan Jerman berpendapat bahwa perlindungan ini tidak lagi berlaku ketika mesin pencari menggabungkan sistem AI generatif.

Hakim menyimpulkan bahwa teknologi AI mampu menghasilkan klaim yang tidak ada berdasarkan beberapa sumber dan, akibatnya, perusahaan yang mengoperasikannya harus menanggung tanggung jawab atas konten yang dihasilkan.

Peringatan Verifikasi Tidak Cukup

Para hakim juga memutuskan bahwa meskipun Google mendorong pengguna untuk memverifikasi informasi karena potensi halusinasi yang melekat pada model AI, peringatan ini tidak membebaskan distributor konten dari tanggung jawab. Jika tidak, korban pernyataan palsu akan hampir tidak memiliki pembelaan karena sumber asli tidak pernah membuat pernyataan tersebut dan, oleh karena itu, tidak dapat dituntut secara hukum.

Pengadilan juga berpendapat bahwa hasil yang dihasilkan oleh sistem AI tidak dapat dilindungi di bawah prinsip kebebasan berbicara, karena itu adalah produk dari algoritma yang dirancang, dilatih, dan dikelola oleh perusahaan, bukan ekspresi dari pendapat individu.

Sebagai tindakan pencegahan, putusan tersebut mewajibkan Google untuk menghapus sebagian besar pernyataan yang dianggap memfitnah dalam kasus ini dan menanggung 80 persen biaya hukum yang timbul dari proses pengadilan. Seorang juru bicara perusahaan, yang dikutip oleh Ars Technica, menyatakan bahwa keputusan tersebut dapat diajukan banding.

“Kami berinvestasi besar-besaran dalam kualitas AI Overviews untuk memastikan bahwa sebagian besar respons memberikan informasi yang akurat, dan mereka dirancang untuk mencerminkan informasi yang ada di web,” demikian pernyataan resmi Google. “Kami sedang meninjau keputusan ini dengan hati-hati, yang belum final.”

Putusan pengadilan Jerman ini bisa berdampak global bagi industri AI. Perusahaan seperti OpenAI, Anthropic, dan Perplexity AI juga memperingatkan pengguna bahwa respons yang dihasilkan sistem mereka mungkin mengandung kesalahan dan merekomendasikan verifikasi informasi. Peringatan ini biasanya tercantum dalam persyaratan layanan yang disetujui pengguna saat membuat akun.

Namun, kasus ini berargumen bahwa peringatan semacam itu tidak cukup untuk membebaskan pengembang dari tanggung jawab. Putusan tersebut menyatakan bahwa ketika AI menghasilkan pernyataan baru yang tidak muncul secara langsung di sumber aslinya, perusahaan yang merancang, melatih, mengoperasikan, dan mengelola sistem harus menanggung tanggung jawab hukum atas segala kerusakan yang disebabkan oleh pernyataan tersebut.

Keputusan ini menimbulkan pertanyaan fundamental tentang bagaimana pertumbuhan digital dan inovasi AI harus diatur. Dengan vonis ini, perusahaan teknologi besar tidak bisa lagi berlindung di balik klaim bahwa mereka hanyalah platform perantara, melainkan harus bertanggung jawab penuh atas konten buatan AI mereka.

Implikasinya, pengguna biasa kini memiliki landasan hukum yang lebih kuat jika dirugikan oleh informasi palsu yang dihasilkan AI. Sementara itu, industri AI global harus bersiap menghadapi era regulasi yang lebih ketat, di mana setiap klaim yang dihasilkan oleh algoritma menjadi tanggung jawab penuh pembuatnya.