Telset.id – Seorang remaja berusia 16 tahun harus diselamatkan dari dasar formasi batu curam bernama “Widowmaker” di Crown Mountain, British Columbia, setelah chatbot Claude AI dari Anthropic menuntunnya keluar dari jalur pendakian saat turun dari Grouse Mountain. Insiden ini menambah daftar panjang kasus pendaki yang tersesat karena mengandalkan saran model bahasa besar untuk navigasi alam terbuka.
Menurut laporan CTV News, remaja tersebut naik gondola ke ketinggian lebih dari 4.000 kaki menuju puncak Grouse Mountain. Namun saat hendak kembali turun, Claude AI justru mengarahkannya keluar dari rute jalur resmi. Remaja itu kemudian terjebak di area terjal dan menghubungi layanan darurat untuk meminta pertolongan.
North Shore Rescue, tim pencarian dan penyelamatan setempat, menurunkan dua personel untuk mengevakuasi korban. Helikopter tidak dapat mendekat ke dinding vertikal Widowmaker yang sangat curam, sehingga kedua penyelamat harus menuruni tebing secara manual untuk mencapai lokasi remaja tersebut.
Manajer pencarian North Shore Rescue, Paul Markey, menegaskan bahwa insiden ini nyaris berujung fatal. “Sebuah jatuh akan mengakibatkan cedera serius atau berpotensi kematian,” ujar Markey kepada CTV News. Pernyataan ini menegaskan tingkat bahaya yang dihadapi remaja tersebut selama terjebak di formasi batu curam tersebut.
Dalam laporan debrief tugas North Shore Rescue, dijelaskan bahwa saat berada di tanah, kru menetapkan titik jangkar dan satu anggota diikat untuk diturunkan ke subjek. Di lokasi tersebut, anggota tim memasang perlindungan tambahan dan berhasil memindahkan korban ke titik ekstraksi yang sesuai. Prosedur ini menunjukkan kompleksitas operasi penyelamatan di medan vertikal yang ekstrem.
Peringatan Berulang Soal Saran AI untuk Navigasi Alam Terbuka
Insiden di Crown Mountain bukan kasus pertama. Bulan lalu, tiga penggemar aktivitas luar ruangan harus diselamatkan oleh ranger Forest Service di Cascade Range, California, setelah Google AI menyarankan mereka “membawa makanan dan air jauh lebih sedikit dari yang dibutuhkan kelompok mereka.” Saran tersebut mengubah pendakian yang direncanakan selama delapan jam menjadi penderitaan yang berlangsung selama beberapa hari.
Baca Juga:
Meski para pejabat terus memohon kepada publik agar tidak mengambil saran dari model bahasa besar yang mengalami halusinasi, peringatan tersebut tampaknya terus diabaikan. Pola ini menunjukkan kesenjangan antara kepercayaan pengguna terhadap AI dan keterbatasan fundamental teknologi tersebut dalam memahami kondisi dunia nyata.
Markey kembali menekankan pentingnya riset mandiri sebelum melakukan aktivitas di alam terbuka. “Claude belum pernah berada di area spesifik itu, belum pernah menempuh rute itu, dan belum pernah berada di alam terbuka — lakukan riset Anda sendiri dan dapatkan pengetahuan Anda sendiri tentang area tersebut dan lengkapi dengan pelatihan serta navigasi,” tegasnya kepada CTV News.
Pernyataan Markey menyoroti keterbatasan mendasar chatbot AI dalam konteks navigasi fisik. Model bahasa besar seperti Claude dilatih berdasarkan data teks, bukan pengalaman langsung di medan tertentu. Mereka tidak memiliki kemampuan untuk menilai kondisi jalur secara real-time, perubahan cuaca, atau risiko spesifik yang mungkin muncul di lokasi tertentu.
Risiko Mengandalkan Chatbot untuk Keputusan yang Menyangkut Nyawa
Dua insiden dalam waktu berdekatan ini menggambarkan pola yang mengkhawatirkan. Pengguna memperlakukan chatbot AI sebagai sumber otoritatif untuk informasi yang berpotensi menyelamatkan nyawa, padahal teknologi ini tidak dirancang untuk tujuan tersebut. Halusinasi AI — ketika model menghasilkan informasi yang terdengar meyakinkan namun salah — menjadi faktor utama dalam kedua kasus tersebut.
Dalam kasus Cascade Range, saran Google AI tentang membawa lebih sedikit persediaan bertentangan langsung dengan kebutuhan dasar pendakian yang seharusnya dipahami oleh siapa pun yang memiliki pengetahuan dasar tentang aktivitas luar ruangan. Sementara dalam kasus Crown Mountain, Claude AI mengarahkan pengguna keluar dari jalur yang sudah ditetapkan, menunjukkan keterbatasan pemahaman spasial model tersebut.
North Shore Rescue melalui debrief tugasnya mendokumentasikan operasi penyelamatan yang melibatkan penurunan personel ke dinding vertikal. Prosedur ini membutuhkan pelatihan khusus dan peralatan teknis yang tidak dimiliki pendaki biasa. Fakta bahwa remaja tersebut berhasil menghubungi bantuan menjadi faktor kunci yang mencegah hasil yang jauh lebih buruk.
Kedua insiden ini juga menyoroti pentingnya pelatihan navigasi dan pengetahuan medan bagi siapa pun yang melakukan aktivitas di alam terbuka. Markey secara eksplisit menyebut perlunya “pelatihan dan navigasi” sebagai pelengkap riset mandiri, menegaskan bahwa teknologi tidak dapat menggantikan keterampilan dasar yang diperlukan untuk keselamatan di alam bebas.
Bagi pengguna AI secara umum, kasus ini menjadi pengingat bahwa chatbot seperti Claude, Google AI, dan sejenisnya memiliki domain keterbatasan yang jelas. Ketika menyangkut keputusan yang dapat memengaruhi keselamatan jiwa, verifikasi melalui sumber terpercaya dan pengetahuan langsung tentang lingkungan tetap tidak tergantikan.
Pola pengabaian peringatan resmi ini menunjukkan tantangan lebih besar bagi industri AI dan otoritas keselamatan publik. Selama pengguna terus memperlakukan output chatbot sebagai kebenaran faktual tanpa verifikasi, risiko serupa berpotensi terulang di berbagai konteks — dari pendakian gunung hingga keputusan lain yang menyangkut keselamatan.
North Shore Rescue dan otoritas terkait terus mengimbau publik untuk tidak mengandalkan AI chatbot dalam situasi yang membutuhkan penilaian medan nyata. Insiden di Crown Mountain dan Cascade Range menjadi bukti konkret bahwa halusinasi AI dapat memiliki konsekuensi yang serius ketika diterapkan pada konteks yang salah.
Komentar
Belum ada komentar.