Telset.id ā Kota New Orleans kini mengintegrasikan kecerdasan buatan (AI) ke dalam sistem layanan darurat 911 mereka. Langkah ini diambil oleh Orleans Parish Communication District, badan pengelola layanan dispatch darurat kota tersebut, dengan tujuan untuk menyortir ribuan panggilan yang masuk setiap harinya. Namun, keputusan ini menimbulkan kekhawatiran baru terkait keselamatan warga yang membutuhkan pertolongan cepat.
Alat baru tersebut dinamakan AI Emergency Call Triage, sebuah layanan yang dikembangkan oleh perusahaan bernama Carbyne. Fungsinya adalah untuk melakukan triase pada panggilan masuk sebelum diteruskan ke petugas operator manusia. Sistem ini akan memprioritaskan panggilan berisiko tinggi untuk segera ditangani manusia, sementara panggilan berulang yang berkaitan dengan insiden yang sedang berlangsung akan ditangani secara otomatis oleh AI.
Eksperimen Dimulai dari Layanan Non-Darurat
Sejak April lalu, New Orleans sebenarnya sudah mulai bereksperimen dengan teknologi ini, namun hanya untuk menangani panggilan 311. Jalur telepon 311 sendiri merupakan layanan yang menghubungkan penelepon dengan informasi pemerintah daerah dan layanan non-darurat. Keberhasilan uji coba awal tersebut kemudian mendorong pihak berwenang untuk memperluas penggunaan AI ke sistem panggilan darurat, sebuah eskalasi yang cukup signifikan.
Dengan keputusan ini, New Orleans bergabung dengan kota-kota besar lain di Amerika Serikat seperti Seattle dan Atlanta. Kedua kota tersebut juga telah mengimplementasikan AI ke dalam layanan dispatch darurat mereka dalam beberapa pekan terakhir. Tren adopsi teknologi ini menunjukkan bahwa penggunaan AI di sektor layanan publik semakin meluas, meskipun masih banyak pertanyaan mengenai kesiapannya.
Pihak berwenang mengklaim bahwa teknologi baru ini akan membantu memotong ratusan panggilan yang membanjiri operator manusia setiap harinya. Namun di sisi lain, kehadiran AI ini menambah lapisan hambatan baru antara penelepon yang berada dalam kondisi darurat dengan petugas terlatih yang dapat menghubungkan mereka dengan bantuan medis atau keamanan.
Kekhawatiran Terhadap Akurasi AI
Kekhawatiran utama dari penerapan teknologi ini adalah tingkat akurasi AI dalam memproses percakapan suara. Berdasarkan sebuah studi yang dilakukan oleh NewsGuard pada Februari lalu, AI voice chat masih memiliki banyak kelemahan meskipun didukung oleh model AI terdepan sekalipun. Studi tersebut menemukan bahwa dalam mode suara, bot AI seperti ChatGPT dan Gemini menghasilkan klaim palsu dengan audio yang realistis hingga 50 persen dari waktu percakapan.
Angka tersebut tentu sangat mengkhawatirkan, terutama jika diterapkan pada panggilan 911 yang seringkali berlangsung dalam situasi yang sangat kacau. Penelepon dalam kondisi darurat biasanya berbicara dengan nada panik, terburu-buru, atau bahkan tidak jelas. Kemampuan AI untuk memahami konteks dan detail penting dalam situasi seperti ini masih perlu dipertanyakan.
Selain masalah akurasi, sistem suara AI juga rentan terhadap serangan dari luar. Para peneliti keamanan siber telah berhasil memanipulasi perilaku model suara dengan tingkat keberhasilan rata-rata antara 79 hingga 96 persen. Kerentanan ini menjadi ancaman serius, mengingat sistem 911 merupakan infrastruktur kritis yang harus selalu tersedia dan dapat diandalkan dalam kondisi apapun.
Dampak pada Keselamatan Warga
Pertanyaan terbesar yang muncul adalah bagaimana semua risiko ini akan berdampak pada situasi di mana menghubungi operator manusia bisa menjadi perbedaan antara hidup dan mati. Meskipun belum ada jawaban pasti, pengalaman dari eksperimen AI voice lainnya menunjukkan bahwa hasilnya kemungkinan besar tidak akan positif.
Situasi ini semakin relevan mengingat kebutuhan akan sistem darurat yang andal terus meningkat. Sementara itu, berbagai inovasi teknologi lain juga terus bermunculan di berbagai sektor. Sebagai contoh, Bank DBS telah terjun ke dunia metaverse, menunjukkan bagaimana institusi besar beradaptasi dengan teknologi baru.
Masa Depan Layanan Darurat Berbasis AI
Penerapan AI dalam layanan darurat 911 di New Orleans menjadi contoh nyata bagaimana teknologi semakin mengambil peran dalam sektor layanan publik yang krusial. Meskipun tujuan awalnya adalah untuk meningkatkan efisiensi, keputusan ini tetap menyisakan banyak pertanyaan tentang kesiapan teknologi dalam menghadapi situasi darurat yang kompleks dan penuh tekanan.
Para pejabat di Orleans Parish Communication District meyakini bahwa teknologi ini akan membantu petugas manusia untuk lebih fokus pada panggilan yang membutuhkan intervensi langsung. Namun, dengan berbagai keterbatasan yang masih dimiliki teknologi AI suara saat ini, keputusan ini tetap menjadi langkah berani yang akan diawasi ketat oleh banyak pihak.
Bagi warga New Orleans, perubahan ini berarti mereka harus berinteraksi dengan sistem AI sebelum akhirnya terhubung dengan operator manusia. Situasi ini tentu berbeda dari sebelumnya di mana panggilan langsung diterima oleh petugas terlatih. Bagaimana pengalaman ini akan berjalan, hanya waktu yang bisa menjawab.
Sementara itu, perkembangan teknologi AI di berbagai bidang terus berlanjut. Berbagai inovasi juga terus dilakukan untuk meningkatkan kualitas layanan berbasis teknologi. Misalnya, Oppo kini memungkinkan pemesanan HP terbaru melalui WhatsApp, menunjukkan bagaimana teknologi dapat mempermudah berbagai aspek kehidupan.
Namun, perlu diingat bahwa tidak semua penerapan teknologi berjalan mulus. Ada kalanya teknologi justru menimbulkan masalah baru. Sebagai contoh, banyak pengguna yang tidak menyadari bahaya tertentu dari kebiasaan sehari-hari mereka dengan perangkat teknologi.
Keputusan New Orleans untuk mengintegrasikan AI ke dalam sistem 911 mereka akan menjadi studi kasus penting bagi kota-kota lain yang mempertimbangkan langkah serupa. Keberhasilan atau kegagalan program ini akan sangat menentukan arah kebijakan penggunaan AI di sektor layanan darurat di masa mendatang.
Yang jelas, keseimbangan antara efisiensi teknologi dan keandalan layanan manusia menjadi kunci utama. Dalam situasi darurat, setiap detik sangat berharga, dan kesalahan sekecil apapun bisa berakibat fatal. Oleh karena itu, evaluasi menyeluruh terhadap kinerja sistem ini akan sangat penting dilakukan secara berkala.
Komentar
Belum ada komentar.