AI Chatbot SSA Dikritik: Pelatihan Buruk dan Kinerja Mengecewakan

REKOMENDASI

ARTIKEL TERKAIT

Telset.id – Bayangkan Anda adalah pegawai Social Security Administration (SSA) yang sudah kewalahan dengan beban kerja. Lalu, Anda diminta menggunakan chatbot AI baru dengan video pelatihan yang tampak seperti dibuat tahun 2000-an. Itulah kenyataan yang dihadapi staf SSA saat ini.

Di tengah kekacauan yang disebabkan oleh “Department of Government Efficiency” (DOGE) pimpinan Elon Musk, SSA memperkenalkan chatbot bernama “Agency Support Companion”. Namun, alih-alih mempermudah pekerjaan, chatbot ini justru menuai kritik tajam dari para pegawai.

Pelatihan yang Mengecewakan

Sebelum menggunakan chatbot, seluruh pegawai diwajibkan menonton video pelatihan berdurasi empat menit. Video ini menampilkan karakter wanita animasi dengan empat jari, dengan grafis yang terlihat sangat ketinggalan zaman. Yang lebih parah, video tersebut gagal menyampaikan informasi penting: larangan menggunakan data pribadi (PII) saat berinteraksi dengan chatbot.

“Maaf atas kelalaian dalam video pelatihan kami,” tulis SSA dalam lembar fakta yang dibagikan kepada pegawai. Dokumen ini menekankan agar staf “menghindari mengunggah PII ke chatbot”. Sebuah pengakuan yang terlambat, mengingat video seharusnya menjadi media utama untuk menyampaikan informasi krusial ini.

Respons Dingin dari Pegawai

Banyak pegawai SSA yang mengaku sama sekali mengabaikan email tentang chatbot ini. “Kami terlalu sibuk dengan pekerjaan nyata,” ujar salah satu staf kepada WIRED. Mereka harus menanggung beban kerja yang meningkat akibat pengurangan jumlah pegawai di kantor-kantor SSA.

Beberapa yang sempat mencoba chatbot ini langsung kecewa. “Respons yang saya terima sangat tidak jelas dan seringkali salah,” keluh seorang sumber. Yang lain lebih sarkastik: “Anda bisa mendengar rekan-rekan saya mengejek grafis video pelatihannya. Tidak ada yang saya kenal benar-benar menggunakannya.”

Ironisnya, pengembangan chatbot ini sudah dimulai setahun lalu, jauh sebelum kedatangan Musk atau DOGE di SSA. Aplikasi ini telah melalui uji terbatas sejak Februari sebelum diluncurkan ke semua staf pekan lalu. Dalam email pengumuman yang dilihat WIRED, SSA menulis bahwa chatbot ini “dirancang untuk membantu pegawai dalam tugas sehari-hari dan meningkatkan produktivitas”.

Namun kenyataannya, seperti yang diungkapkan salah satu pegawai: “Jujur, tidak ada yang benar-benar membicarakannya. Saya yakin sebagian besar rekan kerja saya bahkan tidak menonton video pelatihannya.”

Kasus ini menjadi contoh nyata bagaimana implementasi teknologi AI di instansi pemerintah bisa berjalan buruk jika tidak didukung pelatihan memadai dan antarmuka yang user-friendly. Seperti yang ditunjukkan oleh pelatihan AI Alibaba Cloud, pendekatan yang benar-benar memahami kebutuhan pengguna sangat penting untuk keberhasilan adopsi teknologi baru.

SSA mungkin perlu belajar dari kebijakan transparansi Zoom dalam penggunaan AI, atau mengadopsi model kolaborasi dengan institusi pendidikan untuk menciptakan solusi yang benar-benar bermanfaat bagi penggunanya.

Pertanyaan besarnya: Akankah SSA merevisi pendekatannya, atau chatbot ini akan menjadi sekadar proyek teknologi yang gagal di lemari arsip pemerintah? Waktu yang akan menjawab.

ARTIKEL TERKINI

HARGA DAN SPESIFIKASI