NHTSA Selidiki Comma AI Usai 5 Kecelakaan Openpilot, 3 Tewas

Telset.id – National Highway Transportation Safety Administration (NHTSA) membuka investigasi terhadap Comma AI setelah lima kecelakaan yang melibatkan mobil dengan sistem Openpilot. Sebanyak 11 orang mengalami luka dan tiga orang meninggal dalam insiden tersebut, menjadikan penyelidikan ini sorotan utama bagi industri kendaraan otonom berbasis open source.

Investigasi NHTSA mencakup 30.000 kit perangkat keras Comma, termasuk Comma Four, versi terbaru dari perangkat keras self-driving milik Comma AI. Dalam setiap kecelakaan, kendaraan menabrak mobil yang melaju lambat atau berhenti di jalurnya. Salah satu area yang menjadi fokus lembaga tersebut adalah pemasaran Comma AI, yang menjanjikan “hands free driving for the car you already have”, meskipun ada catatan kecil yang menyatakan mobil tetap memerlukan pengawasan konstan.

Perangkat lunak yang menggerakkan mobil self-driving kini bukan lagi domain eksklusif sistem proprietary milik perusahaan bernilai miliaran dolar. Sistem assisted driving open source seperti Openpilot buatan Comma AI memungkinkan siapa pun yang cukup paham teknologi mengubah kendaraannya menjadi eksperimen self-driving. Dengan biaya sekitar $1.000, pengguna dapat membeli kit dari Comma untuk memasang sensor dan kamera siap autonomous-driving pada mobil mereka.

Di tengah perhatian besar terhadap sistem Full Self-Driving milik Tesla dan robotaxi Waymo, opsi DIY ini sebagian besar luput dari radar. Namun, reaksi terhadap teknologi aftermarket ini ketika masuk ke arus utama mungkin baru saja terlihat.

Viralnya Tesla Model Y dengan Comma Four

Selama akhir pekan, seorang pria dengan nama Mike LaBarbera di X memposting video Tesla Model Y yang mengemudi sendiri menggunakan Comma Four. “My FSD subscription ended last January, and this isn’t Tesla Autopilot,” kata LaBarbera. Dengan alternatif open source ini, ia mengklaim “no longer renting a closed system”.

LaBarbera kemudian mengklarifikasi bahwa yang menjalankan mobil dalam video tersebut adalah “Sunnypilot”, sebuah fork Openpilot, atau versi kustom perangkat lunak buatan orang lain. Meski menjadi bukti seberapa jauh teknologi self-driving telah berkembang, video ini juga membuat sebagian pengamat khawatir karena betapa mudahnya memasang teknologi kustom untuk mengendalikan mobil.

“I do not think we should be letting people run any software they want on their self-driving car,” kata Cairo Smith, seorang penulis, dalam postingan yang mendapat lebih banyak suka daripada video aslinya. “It is not Skyrim for Linux. You do not get mods on the freeway.”

Menariknya, sebagian kritik paling pedas datang dari pihak yang tampak mendukung upaya self-driving arus utama. Salah satu komentar viral menyoroti kemungkinan mengalami kecelakaan fatal karena memilih mengemudikan “an opensource repo with 3,000 stars instead of just buying the actually good system” pada mobil yang awalnya dibangun untuk mendukung self-driving, seperti Tesla. Komentar lain menyebutnya sebagai “joke”.

“Imagine getting home with your family, and this guy crashes into you because of some vibe coded PR in a GitHub repo with 2k stars,” tulis pengguna tersebut.

Kekhawatiran ini menjadi semakin rumit ketika mempertimbangkan bahwa banyak pengguna Comma mungkin tidak menggunakan perangkat lunak tersebut apa adanya, melainkan memasang versi modifikasi. Berbagai cara halus modifikasi ini memengaruhi keselamatan mobil, semuanya tanpa akuntabilitas yang biasanya didapat dari sistem yang dibangun oleh entitas komersial besar seperti Tesla.

Hal ini belum termasuk bagaimana maraknya vibe coding membuat kemungkinan seseorang yang tidak berpengalaman menggunakan model AI untuk menyesuaikan Openpilot sesuai keinginannya bukan lagi hal yang mustahil. Dinamika pengembangan perangkat lunak berbasis AI ini sejalan dengan diskusi seputar machine learning butuh data yang semakin relevan dalam konteks keamanan sistem otonom.

Investigasi NHTSA terhadap Comma AI menandai titik penting bagi ekosistem self-driving open source. Selama ini, sistem seperti Openpilot berkembang di luar pengawasan regulasi yang ketat, berbeda dengan sistem proprietary yang dikembangkan perusahaan besar. Dengan cakupan investigasi yang mencapai 30.000 kit perangkat keras, termasuk Comma Four, regulator tampaknya mulai memperhatikan risiko yang muncul dari demokratisasi teknologi self-driving.

Fokus pada pemasaran Comma AI menunjukkan bahwa regulator tidak hanya menyoroti aspek teknis, tetapi juga bagaimana klaim pemasaran dapat memengaruhi ekspektasi dan perilaku pengguna. Janji “hands free driving” yang disertai catatan kecil tentang perlunya pengawasan konstan menciptakan jarak antara persepsi dan realitas yang berpotensi berbahaya.

Sementara itu, fenomena modifikasi perangkat lunak Openpilot oleh pengguna menambah lapisan kompleksitas baru. Ketika pengguna dapat mengubah perilaku sistem sesuai keinginan, pertanyaan tentang tanggung jawab dan akuntabilitas menjadi semakin kabur. Inilah tantangan yang harus dijawab oleh ekosistem open source jika ingin tetap relevan di tengah meningkatnya pengawasan regulasi.

Barring intervensi regulasi yang signifikan, masyarakat mungkin harus terbiasa berbagi jalan dengan lebih banyak “robot chauffeur” buatan sendiri. Perkembangan ini juga menjadi cerminan bagaimana adopsi teknologi AI di berbagai sektor, termasuk melalui pelatihan machine learning gratis, terus mendorong batas antara inovasi dan risiko yang perlu dikelola bersama.

Kasus Comma AI ini menunjukkan bahwa pertanyaan seputar keselamatan, regulasi, dan tanggung jawab dalam teknologi otonom tidak lagi bisa diabaikan. Dengan 30.000 kit yang diselidiki dan korban jiwa yang sudah jatuh, tekanan terhadap regulator dan pengembang untuk menciptakan kerangka keamanan yang lebih jelas akan semakin besar.