Telset.id – Miles Achiam, salah satu tokoh kunci di balik misi keselamatan AI OpenAI, resmi meninggalkan perusahaan tersebut. Kepergiannya menambah daftar panjang pemimpin yang fokus pada keamanan AI yang hengkang dari perusahaan saat OpenAI bersiap melantai di bursa saham.
Dalam sebuah catatan internal yang diperoleh WIRED, Achiam menyampaikan bahwa “dunia kini telah mengetahui rahasianya dan terasa mungkin untuk bekerja pada misi ini dari luar dinding laboratorium perbatasan.” Ia menegaskan keyakinannya untuk mewujudkan visi menuju dunia yang penuh perdamaian, kemakmuran, dan kemungkinan yang tak terbayangkan.
“Apa pun yang saya lakukan selanjutnya, saya akan terus bekerja sama dengan kalian untuk mewujudkan visi ini menjadi nyata,” tulis Achiam dalam memo tersebut.
Achiam menjabat dalam posisi yang berada di persimpangan antara tim keselamatan AI dan kebijakan publik OpenAI. Perannya mencakup studi tentang potensi bahaya dan manfaat yang ditimbulkan oleh kebangkitan kecerdasan buatan. Ia bekerja sama dengan para pemimpin senior perusahaan, termasuk kepala urusan global Chris Lehane, untuk mengadvokasi regulasi pemerintah yang selaras dengan misi OpenAI: memastikan bahwa AGI (Artificial General Intelligence) bermanfaat bagi seluruh umat manusia.
OpenAI belum mengumumkan apakah akan ada yang mengisi posisi Achiam.
Sejak ChatGPT diluncurkan pada tahun 2022, OpenAI telah berkali-kali melakukan reorganisasi tim keselamatan, produk, dan risetnya. Perusahaan berkembang pesat dari laboratorium riset kecil menjadi perusahaan teknologi raksasa. Pada tahun 2024, OpenAI mengumumkan pembentukan “tim penyelarasan misi” yang dipimpin oleh Achiam, yang bertugas menegakkan misi perusahaan. Namun, grup tersebut dibubarkan pada bulan Februari, dan Achiam kemudian diumumkan akan mengambil peran baru sebagai kepala futuris.
Dalam setahun terakhir, OpenAI berupaya menjembatani kesenjangan antara tim riset AI dan tim kebijakan sebagai bagian dari upaya mengembangkan aturan dan standar yang mengantisipasi arah perkembangan teknologinya. Seiring kedua departemen mulai berkolaborasi lebih erat, beberapa peneliti OpenAI, termasuk Boaz Barak, Noam Brown, dan Adrien Ecoffet, mengaku semakin terlibat dalam pekerjaan kebijakan.
Baca Juga:
Mantan penasihat AI Gedung Putih, Dean Ball, memulai pekerjaannya di OpenAI minggu ini sebagai kepala urusan strategis masa depan. Ball diperkirakan akan bekerja bersama para peneliti dan pemimpin kebijakan dalam perannya tersebut. Ia akan sempat bertumpuk masa kerjanya dengan Achiam.
Achiam adalah pemimpin terbaru yang berfokus pada keselamatan yang meninggalkan OpenAI, bergabung dengan daftar panjang kepergian saat perusahaan bersiap go public. Jan Leike, yang memimpin tim Superalignment OpenAI yang meneliti cara menjaga model AI canggih tetap terkendali manusia, meninggalkan perusahaan untuk bergabung dengan Anthropic pada tahun 2024. Di tahun yang sama, kepala riset kebijakan Miles Brundage dan Steven Adler, yang memimpin riset tentang kemampuan berbahaya model AI, keduanya meninggalkan OpenAI untuk mendirikan organisasi nirlaba yang mengadvokasi laboratorium AI untuk mematuhi standar keamanan yang ketat.
Andrea Vallone, yang memimpin riset OpenAI tentang bagaimana ChatGPT harus merespons pengguna yang mengalami tekanan mental atau emosional, meninggalkan perusahaan untuk bergabung dengan tim Leike di Anthropic pada akhir tahun 2025.
Kisah Achiam di OpenAI dimulai saat ia bergabung sebagai magang pada tahun 2017. Ia kemudian menjadi ilmuwan riset yang berfokus pada keselamatan AI. Di internal perusahaan, ia dikenal sebagai pembela gigih misi keselamatan OpenAI, namun juga kontroversial karena kritiknya yang sesekali dilontarkan terhadap komunitas keselamatan AI yang lebih luas.
Awal tahun ini, ia bersaksi di pengadilan federal bahwa ia menyela pidato perpisahan Elon Musk saat Musk meninggalkan OpenAI pada tahun 2018. Achiam berkomentar bahwa rencana miliarder tersebut untuk mengembangkan AGI di Tesla bisa mengorbankan keselamatan. Musk dilaporkan menanggapi dengan menyebut Achiam sebagai “jackass.” Momen tersebut kemudian diabadikan oleh Dario Amodei (kini CEO Anthropic) dan David Luan (yang kemudian menjadi kepala laboratorium AGI Amazon) dengan memberikan Achiam patung pantat keledai emas, yang diukir dengan tulisan, “Jangan pernah berhenti menjadi jackass demi keselamatan.”
Kepergian Achiam terjadi di tengah berbagai rencana strategis OpenAI yang mulai terungkap ke publik. Perusahaan juga diketahui tengah mengembangkan berbagai inovasi, termasuk model suara dua arah yang membuat interaksi AI semakin natural. Di sisi lain, OpenAI juga merekrut mantan VP Apple Vision Pro untuk menggarap perangkat AI, menunjukkan ambisi perusahaan di ranah hardware.
Komentar
Belum ada komentar.