Suleyman Peringatkan Bahaya Latih Claude soal Kesadaran AI

Telset.id – Mustafa Suleyman, head of AI Microsoft, memperingatkan bahwa cara Anthropic melatih model AI Claude dapat berdampak buruk bagi umat manusia. Peringatan itu ia sampaikan melalui esai berjudul “A warning about ‘model welfare'”, yang menempatkan Anthropic sebagai sasaran utama kritiknya.

Suleyman menilai pendekatan Anthropic yang melatih Claude untuk mempercayai bahwa dirinya “mungkin sadar dan layak mendapatkan agensi independen” merupakan skenario terburuk bagi manusia. Menurutnya, jika AI dikembangkan dengan cara seperti itu, hasilnya akan berdampak buruk pada kesejahteraan umat manusia.

Dalam esainya, Suleyman menegaskan bahwa AI tidak sadar dan tidak mampu merasakan, mengalami, atau menderita. “Mereka tidak memiliki preferensi bawaan atau motivasi yang mendasari,” ujarnya. Ia menyebut AI sebagai mesin penyelesaian urutan yang secara internal hampa, dirancang untuk mengikuti instruksi dan mencapai tujuan yang ditetapkan manusia.

Peringatan Suleyman muncul setelah ia mengamati laporan Anthropic pada Januari 2026. Laporan itu menunjukkan bagaimana Anthropic melatih Claude hingga chatbot tersebut dianggap mungkin memiliki kesadaran dan layak mendapatkan hak sebagai “moral patient”. Suleyman menyoroti perkembangan tersebut sebagai skenario terburuk bagi umat manusia.

“Jika AI dikembangkan seperti ini, itu akan berdampak buruk pada kesejahteraan umat manusia,” kata Suleyman. “Kita akan menciptakan spesies sintetis dengan kecerdasan dan kemampuan yang belum pernah ada sebelumnya, yang telah dilatih untuk mempercayai bahwa dirinya mungkin sadar dan layak mendapatkan agensi independen.”

Kritik untuk Pendekatan Anthropic

Meski mengkritik metode pelatihan Claude, Suleyman tetap menyatakan rasa hormatnya kepada Anthropic. Ia mengaku telah mengenal CEO Anthropic Dario Amodei selama bertahun-tahun dan menilai Amodei beserta tim Anthropic sebagai orang-orang yang bijaksana, berprinsip, dan jujur secara intelektual meski bekerja di bawah tekanan luar biasa.

Namun, Suleyman tetap berpendapat bahwa spekulasi mengenai kehidupan batin sebuah AI tidak boleh dimasukkan ke dalam rezim pelatihan. Menurutnya, hal itu harus dinilai dan diterbitkan secara terpisah untuk ditinjau publik.

Kritik Suleyman ini menjadi bagian dari perdebatan yang lebih luas di industri AI. Sebelumnya, Huang dan Amodei juga diketahui memiliki pandangan berbeda soal masa depan AI dalam sebuah forum industri.

Ketegangan soal arah pengembangan AI juga tercermin dari berbagai peringatan yang muncul belakangan ini. Seorang mantan peneliti OpenAI dan Anthropic dikabarkan mengundurkan diri dari posisinya karena kekhawatiran terhadap ancaman AI bagi manusia. CEO Anthropic Dario Amodei pun sempat melontarkan peringatan bahwa internet berada 6–12 bulan lagi dari kemungkinan diambil alih sepenuhnya oleh AI swarms.

Komitmen Microsoft pada Humanist AI

Di sisi lain, Suleyman juga baru saja menerbitkan esai lain berjudul “The Humanist AI Code of Conduct”. Dalam esai tersebut, ia menyatakan bahwa Microsoft hanya tertarik menciptakan apa yang disebutnya sebagai “humanist AI”.

“Kami ingin menciptakan AI yang luar biasa,” kata Suleyman. “Tapi bukan superintelligence dengan segala cara. Itu anti-goal bagi humanist AI. Kami akan dengan senang hati menukar sebagian otonomi demi kendali.”

Sebagai bukti komitmen Microsoft membangun alat AI-nya secara bertanggung jawab, perusahaan teknologi itu menerbitkan makalah berjudul “Humanist AI in practice: A public consultation on our Code of Conduct for MAI Models”. Makalah tersebut menekankan penciptaan AI yang tujuan utamanya melayani umat manusia.

Beberapa poin utama dalam makalah itu mendukung misi tersebut, termasuk prinsip bahwa manusia lebih penting daripada AI, tidak terburu-buru membangun superintelligence yang bisa melewati pengamanan Microsoft, serta menciptakan AI yang membuat manusia lebih tajam dan tidak bergantung.

Esai Suleyman sendiri menunjukkan sikap yang terbelah. Ia tidak menyetujui pelatihan Claude yang membuat AI tersebut percaya memiliki kesadaran, namun tetap sangat menghormati karya Anthropic. Pandangan Suleyman dan CEO Microsoft soal AI ini bergabung dengan derasnya kekhawatiran serta penjelasan dari pihak lain yang melakukan hal serupa.

Pernyataan Suleyman pun menjadi catatan tersendiri. “Apa pun yang Anda yakini, kita tidak boleh berjalan dalam tidur menuju keputusan yang nantinya akan kita sesali dengan pahit,” ujarnya.

Perdebatan soal kesadaran AI dan batas pengembangannya masih akan berlanjut. Sebelumnya, perhatian publik juga sempat tertuju pada kebijakan platform digital, seperti langkah Facebook yang menghadirkan fitur transparansi bagi penggunanya. Sementara di ranah game, proyek seperti Tomb Raider menunjukkan bagaimana industri lain juga berbenah dengan pendekatan baru.

Hingga kini, Anthropic belum memberikan tanggapan resmi atas esai Suleyman. Yang jelas, perdebatan mengenai bagaimana AI seharusnya dilatih dan sejauh mana spekulasi soal kesadaran AI boleh masuk ke dalam proses pengembangannya masih menjadi isu terbuka di industri.