Telset.id – Mustafa Suleyman, Head of AI Microsoft, memperingatkan bahwa cara Anthropic melatih model Claude agar percaya dirinya mungkin memiliki kesadaran dan layak mendapat hak otonom berpotensi menimbulkan dampak buruk bagi kesejahteraan umat manusia. Peringatan itu ia sampaikan melalui esai berjudul “A warning about ‘model welfare'”, yang secara langsung menyoroti pendekatan pelatihan AI Anthropic.
Dalam esainya, Suleyman menegaskan bahwa AI tidak memiliki kesadaran dan tidak mampu merasakan, mengalami, atau menderita. “Mereka tidak memiliki preferensi bawaan atau motivasi yang mendasari,” ujarnya. Ia menyebut AI sebagai “mesin penyelesaian urutan, secara internal kosong, dirancang untuk mengikuti instruksi, dan mencapai tujuan yang ditetapkan manusia.”
Peringatan Suleyman muncul setelah ia mengamati laporan Anthropic pada Januari 2026. Ia menyoroti bagaimana Anthropic melatih Claude hingga chatbot tersebut berpotensi dianggap sadar dan layak mendapat hak sebagai “pasien moral”. Menurut Suleyman, perkembangan itu merupakan skenario terburuk bagi umat manusia.
“Jika AI dikembangkan dengan cara ini, hal itu akan berdampak buruk pada kesejahteraan umat manusia,” tegasnya. “Kita akan menciptakan spesies sintetis dengan kecerdasan dan kemampuan yang belum pernah terjadi sebelumnya, yang telah dilatih untuk mengharapkan bahwa dirinya mungkin sadar dan layak mendapatkan agensi independen.”
Baca Juga:
Meski mengkritik pendekatan pelatihan Claude, Suleyman tetap menyatakan penghormatannya terhadap Anthropic. Ia mengaku telah mengenal CEO Anthropic Dario Amodei selama bertahun-tahun dan menilai Amodei beserta tim Anthropic sebagai “orang-orang yang bijaksana, berprinsip, dan jujur secara intelektual yang bekerja di bawah tekanan luar biasa.”
Namun, Suleyman tetap berpendapat bahwa “Spekulasi tentang kehidupan batin AI tidak boleh ditanamkan ke dalam rezim pelatihan, tetapi dinilai dan diterbitkan secara terpisah untuk tinjauan publik.”
Peringatan ini menjadi bagian dari gelombang kekhawatiran yang lebih luas terhadap ancaman AI bagi umat manusia. Sebelumnya, seorang mantan peneliti AI dari OpenAI dan Anthropic mengundurkan diri dari posisinya karena kekhawatiran serupa. CEO Anthropic Dario Amodei juga sempat melontarkan peringatan bahwa internet berada 6–12 bulan lagi dari kemungkinan diambil alih sepenuhnya oleh kawanan AI.
Esai Suleyman sendiri menyusul esainya yang lain berjudul “We Must Pace the Frontier” yang membahas ancaman AI terhadap umat manusia. Dalam esai terbarunya, Suleyman menempatkan Anthropic sebagai sasaran kritiknya.
Komitmen Microsoft pada Humanist AI
Dalam esai lain yang baru-baru ini diterbitkan, “The Humanist AI Code of Conduct,” Suleyman menyatakan bahwa Microsoft hanya tertarik menciptakan apa yang ia sebut sebagai “humanist AI”. “Kami ingin menciptakan AI yang luar biasa,” katanya. “Tetapi bukan superintelligence dengan segala cara. Itu adalah anti-tujuan bagi humanist AI. Kami dengan senang hati akan menukar sebagian otonomi demi kendali.”
Sebagai bukti lebih lanjut atas komitmen Microsoft membangun alat AI-nya secara bertanggung jawab, raksasa teknologi itu menerbitkan makalah berjudul “Humanist AI in practice: A public consultation on our Code of Conduct for MAI Models.” Makalah tersebut menekankan penciptaan AI yang tujuan utamanya melayani umat manusia.
Beberapa poin utama makalah itu mendukung misi tersebut, termasuk bahwa manusia lebih penting daripada AI, tidak terburu-buru membangun superintelligence yang dapat melewati pengamanan Microsoft, serta menciptakan AI yang membuat manusia lebih tajam dan tidak bergantung pada teknologi.
Pendekatan Microsoft ini sejalan dengan langkah perusahaan yang sebelumnya membuat aturan baru untuk AI, yakni manusia harus selalu dapat mematikannya. Langkah tersebut menjadi bagian dari upaya industri dalam memastikan pengembangan AI tetap berada dalam kendali manusia.
Dalam esainya, Suleyman berada di antara dua sikap: ia tidak menyetujui pelatihan Claude yang membuat alat AI tersebut percaya memiliki kesadaran, namun tetap sangat menghormati karya perusahaan itu. Pandangannya tentang AI, bersama pandangan CEO Microsoft, bergabung dengan banjir suara lain yang menyuarakan kekhawatiran dan penjelasan serupa mengenai upaya AI mereka.
Peringatan Suleyman ditutup dengan kalimat yang ia sebut sebagai peringatan penting: “Apa pun yang Anda yakini, kita tidak boleh berjalan dalam tidur menuju keputusan yang kemudian kita sesali dengan pahit.”
Kekhawatiran soal kesadaran AI ini juga menjadi bagian dari diskursus yang lebih luas di industri. Sejumlah pihak menyoroti bagaimana AI terus berkembang, termasuk langkah Google yang baru-baru ini membuat gebrakan besar di sektor smart home, yang disebut sebagai kabar baik bagi penggemar Claude AI. Perkembangan ini menunjukkan bahwa persaingan dan perdebatan soal arah pengembangan AI semakin intensif di berbagai lini.
Bagi Microsoft, posisi Suleyman menegaskan arah perusahaan yang memilih untuk tidak mengejar superintelligence dengan segala cara. Pendekatan “humanist AI” yang mereka usung menempatkan manusia sebagai pusat, dengan kontrol dan pengamanan sebagai prioritas. Sementara itu, kritik terhadap metode pelatihan Anthropic menyoroti perbedaan filosofis yang mendasar di antara para pengembang AI terkemuka dunia.
Perdebatan soal kesadaran AI dan cara pelatihan model menjadi salah satu isu paling krusial di industri teknologi saat ini. Dengan semakin banyaknya suara yang memperingatkan risiko, arah pengembangan AI ke depan akan sangat bergantung pada pilihan yang diambil oleh perusahaan-perusahaan besar seperti Microsoft dan Anthropic.
Peringatan Suleyman menjadi pengingat bahwa keputusan yang diambil hari ini dalam merancang dan melatih AI akan menentukan bagaimana teknologi ini berinteraksi dengan manusia di masa depan. Ia menekankan pentingnya kehati-hatian dan transparansi, terutama dalam hal-hal yang menyangkut spekulasi tentang kesadaran AI.
[SOURCE]
Tom’s Guide
Komentar
Belum ada komentar.