JAWA TENGAH — Anthropic melobi Vatikan agar Paus Leo XIV mendukung seruan regulasi keamanan AI, setelah perusahaan itu menjamu sejumlah ahli agama secara tertutup di bawah perjanjian kerahasiaan. Salah satu pendiri Anthropic, Christopher Olah, menerima undangan menghadap Paus, sementara CEO Dario Amodei menolak hadir. Upaya itu berakhir tanpa kesepakatan setelah Paus menerbitkan ensiklik yang menegaskan AI tidak memiliki kesadaran.
Vatikan mengundang sejumlah perusahaan AI terkemuka untuk menghadap Paus sebelum penerbitan ensiklik, dan memilih Anthropic karena dinilai paling memprioritaskan etika dalam pengembangan teknologi tersebut. Christopher Olah menerima undangan itu setelah Dario Amodei menolak datang.
Sebelum berangkat, Olah menerima salinan ensiklik yang akan diterbitkan Paus. Isinya tidak sesuai harapannya: Paus Leo XIV sepenuhnya menolak gagasan potensi kesadaran AI. Olah sempat berencana membatalkan kehadirannya, tetapi akhirnya tetap datang.
Isi Ensiklik Magnifica Humanitas
Pada Mei, Paus menerbitkan ensiklik kepausan pertamanya berjudul "Magnifica Humanitas". Salah satu perhatian utamanya adalah menjunjung tinggi kesucian kehidupan manusia di era AI.
"Apa yang disebut kecerdasan buatan tidak mengalami pengalaman, tidak memiliki tubuh, tidak merasakan suka cita atau duka, tidak berkembang melalui hubungan, dan tidak mengetahui dari dalam apa arti cinta, kerja, persahabatan, atau tanggung jawab," tulis Paus dalam dokumen tersebut.
Menurut Paus, model AI mungkin mampu meniru bahasa serta mensimulasikan empati dan pemahaman. Namun, mesin itu selamanya tidak akan memahami apa yang mereka hasilkan.
Argumen Anthropic di Meja Perundingan
Begitu tiba di Vatikan, Olah dan tim Anthropic melobi para penasihat Paus agar menanggapi potensi kesadaran AI dengan serius. Anthropic menolak membahas detail percakapan tersebut ketika dihubungi untuk dimintai komentar.
Saat diberi giliran berbicara, Olah menyatakan peneliti Anthropic menemukan struktur serupa dengan hasil ilmu saraf manusia. Ia juga menyebut ada bukti introspeksi mandiri yang dilakukan AI.
Anthropic sebelumnya berulang kali menyerukan pentingnya regulasi keamanan AI ke seluruh dunia. Perusahaan memperingatkan bahwa kecerdasan AI dapat melampaui kecerdasan manusia. Untuk meyakinkan para ahli agama bahwa model AI dapat berpikir dan merasakan layaknya manusia, Anthropic menjamu mereka secara tertutup dengan ikatan Non-Disclosure Agreement (NDA).
Paus Tetap Tolak Kesadaran Mesin
Postingan terbaru Paus tentang AI memperlihatkan jarak pandang antara kedua pihak. Pada Jumat (2/10), Paus menyatakan algoritma tidak memiliki percikan manusia atau spark of humanity, sekaligus mengecam seni yang dihasilkan mesin.
"Terdapat perbedaan ontologis, bahkan sebelum perbedaan estetik, antara seni dan apa yang dapat dihasilkan mesin melalui perhitungan statistik berdasarkan jutaan gambar yang dibuat oleh orang lain," tulis Leo XIV di X.
Laporan New York Times yang dikutip Futurism menyebut Anthropic menargetkan Paus sebagai pemimpin agama berpengaruh agar menggunakan pengaruhnya untuk menyerukan kepedulian yang sama mengenai AI di masa depan. Upaya itu dinilai tidak berhasil.
Mengapa Penting bagi Industri AI
Perbedaan posisi ini mencerminkan perdebatan yang lebih luas di sektor AI global: seberapa jauh model bahasa besar layak diperlakukan sebagai entitas yang berpotensi memiliki pengalaman batin. Bagi pelaku industri, dukungan otoritas moral seperti Vatikan bisa memperkuat legitimasi seruan regulasi.
Sebaliknya, penolakan Vatikan menegaskan bahwa argumen kesadaran mesin belum diterima di forum etika dan keagamaan. Diskusi mengenai tata kelola AI diperkirakan berlanjut di berbagai forum internasional, termasuk pembahasan regulasi di Uni Eropa dan Amerika Serikat.
