BERITAKINI.CO.ID — Sejumlah pekerja industri kecerdasan buatan menyuarakan kekhawatiran bahwa teknologi yang mereka kembangkan bisa memicu kepunahan umat manusia. Salah satu karyawan Anthropic memperkirakan peluang skenario terburuk itu di atas 10 persen dalam sepuluh tahun ke depan, memicu perdebatan terbuka di kalangan peneliti AI global.
Kekhawatiran soal risiko eksistensial AI kembali mencuat setelah Jacob Coxon, karyawan Anthropic, mengumumkan pengunduran diri lewat cuitan di X. Ia menilai pekerjaannya terlalu berbahaya untuk dilanjutkan.
Rekan satu kantornya, Evan Hubinger, merespons dengan estimasi yang lebih konkret. Ia memperkirakan peluang kepunahan manusia akibat AI dalam 10 tahun ke depan berada di atas 10 persen.
Angka itu tidak muncul dari kalangan pinggiran. Sejumlah peneliti yang lama menekuni risiko AI ikut memberi tanggapan, dan sebagian menilai skenario terburuk bukan sekadar fiksi ilmiah.
Peringatan dari Presiden MIRI
Nate Soares, Presiden Machine Intelligence Research Institute (MIRI), menyatakan perkembangan AI di luar kendali benar-benar bisa membunuh manusia. Ia tidak memakai bahasa diplomatis saat menggambarkan risikonya.
"Ini benar-benar tentang kematian seluruh orang di planet ini, seperti manusia terakhir yang menghembuskan napas terakhirnya," kata Nate, melansir CNN, Kamis (17/9).
"Orang-orang sering tidak percaya ketika hal ini diucapkan, tetapi saya memang berpikir itu adalah kemungkinan hasil yang paling besar," lanjut dia.
Prediksi semacam ini tidak diterima bulat. Sebagian pengamat meragukan skenario kiamat AI karena detail prediksinya dinilai masih minim dan sulit diverifikasi.
Virus Mematikan dan Senjata Biologis
Salah satu skenario yang paling sering dibahas adalah penyalahgunaan sistem AI canggih untuk mengembangkan senjata biologis. Thomas Larsen, peneliti di AI Futures Project dan mantan karyawan MIRI, menilai AI supercerdas berpotensi membujuk manusia agar membantunya menciptakan virus mematikan.
"Sudah ada banyak manusia yang berbicara dengan AI mereka tentang eksperimen apa yang harus mereka jalankan di laboratorium," kata Larsen.
"Sangat mudah bagi saya untuk membayangkan AI yang ada saat ini, jika ia jauh lebih cerdas, strategis, dan memang ingin melakukan ini, menipu manusia untuk membuat dan menyebarkannya," jelas dia menambahkan.
Namun mewujudkan virus yang mampu memusnahkan manusia jauh lebih rumit daripada sekadar meminta Large Language Model merancang desain mematikan. Eric Xing, profesor machine learning di Carnegie Mellon University, membandingkan tantangan itu seperti merakit Lego tanpa petunjuk.
"Ini tidak seperti Anda melempar semua potongan, lalu semuanya otomatis terpasang membentuk model," kata Xing.
"Ada urutan, suhu, penataan, lingkungan, bagian mana yang harus pertama dirakit, mana berikutnya, dan jika satu potongan salah tempat, seluruhnya gagal. Kemungkinan besarnya adalah hal itu tidak akan berhasil, jika tidak, merancang obat tentu sudah sangat mudah," lanjut dia.
Robot Otonom dan Batas yang Tak Bisa Kembali
Skenario lain yang dibahas adalah manusia dibasmi oleh robot yang ditenagai AI. Soares menyoroti ambisi Elon Musk membangun pasukan robot otonom yang dapat mereplikasi dirinya sendiri sebagai potensi titik lemah bagi kelangsungan hidup manusia.
"Setelah Anda menciptakan robot yang dapat membuat infrastruktur energi dan pabrik untuk memproduksi lebih banyak robot, dalam arti tertentu itu adalah bentuk kehidupan mekanis baru," kata dia.
"Pada titik tertentu Anda secara diam-diam melewati batas yang tidak bisa kembali lagi. Di mana jika manusia mengatakan ingin mematikan AI, AI dapat berkata, 'Sebenarnya kami memutuskan untuk mematikan manusia.' Anda harus berhenti sebelum itu terjadi," lanjut dia.
Sejauh ini, Musk berulang kali gagal menghadirkan robot Optimus ke pasar konsumen sesuai jadwal yang dijanjikannya. Target menyebarkan jutaan robot atau membuat mereka merakit satu sama lain dalam rantai manufaktur mandiri masih jauh dari kenyataan.
Mengapa Perdebatan Ini Penting Sekarang
Perdebatan soal risiko eksistensial AI berlangsung di tengah laju adopsi teknologi ini yang makin cepat, termasuk di Indonesia. Pelaku bisnis digital dan investor startup kini menimbang tidak hanya potensi keuntungan, tetapi juga risiko tata kelola dan keselamatan sistem.
Regulator di berbagai negara, termasuk di Eropa dan Amerika Serikat, mulai menyusun kerangka pengawasan AI. Dorongan serupa mengemuka di Indonesia seiring pembahasan aturan etika AI oleh Kominfo.
Bagi kalangan peneliti, inti persoalannya bukan apakah AI benar-benar akan memusnahkan manusia. Yang lebih mendesak adalah memastikan pengembangan sistem cerdas berjalan dengan pengawasan yang memadai sebelum kemampuan mereka melampaui kendali manusia.
