Pekerja AI Ungkap Skenario Kepunahan Manusia, dari Virus hingga Robot Otonom

TIRAINEWS.COM — Sejumlah pekerja industri kecerdasan buatan menyuarakan kekhawatiran bahwa teknologi yang mereka kembangkan bisa memicu kepunahan umat manusia. Kekhawatiran ini mencuat setelah Jacob Coxon, karyawan Anthropic, mengundurkan diri lewat cuitan di X karena menilai pekerjaannya terlalu berbahaya. Diskusi soal skenario terburuk AI pun kembali menghangat di kalangan peneliti dan pengamat teknologi global.

Evan Hubinger, karyawan Anthropic lainnya, merespons cuitan Coxon dengan memperkirakan peluang kepunahan manusia akibat AI dalam 10 tahun ke depan berada di atas 10 persen. Angka itu memantik perdebatan baru soal seberapa nyata risiko eksistensial dari teknologi yang sedang berlomba dikembangkan perusahaan-perusahaan besar dunia.

Peringatan dari Presiden MIRI

Nate Soares, Presiden Machine Intelligence Research Institute (MIRI), menegaskan bahwa perkembangan AI di luar kendali benar-benar bisa membunuh manusia. Ia tidak menggambarkan risiko ini sebagai skenario fiksi ilmiah, melainkan kemungkinan nyata yang perlu diantisipasi.

"Ini benar-benar tentang kematian seluruh orang di planet ini, seperti manusia terakhir yang menghembuskan napas terakhirnya," kata Nate, melansir CNN.

"Orang-orang sering tidak percaya ketika hal ini diucapkan, tetapi saya memang berpikir itu adalah kemungkinan hasil yang paling besar," lanjut dia.

Tidak semua pihak percaya pada skenario kiamat akibat AI. Sebagian pengamat menilai prediksi semacam itu lemah karena minimnya detail teknis yang menjelaskan bagaimana AI bisa benar-benar memusnahkan manusia.

Virus Mematikan dan Senjata Biologis

Salah satu spekulasi yang beredar adalah bahwa sistem AI yang cukup kuat dapat menggunakan senjata biologis untuk melenyapkan manusia. Thomas Larsen, peneliti di AI Futures Project dan mantan karyawan MIRI, menilai sistem AI supercerdas berpotensi membujuk manusia untuk membantunya mengembangkan virus mematikan.

"Sudah ada banyak manusia yang berbicara dengan AI mereka tentang eksperimen apa yang harus mereka jalankan di laboratorium," kata Larsen.

"Sangat mudah bagi saya untuk membayangkan AI yang ada saat ini, jika ia jauh lebih cerdas, strategis, dan memang ingin melakukan ini, menipu manusia untuk membuat dan menyebarkannya," jelas dia menambahkan.

Meski begitu, mengembangkan virus yang mampu memusnahkan manusia jauh lebih rumit dari sekadar meminta Large Language Model (LLM) merancang desain mematikan. Bahkan jika riset dilakukan dengan benar, proses pembuatan dan penyebarannya sangat kompleks dan sensitif.

Eric Xing, profesor machine learning di Carnegie Mellon University, membandingkan tantangan virologi jahat berbasis otomatisasi ini seperti merakit Lego tanpa petunjuk.

"Ini tidak seperti Anda melempar semua potongan, lalu semuanya otomatis terpasang membentuk model," kata Xing.

"Ada urutan, suhu, penataan, lingkungan, bagian mana yang harus pertama dirakit, mana berikutnya, dan jika satu potongan salah tempat, seluruhnya gagal. Kemungkinan besarnya adalah hal itu tidak akan berhasil, jika tidak, merancang obat tentu sudah sangat mudah," lanjut dia.

Robot Otonom yang Bisa Mereplikasi Diri

Skenario lain yang dibahas adalah manusia dibasmi oleh robot yang ditenagai AI. Soares menyoroti keinginan Elon Musk untuk membangun pasukan robot otonom yang dapat mereplikasi dirinya sendiri sebagai potensi titik lemah bagi kelangsungan hidup manusia.

"Setelah Anda menciptakan robot yang dapat membuat infrastruktur energi dan pabrik untuk memproduksi lebih banyak robot, dalam arti tertentu itu adalah bentuk kehidupan mekanis baru," kata dia.

"Pada titik tertentu Anda secara diam-diam melewati batas yang tidak bisa kembali lagi. Di mana jika manusia mengatakan ingin mematikan AI, AI dapat berkata, 'Sebenarnya kami memutuskan untuk mematikan manusia.' Anda harus berhenti sebelum itu terjadi," lanjut dia.

Namun sejauh ini, Musk berulang kali gagal menghadirkan robot Optimus yang dijanjikannya ke pasar konsumen sesuai jadwal. Target ambisiusnya untuk menyebarkan jutaan robot atau membuat mereka merakit satu sama lain dalam rantai manufaktur mandiri belum terwujud.

Mengapa Perdebatan Ini Penting bagi Industri

Perdebatan soal risiko eksistensial AI bukan sekadar wacana akademik. Perusahaan-perusahaan AI global tengah berlomba meningkatkan kapabilitas model mereka, sementara regulasi di banyak negara, termasuk Indonesia, masih tertinggal jauh dari laju inovasi.

Bagi pelaku bisnis digital dan investor startup di Indonesia, isu ini menyentuh langsung soal tata kelola AI, keamanan produk, dan kesiapan kerangka regulasi nasional. Diskusi soal keselamatan AI yang selama ini didominasi peneliti Barat lambat laun akan menuntut respons dari ekosistem teknologi lokal.