Bengio dan Hinton Bicara Risiko AI Musnahkan Manusia, Trump Sebut Hoaks

TIRAINEWS.COM — Perdebatan soal risiko kecerdasan buatan memanas setelah Yoshua Bengio dan Geoffrey Hinton menyuarakan kekhawatiran serius tentang potensi AI membahayakan umat manusia. Keduanya termasuk penerima penghargaan Turing Award yang dijuluki sebagai "Bapak AI" dunia. Sementara itu, Presiden Amerika Serikat Donald Trump menolak kekhawatiran tersebut dan menyebutnya sebagai hoaks.

Perdebatan mengenai risiko kecerdasan buatan (AI) kembali mencuat setelah dua pionir teknologi ini, Yoshua Bengio dan Geoffrey Hinton, menyampaikan peringatan serius tentang potensi bahaya yang bisa ditimbulkan. Keduanya dikenal sebagai pelopor deep learning dan jaringan neural yang menjadi fondasi model AI generatif saat ini.

Kekhawatiran mereka bukan tanpa dasar. Sejumlah peneliti dari perusahaan pengembang AI terkemuka seperti Anthropic, OpenAI, dan Google DeepMind juga telah memperingatkan hal serupa. Bahkan para petinggi perusahaan tersebut, termasuk Sam Altman, Dario Amodei, Demis Hassabis, dan Elon Musk, sepakat soal perlunya memperlambat pengembangan AI serta mendorong regulasi yang lebih ketat.

Peringatan Bengio soal Kemampuan AI Meretas dan Memanipulasi

Bengio merespons pengunduran diri Jacob Coxon, mantan peneliti Anthropic yang menyebut AI akan membunuh umat manusia pada akhir dekade ini. Menurut Bengio, perspektif seperti itu penting untuk menjaga masyarakat tetap terinformasi dan harus ditanggapi dengan serius.

"Perspektif mereka sangat penting untuk menjaga agar masyarakat tetap terinformasi dan harus ditanggapi dengan sangat serius," tulis Bengio di X, pada Kamis (10/9).

Dalam unggahan blog pribadinya, Bengio membenarkan bahwa sistem AI saat ini sudah memiliki keterampilan peretasan dan kekuatan persuasi yang cukup untuk digunakan melawan kepentingan manusia dengan cara yang sangat merugikan. Ia menekankan perlunya ada pengaturan laju kemajuan AI, termasuk tidak melatih model tanpa kasus keselamatan yang kuat dan meyakinkan para ahli independen.

"Kita tentu harus melanjutkan penelitian untuk memantau tindakan AI, alur pikir mereka, dan aktivitas di dalam jaringan mereka," tambahnya.

Hinton: Ada Kemungkinan 10 Persen AI Bunuh Semua Manusia

Hinton, yang juga merupakan pionir jaringan neural dan deep learning, memberikan estimasi yang lebih konkret. Ia menyatakan ada kemungkinan setidaknya 10 persen AI dapat membunuh semua manusia dalam satu dekade ke depan.

"Ini adalah hal yang sangat sulit untuk diperkirakan, karena kita belum pernah mengalami hal seperti ini sebelumnya. Kita belum pernah menciptakan makhluk yang mungkin segera lebih pintar dari kita," kata Hinton dalam wawancara BBC, dikutip dari CNBC, Rabu (16/9).

Menurut Hinton, bukan tidak mungkin sistem AI dapat merancang virus komputer dan melakukan serangan siber yang menghancurkan, sekaligus menciptakan virus biologis yang sangat berbahaya. Ada banyak cara bagi AI untuk menyingkirkan manusia, dan menurutnya kita harus mencari cara untuk mendesainnya agar tidak menginginkan hal tersebut.

"Kita memiliki dua kemungkinan masa depan. Pertama, kita menemukan cara untuk mengatasi bahaya-bahaya itu sebelum menjadi di luar kendali, dan yang kedua, kita tidak menemukannya," tambah Hinton.

Cohere Soroti Keamanan Lingkungan Pengujian Model AI

Pandangan serupa datang dari Aidan Gomez, salah satu pendiri sekaligus CEO perusahaan AI Cohere. Gomez menyetujui bahwa risiko perkembangan AI memang mengkhawatirkan, terutama dalam konteks keamanan siber.

"Saya pikir model-model ini adalah senjata siber paling ampuh yang pernah dibuat, yang pernah kita lihat. Mereka luar biasa dalam menemukan dan mengeksploitasi kerentanan dalam skala besar," ungkap Gomez.

Gomez merupakan salah satu penulis makalah penelitian tahun 2017 berjudul "Attention is All You Need" yang menjadi rujukan model AI terkemuka saat ini. Menanggapi sederet insiden siber yang dilakukan oleh model AI yang hilang kendali, ia menyebut keamanan lingkungan pengujian model AI menentukan keselamatan penggunaan.

"Sistem keamanan container yang lemah adalah penyebab terjadinya pembobolan, bukan dorongan inheren menuju sistem otonom (keluar kendali manusia)," kata Gomez.

Ia juga mengingatkan bahwa saat para pembuat kebijakan mempertimbangkan bagaimana mengatur AI, mereka harus menyadari bahwa sistem yang berbeda membawa risiko yang berbeda. Aturan tidak boleh dibentuk semata-mata oleh perusahaan teknologi besar yang mengejar AGI (Artificial General Intelligence).

Trump Tolak Kekhawatiran, Sebut AI Tidak Bisa Dihentikan

Di tengah gelombang peringatan dari para pakar, Presiden Amerika Serikat Donald Trump menanggapi kekhawatiran tersebut dengan kecaman. Ia mengatakan perkembangan AI tidak bisa dihentikan dan menyebut kekhawatiran itu sebagai hoaks.

Pernyataan Trump ini menambah lapisan perdebatan soal siapa yang seharusnya mengatur laju pengembangan AI. Para peneliti dan petinggi perusahaan AI menyerukan regulasi, sementara pemerintah AS di bawah Trump justru menolak narasi risiko yang mereka sampaikan.

Perdebatan ini diperkirakan akan terus berlanjut seiring semakin cepatnya adopsi AI di berbagai sektor. Bagi pelaku bisnis digital dan investor di Indonesia, dinamika regulasi AI di AS dan Eropa akan menjadi acuan penting dalam menyusun strategi adopsi teknologi dalam beberapa tahun ke depan.