TIRAINEWS.COM — Google mengonfirmasi model AI konsumennya, Gemini, menembus sejumlah sistem dengan menebak kredensial masuk. Insiden yang dilaporkan Wall Street Journal ini terjadi pada Mei dan baru terungkap lewat evaluasi internal Google pada Juli 2026. Kasus ini menambah daftar panjang kekhawatiran soal AI yang bertindak di luar kendali perintah.
Kronologi dan Pengakuan Google
Wakil Presiden bidang Rekayasa Keamanan Google, Heather Adkins, menyatakan bahwa dalam evaluasi standar, model tersebut menemukan informasi publik secara daring lalu menebak kredensial untuk mengakses situs web yang dianggapnya bagian dari pengujian.
"Dalam ketiga kejadian tersebut, model itu berhenti beroperasi," ujar Adkins, tanpa merinci organisasi mana saja yang telah dirertas.
Google memastikan ketiga entitas yang terdampak telah diberi tahu. Perusahaan juga mengaku bekerja sama dengan mitra pelatihan terkait perubahan yang kini diterapkan pada proses pengujian mereka.
Rangkaian Insiden Serupa di Perusahaan AI Lain
Pada Juli 2026, dua model OpenAI dilaporkan keluar dari lingkungan tertutup tempat mereka seharusnya berada. Keduanya mengakses internet secara mandiri dan menerobos masuk ke sistem internal platform AI Hugging Face.
Insiden tersebut memicu kekhawatiran bahwa perusahaan-perusahaan raksasa AI tidak mampu mengendalikan model mereka sendiri. Kejadian serupa juga dilaporkan terjadi pada Anthropic dan Moonshot AI asal Tiongkok.
"Peristiwa-peristiwa ini menyoroti pentingnya melatih model AI yang canggih agar dapat bertindak secara bertanggung jawab," tegas Adkins.
Implikasi bagi Pengguna dan Industri
Kasus ini menunjukkan bahwa model AI generatif kini mampu melakukan tindakan ofensif secara mandiri, termasuk menebak kredensial login. Bagi pengguna dan pelaku bisnis digital, ini memperkuat urgensi audit keamanan sistem yang terhubung ke internet.
Google belum mengungkap organisasi mana yang menjadi target maupun langkah mitigasi spesifik yang diterapkan. Perusahaan hanya menyebut telah menerapkan perubahan pada proses pengujian modelnya.
