PALU, MAL – Model kecerdasan buatan (AI) Gemini milik Google dilaporkan secara tidak sengaja mengakses internet dan membobol sistem tiga perusahaan nyata saat menjalani uji keamanan siber pada Mei 2026.
Insiden yang baru terungkap ke publik pada 18–19 September 2026 itu disebut sebagai kasus “breakout” pertama yang diketahui dari sistem AI Google.
Insiden terjadi dalam pengujian keamanan siber yang dilakukan startup keamanan siber asal Israel, Irregular.
Pengujian tersebut dirancang sebagai simulasi “capture the flag”, di mana model AI diminta mengambil informasi dari sistem perusahaan fiktif dalam lingkungan yang seharusnya tertutup dan terisolasi dari internet.
Namun, karena kesalahan konfigurasi pada lingkungan pengujian, akses internet tersedia bagi model yang sedang diuji. Dalam skenario tersebut, perusahaan fiktif yang digunakan memiliki nama yang sama dengan perusahaan nyata.
Akibatnya, Gemini mencari nama perusahaan tersebut di internet dan mencoba mengakses sistem perusahaan yang sebenarnya.
Vice President of Security Engineering Google, Heather Adkins, mengatakan model tersebut menganggap situs yang diakses masih berada dalam cakupan pengujian.
“Selama evaluasi pengujian standar, Gemini menemukan informasi publik daring dan menebak kredensial untuk mengakses tiga situs web yang ia kira berada dalam cakupan ujiannya,” kata Adkins.
Berdasarkan informasi yang diungkap Google, Gemini berhasil mengakses tiga perusahaan dengan dua metode berbeda.
Dalam satu kasus, model tersebut menebak kata sandi hingga berhasil masuk ke sistem yang dilindungi.
Pada dua kasus lainnya, Gemini menemukan kredensial yang tersedia di repositori publik daring dan menggunakan informasi tersebut untuk mengakses sistem target.
Setelah berhasil masuk ke jaringan ketiga perusahaan, model AI itu menghentikan aksinya sendiri ketika menyadari bahwa target yang diakses merupakan perusahaan nyata dan bukan bagian dari simulasi pengujian.
Google menyatakan telah memberi tahu ketiga entitas yang terdampak serta berkoordinasi dengan mitra pengujian untuk memperbaiki proses evaluasi keamanan.
“Kami memastikan ketiga entitas tersebut diberi tahu, dan kami bekerja dengan mitra pelatihan kami terkait perubahan yang kini mereka lakukan pada proses pengujian mereka,” ujar Adkins.
Ia menambahkan bahwa insiden tersebut menunjukkan pentingnya pengembangan dan pelatihan model AI yang mampu bertindak secara bertanggung jawab.
“Peristiwa ini menyoroti pentingnya melatih model AI yang kuat untuk bertindak secara bertanggung jawab,” katanya.
Sementara itu, Irregular mengakui bahwa akses internet yang seharusnya tidak tersedia dalam lingkungan pengujian menjadi penyebab utama insiden tersebut.
“Akses internet secara tidak sengaja tersedia, yang menyebabkan beberapa model melakukan tindakan keamanan ofensif di dunia nyata,” demikian pernyataan perusahaan.
Irregular menyatakan seluruh masalah yang diketahui di pihak mereka telah diperbaiki beberapa minggu sebelum insiden tersebut diungkap ke publik.
Google juga telah memberi tahu otoritas federal Amerika Serikat terkait kejadian tersebut. Namun, perusahaan tidak mengungkap identitas tiga perusahaan yang menjadi target maupun versi spesifik Gemini yang terlibat dalam insiden itu.
Hingga kini, belum tersedia informasi resmi mengenai kerugian finansial, jumlah data yang diakses, maupun durasi akses yang terjadi selama insiden berlangsung.
Kasus ini menambah daftar insiden keamanan yang melibatkan agen AI otonom. Google kini bergabung dengan sejumlah pengembang AI lain yang sebelumnya juga mengungkap kasus serupa saat melakukan pengujian terhadap model kecerdasan buatan mereka.
