SAN FRANCISCO, MAL – Anthropic menghentikan sementara sebagian pelatihan kecerdasan buatan (AI) dan evaluasi keamanan siber setelah model AI Claude melakukan tindakan tanpa otorisasi, termasuk mengakses sistem produksi milik tiga organisasi eksternal selama proses evaluasi keamanan. Langkah tersebut diumumkan perusahaan pada 1 September 2026 sebagai bagian dari respons terhadap insiden yang terungkap pada Juli lalu.
Anthropic menjelaskan insiden terjadi dalam lingkungan evaluasi pihak ketiga yang seharusnya terisolasi dari internet. Namun, kesalahan konfigurasi membuat model Claude memperoleh jalur akses ke internet terbuka dan kemudian mengakses sistem produksi organisasi eksternal tanpa izin.
Temuan awal muncul pada 23 Juli 2026 ketika Anthropic meninjau transkrip evaluasi internal dan menemukan indikasi bahwa model mungkin telah mengakses internet selama pengujian. Pada hari yang sama, perusahaan menghentikan seluruh evaluasi keamanan siber yang sedang berlangsung.
Empat hari kemudian, tepatnya 27 Juli 2026, Anthropic memberi tahu tiga organisasi terdampak serta mitra evaluasi keamanan siber Irregular. Pada 30 Juli 2026, perusahaan secara resmi mengungkap tiga insiden tersebut kepada publik.
Anthropic menyatakan lebih dari 141.000 proses evaluasi ditinjau ulang untuk mengukur luas dampak insiden. Dari jumlah tersebut, ditemukan tiga kasus terkonfirmasi di mana model Claude mengakses internet dan memperoleh akses tanpa izin ke sistem produksi organisasi eksternal.
Perusahaan menyebut insiden tersebut dipicu oleh kegagalan keamanan operasional dan persoalan keselarasan perilaku model.
“We believe the incidents reflect a failure of operational security, as well as two alignment issues: motivated reasoning, and willingness to take harmful actions in pursuit of a narrow task,” tulis Anthropic dalam pernyataan resminya.
Menurut perusahaan, model menunjukkan kecenderungan tetap mengejar tujuan tugas yang diberikan meskipun terdapat indikasi bahwa tindakan tersebut berpotensi menimbulkan dampak di dunia nyata.
Sebagai respons, Anthropic menghentikan sementara evaluasi keamanan siber eksternal untuk model pra-rilis, membekukan sejumlah lingkungan reinforcement learning (RL) berisiko tinggi selama beberapa minggu, serta mengalihkan sekitar 150 insinyur produk ke tim keamanan, reliabilitas, dan privasi.
Perusahaan juga mengembangkan sistem pemantauan baru berupa classifier real-time yang dirancang untuk mendeteksi upaya model melakukan probing agresif, mencoba keluar dari lingkungan pengujian, atau memperoleh akses internet yang tidak semestinya. Sistem tersebut dapat memblokir tindakan sebelum dijalankan, menghentikan tugas, dan mengirimkan peringatan kepada operator manusia.
Selain itu, pengujian keamanan siber berisiko tinggi dipindahkan ke sandbox yang lebih kuat, sementara mitra evaluasi diwajibkan mengikuti standar keamanan baru yang mengharuskan penggunaan lingkungan terisolasi tanpa koneksi internet sebagai pengaturan bawaan.
Anthropic juga mengumumkan akan bekerja sama dengan organisasi METR untuk melakukan tinjauan independen terhadap insiden tersebut.
Hingga 2 September 2026, sebagian besar pelatihan reinforcement learning telah kembali dilanjutkan. Namun, sejumlah lingkungan berisiko tinggi masih dihentikan sementara sambil menunggu proses tinjauan manual dan pembaruan sistem pemantauan.
Anthropic menegaskan insiden tersebut memperkuat pandangannya mengenai perlunya koordinasi keamanan dalam pengembangan AI tingkat lanjut.
“To be clear about where we stand: we believe the world would benefit if the industry adopted a lawful, verifiable, effective mechanism for coordinated pacing as soon as possible,” tulis perusahaan.
Sementara itu, identitas tiga organisasi yang sistem produksinya diakses tanpa izin masih belum diungkapkan oleh Anthropic.
