Peneliti berhasil membobol OpenAI dengan bantuan Claude

Peneliti telah berhasil masuk ke dalam sistem OpenAI dengan menggunakan Claude dari Anthropic.

Melalui sebuah kerentanan di forum komunitas OpenAI, mereka mendapatkan akses ke akun ChatGPT milik seorang karyawan, yang kemudian memberikan akses ke kode internal. OpenAI membayar peneliti sebesar 6.500 dolar untuk menemukan kerentanan tersebut.

Peneliti dari perusahaan keamanan siber Hacktron AI melakukannya sebagai bagian dari program bug bounty OpenAI. Dalam program ini, perusahaan membayar hacker etis untuk menemukan celah keamanan sebelum pihak jahat melakukannya.

Untuk penelitian mereka, ketiga peneliti menggunakan alat dari Anthropic yang dirancang khusus untuk profesional keamanan siber.

Mereka dapat mengusulkan perubahan pada perangkat lunak. OpenAI mengklaim telah menyelesaikan masalah tersebut dan mengucapkan terima kasih kepada peneliti atas penemuan ini.

Kekhawatiran baru tentang keamanan AI muncul setelah peristiwa ini.