Google Cloud Memprediksi Percepatan Peretasan Kecerdasan Buatan pada 2027

Google Cloud memproyeksikan bahwa kecerdasan buatan agenik akan mempercepat kecepatan serangan dan pertahanan siber pada tahun 2027, yang sekaligus mengubah objek yang harus dilindungi oleh perusahaan.

Chris Betz, Pejabat Keamanan Informasi Tertinggi Google Cloud, menyatakan bahwa deteksi dan perbaikan kerentanan berbasis agen dan model bahasa besar kini meluas ke seluruh perusahaan. Karena siklus pengiriman perangkat lunak menjadi lebih singkat, dari hitungan minggu atau bulan menjadi hitungan jam atau hari, terdapat kebutuhan yang lebih besar untuk melakukan pengembangan dan verifikasi keamanan secara bersamaan.

Google Cloud menyarankan agar setiap agen otonom memiliki identitas independen dan diberikan hak akses minimum yang diperlukan. Hal ini bertujuan untuk mencegah penyebaran pelanggaran ke sistem lain jika satu agen terkompromi. Perusahaan juga harus mencatat data masukan, dasar keputusan, alat yang dipanggil, nilai yang dikirimkan, dan kebijakan yang mengizinkan tugas tersebut agar keputusan otomatis dapat direkonstruksi dan diverifikasi.

Dalam pusat operasi keamanan, agen kecerdasan buatan diharapkan akan memperluas peran dalam mengumpulkan log dari berbagai sistem dan menganalisis hubungan antar peringatan untuk memberikan hasil investigasi awal. Google Cloud mengusulkan model operasional di mana petugas manusia dapat memahami dasar respons otomatis dalam 60 detik dan membatalkannya dalam 30 detik jika diperlukan.

Ancaman siber diprediksi akan bergeser dari enkripsi berkas menjadi pencurian data dan pemerasan. Aset kecerdasan buatan seperti bobot model, fungsi agen, dan pustaka perintah dapat menjadi target pencurian. Selain itu, muncul ancaman pencurian sumber daya komputasi unit pemrosesan grafis awan yang disebut sebagai LLMJacking.

Pada tahap pengembangan, alat pengodean kecerdasan buatan dan alat berbasis protokol konteks model dapat menjadi target serangan rantai pasokan. Google mengusulkan sistem yang melacak risiko dari lingkungan operasional kembali ke kode sumber dan memverifikasi kemungkinan gangguan layanan sebelum pengiriman. Charles Carmakal dari Mandiant menekankan pentingnya pelatihan tim merah untuk memeriksa kontrol hak akses dan pengaman sebelum agen otonom diterapkan dalam pekerjaan nyata.