Penelitian Mengungkap Efektivitas Serangan Phishing yang Dihasilkan AI

a dark room with a red light and a warning sign — Aditya Vyas / Unsplash

Penelitian terbaru yang dilakukan oleh peneliti dari Berlin Institute of Technology menunjukkan bahwa serangan phishing yang dipersonalisasi menggunakan model bahasa besar dapat meningkatkan tingkat klik dibandingkan dengan metode phishing umum. Penelitian ini meneliti pengaruh serangan phishing yang dihasilkan oleh kecerdasan buatan pada 7741 staf universitas.

Dalam eksperimen ini, peneliti pertama-tama mencari alamat email target melalui mesin pencari dan mengumpulkan informasi yang tersedia secara publik mengenai latar belakang dan afiliasi mereka. Selanjutnya, beberapa model AI digunakan untuk membuat profil pribadi dan secara otomatis menghasilkan pengirim dan konten email yang paling sesuai untuk setiap target. Dari 7741 staf, terdapat 4010 orang yang memiliki informasi online, dan 3310 di antaranya menerima email yang dipersonalisasi.

Hasil eksperimen menunjukkan bahwa tingkat klik untuk email phishing umum yang dikirimkan ke semua target adalah 3,9 persen. Di sisi lain, tingkat klik untuk serangan phishing yang dihasilkan oleh model bahasa besar mencapai 10 persen, yang menunjukkan peningkatan signifikan sebesar 2,74 kali dibandingkan dengan metode sebelumnya.

Penelitian juga menemukan bahwa tingkat klik untuk serangan phishing yang dibuat secara manual mencapai 24,2 persen, namun memerlukan waktu dan usaha yang jauh lebih besar. Sebagai perbandingan, model bahasa besar hanya membutuhkan waktu sekitar 50 jam untuk menghasilkan sekitar 4000 email yang dipersonalisasi, dengan biaya sekitar 0,03 dolar per email.

Temuan lain menunjukkan bahwa individu dengan lebih banyak informasi yang tersedia di publik cenderung lebih sulit untuk tertipu, sedangkan mereka yang memiliki informasi lebih sedikit lebih rentan. Selain itu, filter spam otomatis hampir tidak berfungsi, dengan hanya satu dari 3949 email yang dianggap mencurigakan oleh filter universitas.