การเพิ่มขึ้นของสัญญาณเตือนด้านความปลอดภัยจากเครื่องมือปัญญาประดิษฐ์

ศูนย์ปฏิบัติการด้านความปลอดภัยขององค์กรขนาดใหญ่กำลังเผชิญกับสัญญาณเตือนที่เพิ่มขึ้นอย่างรวดเร็ว ซึ่งเกิดจากการใช้งานเครื่องมือและตัวแทนปัญญาประดิษฐ์ภายในองค์กร ไม่ใช่จากการโจมตีที่มุ่งเป้าไปที่ระบบปัญญาประดิษฐ์โดยตรง

จากการตรวจสอบข้อมูล พบว่าสัญญาณเตือนที่เกี่ยวข้องกับปัญญาประดิษฐ์คิดเป็นสัดส่วนเพียงร้อยละ 0.43 ของจำนวนสัญญาณเตือนทั้งหมดที่ประมาณ 16.9 ล้านรายการ อย่างไรก็ตาม สัดส่วนดังกล่าวมีแนวโน้มเพิ่มขึ้นอย่างต่อเนื่อง โดยมีการเติบโตขึ้นร้อยละ 685 ในช่วงเดือนกุมภาพันธ์ถึงมิถุนายน 2569

เมื่อจำแนกประเภทของสัญญาณเตือนเหล่านี้ พบว่าร้อยละ 94.1 เป็นกิจกรรมปกติที่ระบบตรวจจับผิดพลาด ร้อยละ 5.8 เป็นความเสี่ยงด้านความปลอดภัยที่แท้จริง และร้อยละ 0.02 เป็นการโจมตีที่แท้จริง ซึ่งการโจมตีที่พบส่วนใหญ่เป็นแคมเปญฟิชชิ่งที่ปลอมแปลงชื่อแบรนด์ปัญญาประดิษฐ์เพื่อหลอกลวงพนักงาน

การวิเคราะห์ยังชี้ให้เห็นว่าความรุนแรงของสัญญาณเตือนอาจไม่สะท้อนภัยคุกคามจริงเสมอไป ตัวอย่างเช่น การตรวจจับไฟล์ขยายระบบถูกตีความว่าเป็นการโจมตี แต่แท้จริงแล้วเป็นเพียงการตั้งค่าสภาพแวดล้อมของนักพัฒนา ซึ่งทำให้ทีมรักษาความปลอดภัยต้องพิจารณาความน่าเชื่อถือของป้ายกำกับความรุนแรงอย่างระมัดระวัง