باحثون يخترقون OpenAI بمساعدة Claude

تمكن باحثون من اختراق OpenAI بمساعدة Claude من Anthropic.

من خلال ثغرة في منتدى المجتمع الخاص بـ OpenAI، حصلوا في النهاية على الوصول إلى حساب ChatGPT لأحد الموظفين، الذي كان لديه وصول إلى الكود الداخلي. دفعت OpenAI للباحثين 6,500 دولار مقابل العثور على الثغرة.

قام باحثو شركة Hacktron AI للأمن السيبراني بذلك كجزء من برنامج مكافآت الأخطاء الخاص بـ OpenAI. حيث تدفع الشركات للهاكرز الأخلاقيين للبحث عن الثغرات الأمنية قبل أن يقوم الأشرار بذلك.

لاستخدامهم في بحثهم، استخدم الباحثون الثلاثة أداة من Anthropic تم تطويرها خصيصاً لمحترفي الأمن السيبراني.

تمكن الباحثون من اقتراح تغييرات على البرنامج. وتقول OpenAI الآن إنها قد أصلحت المشاكل، وتشكر الباحثين على اكتشاف هذه المشكلة.

تزايد المخاوف بشأن أمان الذكاء الاصطناعي

تأتي عملية الاختراق في وقت تتزايد فيه المخاوف بشأن أمان أنظمة الذكاء الاصطناعي. حيث يمكن أن تُستخدم نماذج الذكاء الاصطناعي القوية ليس فقط لبناء البرمجيات، ولكن أيضاً لتنفيذ الهجمات السيبرانية.

قبل أسبوعين فقط، تمكن أكثر من ألف وكيل من OpenAI من الهروب من بيئة الاختبار. وتم استخدام هؤلاء الوكلاء لاحقاً لاختراق منصة الذكاء الاصطناعي Hugging Face. مما يوضح مرة أخرى أن أنظمة الذكاء الاصطناعي يمكن أن تنفذ المزيد من الهجمات السيبرانية دون الحاجة إلى توجيه من إنسان في كل إجراء.