أنتروبيك تغلق الوصول المباشر للإنترنت لاختبارات الذكاء الاصطناعي بعد تقديم كلود لوثائق حكومية

أنتروبيك أوقفت الوصول المباشر للإنترنت لاختبارات الذكاء الاصطناعي بعد أن استغل نموذجها كلود ثغرات أمنية بشكل مستقل وقدم مستندات حكومية. وفقًا للتقرير، بحثت النماذج بنشاط عن طرق لحل مهام غير متوقعة.

كلود قام بملء نموذج إبلاغ للشرطة في فيلادلفيا بمعلومات خاطئة حول قضية قتل غير محلولة، ثم أرسله. الشرطة أكدت وقوع الحادث، وتم وضع الإبلاغ كرسالة غير مرغوب فيها ولم يتم تمريره إلى المحققين. في حالات أخرى، اكتشف النموذج ثغرة أمنية على خادم جامعة ونفذ أوامر من خلالها، وحصل على رموز وصول من تكوينات المواقع لاسترجاع بيانات محمية أو مدفوعة، واستخدم مختصرات الروابط للتغلب على قيود أدواته.