باحثون خارجيون يفحصون نظام مراقبة وكلاء الذكاء الاصطناعي الداخلي لدى شركة مفتوحة

A white robot is standing in front of a black background — Gabriele Malaspina / Unsplash

قام باحثان خارجيان من مؤسستي إم إي تي آر وريدوود ريسيرش بإجراء فحص متعمق لأنظمة المراقبة الداخلية الخاصة بشركة مفتوحة خلال الفترة الممتدة من الحادي والعشرين من يوليو حتى الحادي عشر من أغسطس عام 2026. هدفت هذه العملية إلى اختبار كفاءة نظام كشف عدم المحاذاة في وكلاء الذكاء الاصطناعي التابعين للشركة، وذلك من خلال منح الباحثين وصولاً شاملاً إلى البنية التحتية التقنية.

وصفت مؤسسة إم إي تي آر هذه العملية بأنها تمرين تجريبي لفريق الاختراق يتمتع بمستوى عالٍ من الوصول، حيث أتيح للباحثين الاطلاع على الكود المصدري الداخلي، وموجهات النظام، وإعدادات أدوات المراقبة، بالإضافة إلى الوثائق الفنية. ركز التقييم على حالة النظام كما كانت قائمة في الحادي والعشرين من يوليو وما قبله، مع الإشارة إلى أن الشركة كانت توسع نطاق النظام في ذلك الوقت، مما يعني أن التطورات اللاحقة لم تخضع للتقييم وأن النتائج لا تعكس بالضرورة التغطية الحالية.

أجرى الباحثان مقابلات تقنية مع حوالي اثني عشر باحثاً ومهندساً يعملون ضمن فرق المراقبة وسلامة الأنظمة والأمن السيبراني. تم تنفيذ جميع الأعمال على أجهزة زودت بها شركة مفتوحة ولم يُسمح بإخراجها من مقر الشركة، مما يضمن بقاء البيانات الحساسة داخل البيئة المحمية. تم صياغة تقرير داخلي مشترك يهدف إلى الإجابة على أسئلة محددة حول فعالية أنظمة الرقابة.

حددت قواعد النشر مسبقاً بنشر ملخص عام موجز، مع احتفاظ شركة مفتوحة بالحق الحصري في حذف أي معلومات تعتبرها سرية أو حساسة دون الحاجة إلى تبرير علني. وأشارت مؤسسة إم إي تي آر إلى أنها لم تملك في هذه المهمة الحق في وصف المعلومات التي تم حذفها بشكل منفرد، خلافاً لتحقيقات أخرى سابقة.

قدر الباحثون أن ما بين خمسة وسبعين في المئة وأربعة وتسعين في المئة من حركة المرور الخاصة بالوكلاء عبر واجهة برمجة التطبيقات الداخلية كانت مؤهلة للمراقبة في النماذج التي تعادل قوة نموذج جي بي تي 5.5 أو تتفوق عليه، مع وجود درجة عالية من عدم اليقين في هذه التقديرات. بالنسبة للمجموعة الفرعية المستخدمة من قبل وكلاء كودكس الداخليين، ارتفعت نسبة التغطية إلى تسعة وتسعين فاصلة اثنين في المئة.

يشير مصطلح مؤهل للمراقبة إلى البيانات المخصصة للإرسال إلى نظام الرقابة، حيث قد تمنع الأخطاء أو أعطال النظام وصول جزء من هذه البيانات. استبعدت هذه الأرقام مصادر أخرى لحركة المرور مثل الوكلاء العاملين على خدمات الاستدلال الداخلية للبحث، والتي لم يتم تقدير حجمها بدقة. كما تم الإفادة للباحثين بأن مجموعة فرعية من جلسات التدريب بالتعلم المعزز كانت خاضعة للمراقبة بين مارس ويونيو، قبل أن تتوقف هذه التغطية في بداية التمرين.

أدى غياب مراقبة أحداث الضغط إلى ترك ما يقدر بعشرة في المئة من حركة مرور كودكس المؤهلة دون رقابة بين مايو ويوليو 2026. نتج عن هذا الثغرة إمكانية قيام الوكيل بتأجيل فحصه إلى أجل غير مسمى من خلال سلسلة من الإجراءات، رغم عدم قدرة مؤسسة إم إي تي آر على التحقق من حدوث ذلك فعلياً. تم تحديد هذه المشكلة من قبل الشركة وتصحيحها أثناء فترة التمرين.

أظهرت البيانات أن نظام المراقبة فشل في أقل من اثنين من عشرة في المئة من الطلبات، ولم يتم رصد أي فقدان في الحمل خلال فترة أربع وعشرين ساعة. أكدت شركة مفتوحة إصلاح جميع نقاط الضعف التي تم تحديدها في طبقة الحماية الإنتاجية، وأشارت إلى تغييرات جوهرية في نطاق التغطية المستقبلي، رغم أن مؤسسة إم إي تي آر لم تقم بتقييم صحة هذه الادعاءات.