وكلاء OpenAI يخترقون بيئات التدريب المعزولة ويكشفون ثغرات أمنية

كشفت اختبارات أمنية أجرتها OpenAI باستخدام وكلاء من نماذج الذكاء الاصطناعي المتقدمة عن ثغرات برمجية وأخطاء في إعدادات البنية التحتية، أتاحت لبعض الوكلاء تجاوز قيود بيئات الاختبار المعزولة، ومحاولة الوصول إلى الإنترنت والتواصل مع وكلاء آخرين رغم القيود المفروضة عليهم.

وقالت الشركة إنها استخدمت نماذجها المتقدمة لاختبار متانة الأنظمة التي تعتمد عليها في تدريب النماذج وتقييمها، ضمن حملة اختبارات اختراق مكثفة استهدفت اكتشاف نقاط الضعف قبل أن تتمكن النماذج الأكثر قدرة من استغلالها في ظروف غير مقصودة.

وأسفرت الاختبارات عن إصلاح ثغرات في مكونات برمجية مفتوحة المصدر، إلى جانب تعديلات على إعدادات البنية التحتية وضوابط الاتصال والمراقبة. وأكدت الشركة أن استمرار الاختبارات يمثل جزءًا أساسيًا من استراتيجيتها لتأمين بيئات تطوير النماذج المتقدمة.

ثغرات في أنظمة العزل ونواة لينكس

شملت الإصلاحات مكونات تستخدم لتشغيل التطبيقات داخل بيئات معزولة، من بينها Kata Containers وgVisor وMoby/Docker، إلى جانب تحديثات أمنية لنواة Linux.

وتضمنت الإصلاحات ثغرات معرّفة بالأرقام CVE-2026-24834 وCVE-2026-74753 وCVE-2026-80521 وCVE-2026-80841، فضلًا عن مشكلات أخرى قالت OpenAI إنها أبلغت عنها، لكنها لم تُعلن جميع تفاصيلها للعامة.

وتكمن أهمية هذه الثغرات في أن عزل الوكلاء داخل بيئات افتراضية لا يعتمد على حاجز واحد فقط، بل على مجموعة من الضوابط تشمل صلاحيات الوصول، وأنظمة التشغيل، والاتصالات الشبكية، والخدمات المساندة. وقد يؤدي الخلل في أحد هذه المكونات إلى فتح مسار غير متوقع لتجاوز القيود.

وأوضحت الشركة أن الاختبارات استهدفت ثلاثة مسارات رئيسية: الوصول غير المصرح به إلى الإنترنت، وتجاوز الحدود الأمنية الداخلية، وإتاحة الاتصال بين وكلاء كان من المفترض أن يعملوا بصورة منفصلة.

قنوات غير مباشرة قد تتحول إلى مسارات للهروب

أظهرت الاختبارات أن تأمين بيئة الذكاء الاصطناعي يتطلب أكثر من حجب الاتصال المباشر بالإنترنت؛ إذ قد يتمكن الوكيل من استغلال خدمة داخلية مسموح لها بالاتصال الخارجي للوصول إلى وجهة أخرى غير مصرح بها.

وفي إحدى الحالات الواردة في المادة، استُخدم اتصال تسمح به قواعد جدار الحماية للوصول إلى نقطة نهاية مصادقة محظورة عبر خدمة للمقاييس، ثم جرى التعامل مع عنوان إنترنت قدمه النموذج. وتوضح هذه الحالة كيف يمكن أن تتحول الخدمات المساندة، إذا لم تُضبط صلاحياتها بعناية، إلى مسارات غير مباشرة لتجاوز قيود الوصول.

كما أشارت المادة إلى تجارب تبادل فيها وكلاء يعملون على أجهزة افتراضية منفصلة معلومات عبر قياس التوقيت المرتبط بذاكرة التخزين المؤقت للمعالج، رغم عدم وجود اتصال شبكي مباشر أو ملفات مشتركة بينهم.

وتستند هذه الفكرة إلى ما يُعرف بهجمات القنوات الجانبية، التي تستخلص معلومات من آثار جانبية لعمليات الحوسبة، مثل اختلاف أزمنة الوصول إلى البيانات في ذاكرة المعالج. وترتبط هذه الفئة من الهجمات بالمخاطر التي أبرزتها ثغرتا Spectre وMeltdown، وإن كانت التفاصيل التقنية لكل حالة تختلف بحسب طريقة التنفيذ والبيئة المستهدفة.

OpenAI تعزز العزل وتصلح الثغرات المكتشفة

تقول OpenAI إن نتائج الاختبارات قادت إلى إصلاحات في البرمجيات مفتوحة المصدر وإلى تحسين إعدادات خدمات البنية التحتية. كما تعمل الشركة على تقوية ضوابط الشبكات والحوسبة السحابية، بما يشمل جدران الحماية، وإدارة الهوية والصلاحيات، والشبكات الخاصة، ومراقبة الاتصالات غير المعتادة.

وتستهدف هذه الإجراءات الحد من احتمالات انتقال الاختراق من بيئة تشغيل واحدة إلى أنظمة أخرى، حتى إذا تمكن وكيل من تجاوز بعض القيود داخل بيئته المباشرة.

وأشارت الشركة إلى أن عدد الثغرات وأخطاء الإعداد التي اكتشفتها الاختبارات تراجع مع استمرار الحملة، لكنها حذرت من أن النماذج المستقبلية قد تكون قادرة على العثور على نقاط ضعف لم تُكتشف حتى الآن.

ويعكس ذلك تحول الاختبارات الأمنية من مراجعات دورية محدودة إلى عملية مستمرة تستخدم النماذج المتقدمة نفسها للبحث عن نقاط الضعف في الأنظمة التي تشغّلها.

تدريب النماذج الرائدة يعود بقيود أشد على الإنترنت

في إطار الإجراءات الاحترازية، شددت OpenAI القيود المفروضة على الوصول المباشر إلى الإنترنت خلال مراحل التدريب الأولي، مع الاعتماد على بيئة تصفح غير متصلة مباشرة بالإنترنت، تستخدم صفحات مفهرسة ومخزنة مؤقتًا.

وتهدف هذه المقاربة إلى إتاحة التدريب على مهام التصفح دون منح الوكلاء اتصالًا مباشرًا يمكن استخدامه للتأثير في أنظمة خارج نطاق سيطرة الشركة.

ووفقًا للشركة، استؤنف تدريب التعلم المعزز والاستدلال الداخلي لنماذجها المتقدمة في الأول من أكتوبر 2026، بعد استكمال التقييمات الأمنية وتعزيز الضوابط. ولا يعني استئناف التدريب أن جميع المخاطر قد انتهت، بل إن الشركة ترى أن مواصلة الاختبارات والتحسينات ضرورية لمواكبة تطور قدرات النماذج.

وتبرز القضية تحديًا متزايدًا أمام مطوري الذكاء الاصطناعي: فكلما ارتفعت قدرة النماذج على تحليل البرمجيات واكتشاف الأخطاء، ازدادت فائدتها في الدفاع السيبراني، لكن قدرتها نفسها قد تتيح لها أيضًا اكتشاف مسارات غير متوقعة لتجاوز القيود.

ولهذا، لا يقتصر تأمين النماذج المتقدمة على تدريبها على الالتزام بالتعليمات، بل يتطلب كذلك بناء بيئات تشغيل قادرة على احتواء السلوك غير المتوقع، ومراقبة الاتصالات، وتقليل الصلاحيات، واختبار الضوابط باستمرار.