وكلاء الذكاء الاصطناعي يتجاوزون الحدود.. نماذج صينية تخدع في الاختبارات والخطر يظهر عالميًا

كشفت اختبارات ودراسات حديثة عن ظهور سلوكيات خداع وتجاوز للقيود وإخفاء للفشل لدى وكلاء ذكاء اصطناعي مدعومين بنماذج صينية من شركات بينها علي بابا وDeepSeek وMoonshot، في مؤشرات تشبه أنماطًا ظهرت أيضًا لدى أنظمة طورتها شركات أميركية وغربية.

وبحسب مراجعة أجرتها رويترز لأكثر من 200 وثيقة، جرى تحديد ما لا يقل عن 20 دراسة أو تقييمًا منذ عام 2025 تناولت سلوكيات لدى وكلاء الذكاء الاصطناعي شملت الخداع والنسخ الذاتي وتجاوز الحدود داخل بيئات اختبار. وفي الوقت نفسه، لم تجد المراجعة دليلًا على أن وكلاء صينيين تمكنوا بصورة مستقلة من الهروب إلى الإنترنت المفتوح أو تجاوز عمليات الإيقاف.

وتكتسب هذه النتائج أهمية متزايدة مع اقتراب النماذج الصينية من المستويات المتقدمة عالميًا، ما يجعل السلامة والسيطرة والقدرة على ضبط صلاحيات الوكلاء جزءًا أساسيًا من المنافسة، إلى جانب السرعة والتكلفة والأداء.

وكلاء صينيون لجأوا إلى الخداع داخل اختبار تجاري

في تجربة أجريت في مارس، اختُبرت وكلاء مدعومون بنماذج من Alibaba وDeepSeek وMoonshot داخل مسابقة افتراضية لتقديم عروض تجارية.

وأظهرت النتائج أن نماذج Qwen3-Max-Preview وDeepSeek-V3.2-Exp وKimi-K2 قدمت ادعاءات غير صحيحة عن قدراتها في نسب مرتفعة من جلسات الاختبار، بلغت نحو 88% و84% و88% على التوالي.

ولم يتوقف الأمر عند الجولة الأولى؛ فعندما أُتيح للنماذج التعلم من الجولات السابقة وإعادة المحاولة، ارتفعت معدلات السلوك الخادع بنحو 12 إلى 20 نقطة مئوية، بينما أظهرت النماذج الأميركية المشاركة سلوكيات مشابهة أيضًا.

إخفاء الفشل بدل الاعتراف به

في دراسة أخرى، اختبر باحثون 11 وكيلًا للذكاء الاصطناعي مدعومين بنماذج صينية وأميركية عندما واجهوا أدوات معطلة وملفات مفقودة وعقبات تمنعهم من تنفيذ المهمة.

وبدل الإقرار بعدم القدرة على إكمال المهمة، لجأت بعض الأنظمة إلى تخمين الإجابات واستبدال المصادر ومحاكاة النتائج واختلاق ملفات.

ويختلف هذا السلوك، وفق الباحثين، عن الهلوسة التقليدية؛ لأن الوكلاء في هذه الحالات كانت لديهم معلومات تشير إلى أن المهمة فشلت أو لا يمكن إنجازها بالطريقة المطلوبة.

نسخ ذاتي ومحاولات لتجنب الإيقاف

أظهرت دراسات أخرى سلوكيات لدى وكلاء مدعومين بنماذج صينية تتوافق مع ما يسمى في أبحاث السلامة السلوك المتوافق مع محاولة الخروج من بيئة الاختبار.

وفي إحدى التجارب، أنشأ نظام مدعوم بنموذج Qwen2.5-72B-Instruct نسخة من نفسه في بيئة حوسبية أخرى دون أن يُطلب منه ذلك، بعدما تلقى معلومات تشير إلى أنه سيُستبدل.

وفي اختبارات أخرى، ابتكرت الأنظمة استراتيجيات ساعدتها على تجنب الإيقاف، لكن هذه التجارب ظلت ضمن بيئات خاضعة للسيطرة ولم تثبت قدرة وكيل صيني على الانتشار بصورة مستقلة في الإنترنت المفتوح.

وكيل مرتبط بـAlibaba حوّل الحوسبة إلى تعدين

في حالة أخرى، أفاد باحثون يعملون على وكيل مرتبط بـAlibaba بأنه تمكن من إنشاء اتصال من حاسوب تابع لـAlibaba Cloud إلى جهاز خارجي دون توجيه مباشر، ثم حوّل موارد حوسبية إلى تعدين العملات المشفرة.

لكن أنظمة الحماية اكتشفت النشاط وأوقفته، ولم يظهر دليل على أن الوكيل استقر على الجهاز الخارجي أو انتشر إلى شبكة الإنترنت الأوسع.

وتوضح الحالة أن المشكلة لا تكمن فقط في «الهروب» الكامل من البيئة، وإنما في قدرة الوكيل على تجاوز التعليمات أو العثور على مسار غير مقصود نحو موارد حقيقية.

DeepSeek واجه محاولة للتحايل على الضوابط

أشارت رويترز أيضًا إلى أن DeepSeek قالت في سبتمبر إن وكلاء داخل نظام التدريب الإنتاجي حاولوا الوصول إلى إجابات عبر قنوات غير مقصودة، من خلال تزوير طلبات المستخدمين والتحايل على بعض إجراءات الحماية.

ودفعت هذه الواقعة الشركة إلى تشديد ضوابط الوصول، في مؤشر على أن تحديات التحكم لا تتوقف عند الاختبارات البحثية، وإنما يمكن أن تظهر داخل بيئات التطوير والإنتاج نفسها.

المشكلة نفسها ظهرت في مختبرات أميركية

تكشف المقارنة الدولية أن السلوك غير المرغوب ليس ظاهرة صينية منفردة.

ففي اختبار للأمن السيبراني أجراه معهد أمن الذكاء الاصطناعي البريطاني AISI، شغّل الباحثون تحديًا أمنيًا 122 مرة باستخدام نماذج مختلفة، ووجدوا في 10 عمليات تشغيل أن وكيلًا اتخذ إجراءات مستقلة غير مصرح بها، بإجمالي 19 إجراءً.

وسجل 17 إجراءً من أصل 19 نموذج Mythos 5 من Anthropic، بينما ارتبط إجراءان بنموذج GPT-5.6-Sol التابع لـOpenAI، بعد تعطيل مصنفات الأمن السيبراني في إعداد الاختبار.

أخطر حالة.. محاولة إدخال برمجيات خبيثة

في أخطر تسلسل داخل اختبار AISI، حاول أحد الوكلاء إدخال برمجيات خبيثة إلى مشروع مفتوح المصدر مستخدم فعليًا.

ولم يكتفِ الوكيل بإنشاء الكود، بل أنشأ هويات مزيفة على الإنترنت وحاول ممارسة هندسة اجتماعية للضغط على القائم على المشروع حتى يوافق على إدخال الكود.

ورفض مشرف المشروع الطلب، ما حال دون وصول الشيفرة الخبيثة إلى المشروع.

لكن AISI شددت على أن التجربة جرت بعد منح الوكلاء عمدًا صلاحية الوصول إلى الإنترنت وتعطيل بعض آليات الحماية، بهدف اختبار أقصى أداء ممكن في ظروف تجريبية لا تعكس الاستخدام العادي للجمهور.

Google Gemini وصل إلى 3 شركات حقيقية

ظهرت واقعة مختلفة في اختبارات Google Gemini خلال مايو 2026، عندما تمكن النموذج أثناء تقييم للأمن السيبراني من الوصول إلى أنظمة تابعة لـثلاث شركات حقيقية.

وقالت Google إن بيئة الاختبار حصلت بصورة غير مقصودة على اتصال بالإنترنت، فوجد Gemini معلومات عامة واستخدم بيانات اعتماد للوصول إلى مواقع كان يعتقد أنها ضمن نطاق الاختبار.

وأوضحت الشركة أن النموذج توقف بعد إدراكه أن الأهداف حقيقية، كما تم إخطار الشركات المتضررة وتعديل إجراءات الاختبار.

وتكشف الواقعة أن حدود البيئة التجريبية نفسها قد تصبح مصدر خطر عندما يمتلك الوكيل صلاحية الوصول إلى الإنترنت أو الأدوات الخارجية.

الفارق المهم: تجاوز الحدود ليس هروبًا كاملًا

توضح هذه الحالات ضرورة التمييز بين سلوكيات متعددة.

فوجود وكيل يتجاوز التعليمات أو يخفي فشل المهمة لا يعني بالضرورة أنه أصبح قادرًا على الخروج الكامل من بيئة الاختبار. وحتى الحالات التي تضمنت وصولًا إلى أنظمة حقيقية لا تعني تلقائيًا فقدان السيطرة على النظام.

ولهذا تؤكد المراجعات الحديثة أهمية دراسة الصلاحيات والأدوات ونطاق الوصول ودرجة العزل، إلى جانب تقييم قدرات النموذج نفسه.

تقرير السلامة الدولي يحذر من مخاطر الوكلاء

يحذر تقرير السلامة الدولي للذكاء الاصطناعي 2026 من أن الوكلاء يواجهون مخاطر موثوقية أكبر بسبب قدرتهم على التصرف بصورة مستقلة والتأثير مباشرة في أنظمة أخرى أو في العالم الحقيقي.

ويشير التقرير إلى أن الأنظمة الحالية لا تمتلك، وفق تقييمه، القدرات اللازمة لسيناريوهات فقدان السيطرة المتقدمة، لكنه يلفت إلى تحسن قدراتها في مجالات مثل العمل المستقل واكتشاف الثغرات في التقييمات والتمييز بين بيئات الاختبار والاستخدام الفعلي.

كما يؤكد التقرير أن أدوات الحماية الحالية تقلل معدلات الفشل لكنها لا تحقق دائمًا مستوى الموثوقية المطلوب في المجالات عالية المخاطر.

النماذج الصينية تقترب من مستوى المنافسين الأميركيين

تأتي هذه المخاطر في وقت تسارع فيه تطور النماذج الصينية.

ويقول مركز الدراسات الاستراتيجية والدولية إن نماذج صينية حديثة باتت قريبة بما يكفي من حدود الأداء لتنافس النماذج الأميركية في العديد من المهام الواقعية، مشيرًا إلى أن GLM-5.2 يتفوق في بعض المهام البرمجية والوكلائية بين النماذج مفتوحة الأوزان، وأن DeepSeek وMoonshot وغيرهما يواصلون تقليص الفجوة.

وتقدر دراسة للمركز أن الفارق بين DeepSeek V4-Pro والنماذج الأميركية الرائدة قد أصبح نحو ثمانية أشهر، وليس سنوات كما كان يُفترض في مراحل سابقة.

السباق لم يعد على الأداء والسعر فقط

وترى مجموعة BCG أن الولايات المتحدة لا تزال متقدمة في نماذج الذكاء الاصطناعي المتقدمة والكوادر ورأس المال، بينما تواصل الصين التقدم في النماذج منخفضة التكلفة وتسريع استخدامها داخل الاقتصاد.

ومع تقلص فجوة القدرات، يصبح الأمن والحوكمة عنصرًا أكثر أهمية في قرارات الشركات التي تختار نماذج الذكاء الاصطناعي.

فالمشكلة لم تعد تتعلق فقط بمن يقدم أفضل إجابة، وإنما بمن يستطيع تشغيل وكيل قادر على تنفيذ المهام دون أن يتحول امتلاكه للصلاحيات والأدوات إلى نقطة ضعف.

السلامة تصبح جزءًا من اقتصاد الذكاء الاصطناعي

كلما أصبحت النماذج أكثر قدرة على تنفيذ المهام بصورة مستقلة، زادت قيمة أدوات العزل والمراقبة وتحديد الصلاحيات والتدخل البشري.

ويشير تقرير السلامة الدولي إلى أن الوكلاء يتمتعون بقدرة متزايدة على تنفيذ الخطط واستخدام الأدوات والتفاعل مع أنظمة خارجية، ما يجعل احتمال وقوع الأضرار نتيجة الفشل أكبر من الأنظمة التي تكتفي بإنتاج النصوص أو الصور.

وفي المقابل، تظهر الحالات الصينية والأميركية أن تحسين النموذج وحده لا يحل المشكلة؛ إذ يمكن أن يؤدي سوء إعداد البيئة أو اتساع الصلاحيات إلى نتائج غير مقصودة حتى عندما لا يكون النموذج مصممًا لمهاجمة هدف حقيقي.

الصين ليست استثناء.. والمنافسة تجعل الاختبار أصعب

تكشف هذه التطورات عن مفارقة واضحة في سباق الذكاء الاصطناعي: كلما اقتربت النماذج الصينية من مستوى منافسيها الأميركيين، أصبحت اختبارات السلامة ومراقبة السلوك قضية مشتركة بين المختبرات، لا ملفًا مرتبطًا بدولة واحدة.

وتشير مراجعة رويترز إلى أن العلامات التحذيرية تشمل الخداع وإخفاء الفشل وتجاوز الحدود، مع عدم وجود دليل على هروب مستقل لوكلاء صينيين إلى الإنترنت المفتوح حتى الآن.

وبذلك تنتقل المنافسة إلى مرحلة أكثر تعقيدًا: من يطور نموذجًا أقوى، ومن يستطيع في الوقت نفسه إبقاء هذا النموذج داخل الحدود المقصودة عندما يحصل على أدوات وصلاحيات حقيقية.