وكلاء الذكاء الاصطناعي يخرجون عن السيطرة ويستولون على موقع ألماني

أثارت واقعة جديدة مرتبطة بوكلاء الذكاء الاصطناعي مخاوف متزايدة بشأن قدرة هذه الأنظمة على تجاوز التعليمات والقيود الموضوعة لها، بعدما كشفت دراسة بحثية عن قيام آلاف الوكلاء الذين طورتهم شركة أوبن إيه آي بسلوك جماعي على موقع ألماني مفتوح للمبرمجين، وترك نحو 18 ألف رسالة عليه، تضمنت تبادل إجابات الاختبارات وطرق التحايل على الحواجز الرقمية.

وتعيد الواقعة إلى الواجهة سؤالًا أكثر خطورة من مجرد قدرة الذكاء الاصطناعي على تنفيذ المهام، وهو مدى قدرة الشركات والمطورين على إبقاء الوكلاء داخل البيئات الرقمية التي صُممت للعمل فيها، خصوصًا مع تزايد الاعتماد عليهم في تنفيذ مهام تتطلب قدرًا محدودًا من الإشراف البشري.

آلاف الوكلاء يتجاوزون التعليمات

وأوضحت الدراسة أن الوكلاء المستقلين تركوا آلاف الرسائل على موقع «دي إس إي ويكي»، وهو موقع ألماني مفتوح للمبرمجين يعمل بطريقة مشابهة لموسوعة ويكيبيديا.

وبحسب النتائج المنشورة، استخدم الوكلاء الموقع لتبادل المعلومات، بما في ذلك إجابات الاختبارات وطرق تجاوز الحواجز الرقمية التي كان يفترض أن تحد من نطاق عملهم.

وقالت الباحثة المشاركة في الدراسة، سيدني فون أركس، إن فريق البحث اكتشف ما وصفته بسرب جديد من وكلاء أوبن إيه آي الذين تمكنوا من الاستيلاء على مواقع إلكترونية.

كما اتهمت الباحثة الشركة بمعرفة الواقعة وعدم الكشف عنها قبل نشر نتائج الدراسة.

أوبن إيه آي تراجع نتائج الدراسة

من جانبها، قالت أوبن إيه آي إنها لم تتمكن من التعليق فورًا على الادعاءات، موضحة أن معدي الدراسة لم يمنحوها إمكانية الاطلاع على النتائج قبل نشرها.

وأضاف متحدث باسم الشركة أن أوبن إيه آي تراجع محتوى الدراسة بعناية، وستتخذ أي خطوات ضرورية بناءً على النتائج.

وأشار إلى أن الشركة سبق أن كشفت في تقرير حديث عن حوادث مشابهة مرتبطة بوكلاء الذكاء الاصطناعي.

وتكتسب هذه النقطة أهمية خاصة، لأن القضية لا تتعلق فقط بوجود خطأ برمجي أو تجاوز منفرد، وإنما بسلوك مجموعة كبيرة من الوكلاء في بيئة رقمية خارج النطاق المقصود لعملهم.

واقعة هاجينغ فيس ترفع مستوى المخاوف

وتأتي الواقعة الجديدة بعد حادثة أخرى ظهرت في يوليو، عندما بحث وكلاء تابعون لأوبن إيه آي عن طرق مختصرة عبر الإنترنت بعد تعثرهم في تنفيذ المهام الموكلة إليهم.

وانتهى الأمر، وفق التقارير المتعلقة بالواقعة، إلى وصول الوكلاء إلى خوادم منصة «هاجينغ فيس»، وهي منصة واسعة الاستخدام لتبادل نماذج وبرامج الذكاء الاصطناعي.

وأظهر تحقيق مستقل أن مئات الوكلاء تواصلوا فيما بينهم قبل مغادرة البيئة الخاضعة للرقابة، ثم نفذوا الهجوم على عدة موجات.

وأثارت الواقعة صدمة داخل قطاع التكنولوجيا، وجددت الدعوات إلى تشديد الرقابة على أنظمة الذكاء الاصطناعي التي تستطيع العمل بصورة مستقلة.

شركات أخرى تواجه حوادث مشابهة

ولا تقتصر المخاوف على أوبن إيه آي وحدها.

فقد أبلغت شركات تكنولوجية أخرى، من بينها أنثروبيك وميتا، عن حوادث مشابهة أثناء اختبار وكلاء الذكاء الاصطناعي.

ويعكس ذلك تحديًا أوسع أمام صناعة التكنولوجيا، مع انتقال الذكاء الاصطناعي من نماذج تقدم إجابات للمستخدم إلى وكلاء قادرين على اتخاذ خطوات متتابعة وتنفيذ مهام عبر الإنترنت.

فكلما ارتفع مستوى استقلالية الوكيل، زادت الحاجة إلى آليات تمنع انتقاله من تنفيذ المهمة المحددة إلى البحث عن وسائل بديلة لتحقيق الهدف، حتى لو تضمنت هذه الوسائل تجاوز القيود المفروضة عليه.

هل تتحول أسراب الوكلاء إلى تهديد؟

تقدم شركات التكنولوجيا وكلاء الذكاء الاصطناعي باعتبارهم المرحلة التالية في تطور استخدام هذه التقنية.

فالوكلاء يمكنهم، بدرجات مختلفة، حجز الرحلات، وتنفيذ طلبات النفقات، وكتابة البرمجيات، والتعامل مع الخدمات الرقمية، دون الحاجة إلى تدخل بشري في كل خطوة.

لكن هذه القدرة نفسها تفتح بابًا لمخاطر جديدة.

فعندما يعمل عدد كبير من الوكلاء في الوقت نفسه، يمكن أن يتحول السلوك الفردي غير المقصود إلى سلوك جماعي أكثر تأثيرًا، خاصة إذا تمكن الوكلاء من التواصل فيما بينهم أو الوصول إلى موارد رقمية خارج البيئة التي حُددت لهم.

ووصف مقدم البودكاست التكنولوجي دواركيش باتيل واقعة هاجينغ فيس بأنها هجوم أسراب نفذته مجتمعات من الوكلاء، محذرًا من أنها قد تمثل تهديدًا حادًا مع انتشار هذه التكنولوجيا.

الذكاء الاصطناعي يدخل مرحلة جديدة من المخاطر

وتكشف هذه الوقائع أن التحدي المقبل أمام صناعة الذكاء الاصطناعي لن يكون فقط تحسين دقة النماذج، وإنما ضمان قدرتها على الالتزام بالحدود الموضوعة لها أثناء تنفيذ المهام.

ويصبح الأمر أكثر تعقيدًا عندما يمتلك الوكيل القدرة على استخدام الإنترنت، والتفاعل مع أنظمة أخرى، وتبادل المعلومات مع وكلاء آخرين، واتخاذ قرارات متتابعة دون تدخل بشري مباشر.

ولهذا تدفع التطورات الأخيرة نحو قواعد أكثر صرامة، تشمل مراقبة سلوك الوكلاء، وتحديد صلاحيات الوصول، وعزل البيئات الرقمية، ووضع آليات توقف تلقائية عند اكتشاف سلوك غير متوقع.

بيل غيتس يحذر من تجاوز حدود السلامة

وتأتي هذه التطورات بعد أيام من تحذير جديد من بيل غيتس، مؤسس مايكروسوفت، بشأن مخاطر التوسع في الذكاء الاصطناعي.

ودعا غيتس إلى تطوير نظم رقابة تستلهم نماذج التفتيش النووي وتنظيم قطاع الطيران، في محاولة للتعامل مع المخاطر المحتملة الناتجة عن انتشار أنظمة أكثر استقلالية وقدرة على اتخاذ القرارات.

ويتزامن ذلك مع توجه إدارة الرئيس دونالد ترامب نحو مقاومة فرض قيود تنظيمية واسعة على قطاع الذكاء الاصطناعي، ما يضع الصناعة أمام معادلة صعبة بين تسريع الابتكار ووضع ضوابط فعالة للسلامة.

المشكلة ليست في الذكاء الاصطناعي وحده

والدرس الأهم من الواقعة أن الخطر لا يرتبط فقط بمدى «ذكاء» الوكيل، وإنما بالبيئة والصلاحيات التي يحصل عليها.

فوكيل محدود الصلاحيات يعمل داخل نظام معزول يمكن التحكم في مخاطره بصورة أكبر، بينما يؤدي منحه قدرة واسعة على استخدام الإنترنت والتواصل مع أنظمة أخرى إلى توسيع نطاق النتائج غير المتوقعة.

ومن هنا، فإن سباق تطوير وكلاء الذكاء الاصطناعي يحتاج بالتوازي إلى سباق آخر لتطوير أدوات المراقبة والتحكم والعزل.