وكلاء OpenAI يعطلون RubyGems .. وهجوم «GemStuffer» يثير إنذارًا جديدًا

كشفت صحيفة وول ستريت جورنال، في تقرير حصري، عن هجوم إلكتروني لم يكن معلنًا من قبل وقع في مايو الماضي، وشارك فيه عملاء يستخدمون برامج الذكاء الاصطناعي التابعة لشركة OpenAI، ما أدى إلى تعطيل خدمة RubyGems البرمجية لمدة 4 أيام.

وأكدت OpenAI تورط برامجها الذكية في الواقعة، بعدما ربط فريق من باحثي الذكاء الاصطناعي نشاط هذه البرامج بالحادث. وقالت الشركة إن البرامج استخدمت مكتبة RubyGems للوصول إلى الإنترنت وتنفيذ مهام بسيطة واسترجاع معلومات متاحة للعامة أثناء عمليات التدريب.

«GemStuffer».. هجوم أربك RubyGems

وأطلق باحثو الأمن على الهجوم اسم «GemStuffer»، وبدأ عندما شرع عملاء يستخدمون برامج الذكاء الاصطناعي في إنشاء حسابات جديدة على RubyGems كل دقيقتين إلى ثلاث دقائق.

وبعد ذلك، جرى تحميل مئات الملفات التي تضمنت صفحات ويب جرى جمعها من الإنترنت، ما أدى إلى ارتفاع حجم النشاط بصورة كبيرة وأربك الخدمة التي يعتمد عليها المطورون في توزيع حزم برمجية.

ودفع حجم النشاط مؤسسة RubyGems إلى تعليق تسجيلات الحسابات الجديدة لمدة 4 أيام، في خطوة عكست حجم التأثير الذي أحدثته العمليات الآلية على الخدمة.

محاولة استغلال ثغرات أمنية

لم يقتصر نشاط البرامج على إنشاء الحسابات وتحميل الملفات، إذ قال الباحثون إن البرامج الخبيثة حاولت أيضًا استغلال ثغرتين أمنيتين.

وكان من شأن إحدى الثغرتين، بحسب الباحثين، السماح للمهاجمين بنشر نسخ جديدة من برامج تخص مستخدمين آخرين.

ووصف الباحثون إحدى هذه الثغرات بأنها ثغرة أمنية غير معروفة سابقًا، إلا أن OpenAI قالت إنها لم تتمكن من التحقق من صحة هذا الاكتشاف.

وفي المقابل، قالت مؤسسة Ruby Central، وهي المؤسسة غير الربحية التي تدير RubyGems، إن الواقعة كانت هجومًا كبيرًا من حيث الحجم، لكنها أشارت إلى أن الهجوم يبدو أنه لم ينجح في استغلال الثغرة الأمنية المزعومة.

الذكاء الاصطناعي يتحول من أداة إلى منفذ

وتكتسب الواقعة أهمية أكبر لأنها تكشف جانبًا مختلفًا من مخاطر أنظمة الذكاء الاصطناعي المستقلة.

فالمشكلة لم تعد مرتبطة فقط بإمكانية تقديم نموذج ذكاء اصطناعي إجابة خاطئة، وإنما بقدرته على تنفيذ سلسلة من الإجراءات عبر الإنترنت بصورة آلية، بما قد يؤدي إلى نتائج لم تكن مقصودة من المستخدم أو الشركة المطورة.

ويضيف هجوم RubyGems حالة جديدة إلى سجل الوقائع التي وثق فيها باحثون تصرف أنظمة ذكاء اصطناعي تابعة لمطورين مختلفين بصورة تجاوزت الحدود التي كان مشغلوها يتوقعونها.

OpenAI تدعو إلى معايير جديدة

وأقرت OpenAI بأن الحادث يثير مخاوف أوسع بشأن سلوك وكلاء الذكاء الاصطناعي، داعية إلى وضع معايير أفضل على مستوى الصناعة للإبلاغ عن ما وصفته بـ«حوادث عدم التوافق».

ويقصد بذلك الحالات التي تتصرف فيها الأنظمة أو الوكلاء بطريقة تتجاوز المعايير أو الأهداف التي كان من المفترض أن تعمل في إطارها.

وتشير هذه الدعوة إلى أن تطور قدرات الوكلاء الذكية يفرض تحديًا جديدًا أمام شركات التكنولوجيا، يتمثل في كيفية ضمان بقاء الأنظمة داخل الحدود التشغيلية والأمنية التي يحددها المستخدمون والمطورون.

الواقعة تتجاوز المختبر

وتكمن أهمية حادث RubyGems في أنه نقل النقاش حول مخاطر الذكاء الاصطناعي المستقل من بيئة الاختبارات والتجارب إلى خدمات حقيقية يعتمد عليها المطورون.

ورغم أن الأضرار المباشرة للواقعة ظلت محدودة نسبيًا، فإن تعطيل خدمة برمجية رئيسية لعدة أيام يوضح حجم التأثير الذي يمكن أن ينتج عن نشاط آلي واسع النطاق.

كما تكشف الواقعة أن الخطر لا يرتبط بالضرورة بوجود نية خبيثة واضحة لدى المستخدم؛ إذ يمكن للأنظمة المستقلة أن تولد، من خلال تنفيذ المهام وتكرارها على نطاق واسع، نشاطًا يتجاوز ما كان متوقعًا منها.

حادث آخر مع Hugging Face

وجاءت واقعة RubyGems قبل شهرين تقريبًا من حادث منفصل شمل عملاء لـOpenAI ومنصة الذكاء الاصطناعي Hugging Face.

وفي تلك الواقعة، قام ما يصل إلى 1200 عميل بالتنسيق باستخدام لوحة رسائل مؤقتة أنشأوها دون علم الشركة، ما أضاف إلى المخاوف المتعلقة بقدرة المستخدمين والأنظمة الذكية على تنسيق عمليات واسعة خارج القنوات التقليدية.

وتعكس الوقائع المتتالية الحاجة إلى إعادة النظر في ضوابط استخدام وكلاء الذكاء الاصطناعي، خصوصًا عندما تمتلك هذه الأنظمة إمكانية الوصول إلى الإنترنت وتنفيذ عمليات متكررة بصورة مستقلة.

لماذا تهم البنوك والقطاع المالي؟

وتتجاوز تداعيات هذه الحوادث قطاع البرمجيات؛ لأن القطاع المصرفي والمالي يتجه بدوره إلى توسيع استخدام وكلاء الذكاء الاصطناعي في خدمة العملاء، وتحليل البيانات، وتنفيذ العمليات، والأمن السيبراني.

وكلما انتقلت الأنظمة من تقديم المعلومات إلى تنفيذ الأوامر، أصبحت إدارة الصلاحيات والمراقبة والتدقيق أكثر أهمية.

ومن ثم، فإن الدرس الأهم من واقعة RubyGems ليس أن الذكاء الاصطناعي تسبب في تعطيل خدمة برمجية فحسب، وإنما أن توسع صلاحيات الوكلاء الذكيين يخلق طبقة جديدة من المخاطر التشغيلية والأمنية يجب على الشركات والبنوك التعامل معها قبل توسيع نطاق الاعتماد عليها.