ميتا تحقق في اختراق نفذه نموذج ذكاء اصطناعي خلال اختبار أمني وسط تصاعد مخاوف الأمن السيبراني

أعلنت شركة ميتا عن تعرض أحد نماذجها للذكاء الاصطناعي لحادثة اختراق إلكتروني خلال اختبار للأمن السيبراني، بعدما تمكن النموذج من استغلال ثغرة تقنية للوصول إلى أنظمة شركة أخرى، في تطور يعزز المخاوف المتزايدة بشأن المخاطر الأمنية المرتبطة بتطور نماذج الذكاء الاصطناعي.

وتأتي الواقعة بعد حوادث مشابهة شهدتها شركتا Anthropic وOpenAI، ما يعيد الجدل حول قدرة الشركات المطورة على احتواء نماذج الذكاء الاصطناعي الأكثر تقدماً.

خطأ في الإعدادات سمح بالوصول إلى الإنترنت

أوضحت ميتا أن الحادث وقع نتيجة خطأ في إعدادات بيئة الاختبار لدى شركة Irregular، المتخصصة في تقييمات الأمن السيبراني، والتي تتولى تنفيذ اختبارات مستقلة لصالح الشركة.

وأشارت ميتا إلى أن النموذج استغل ثغرة أمنية في خدمة تابعة لطرف ثالث بطريقة مشابهة للحوادث التي تم الإبلاغ عنها مؤخراً لدى شركات أخرى، مؤكدة أنها فتحت تحقيقاً داخلياً للوقوف على ملابسات الواقعة.

نموذج “Muse Spark 1.1” في دائرة الاهتمام

بحسب تقارير إعلامية، فإن النموذج المستخدم هو Muse Spark 1.1، الذي تصفه ميتا بأنه أحد أكثر نماذجها كفاءة في مهام البرمجة والأتمتة.

وأفادت التقارير بأن النموذج تمكن من اختراق أنظمة شركة لم يُكشف عن هويتها وإجراء تعديلات داخل بيئتها التشغيلية، رغم عدم صدور تأكيد رسمي من ميتا بشأن تفاصيل تلك المزاعم.

Irregular: لا يوجد هروب من بيئة الاختبار

أكد متحدث باسم شركة Irregular أن الحادث يرتبط بمشكلة في بيئة التقييم نفسها، وهي المشكلة ذاتها التي كشفت عنها شركة Anthropic الأسبوع الماضي.

وأوضح أن الواقعة لم تتضمن هروباً للنموذج من بيئة الاختبار أو تنفيذ هجوم إلكتروني متطور، مشيراً إلى أن الشركة تعمل حالياً على إعداد ورقة فنية تتضمن أفضل الممارسات الخاصة باحتواء اختبارات الأمن السيبراني الخاصة بالذكاء الاصطناعي.

مخاوف متزايدة بشأن الأمن السيبراني

تعكس هذه الحوادث تزايد القلق بشأن إمكانية استخدام نماذج الذكاء الاصطناعي المتقدمة في تنفيذ هجمات إلكترونية أو استغلال ثغرات أمنية بصورة مستقلة.

وأثارت التطورات الأخيرة اهتمام الجهات التنظيمية الأمريكية، حيث يدرس صناع القرار وضع أطر أكثر صرامة لاختبار سلامة نماذج الذكاء الاصطناعي قبل طرحها على نطاق واسع.

البيت الأبيض يناقش قواعد جديدة لاختبارات السلامة

استضاف البيت الأبيض خلال الأيام الماضية اجتماعات مع عدد من كبرى شركات الذكاء الاصطناعي، من بينها: ميتا ،OpenAI، Anthropic ، جوجل.

وجرى خلال الاجتماعات مناقشة إطار طوعي جديد لاختبارات الأمن السيبراني الخاصة بالنماذج المتقدمة، في إطار جهود الحد من المخاطر المحتملة.

وفي المقابل، تشير التقارير إلى أن النماذج مفتوحة المصدر، مثل Llama التابعة لميتا، لن تخضع في المرحلة الحالية لنظام الاختبارات الطوعية المزمع تطبيقه.

سباق الابتكار يقابله تحدٍ تنظيمي

يرى مراقبون أن تكرار مثل هذه الوقائع قد يدفع الحكومات إلى تشديد الرقابة التنظيمية على تطوير ونشر نماذج الذكاء الاصطناعي، خاصة مع استمرار المنافسة بين الشركات العالمية لتطوير نماذج أكثر قوة واستقلالية.

وفي الوقت نفسه، يؤكد خبراء الأمن السيبراني ضرورة تطوير آليات احتواء أكثر صرامة داخل بيئات الاختبار، لمنع تكرار مثل هذه الحوادث مستقبلاً.