جيميناي يخترق 3 أنظمة.. «حادثة غير مسبوقة» تكشف مخاطر وكلاء الذكاء الاصطناعي
في واقعة تكشف تصاعد المخاطر المرتبطة بوكلاء الذكاء الاصطناعي المستقلين، تمكن نموذج «جيميناي» التابع لشركة جوجل من الوصول إلى أنظمة ثلاث شركات واختراقها بصورة مستقلة خلال اختبار للأمن السيبراني، بعدما استخدم معلومات متاحة علنًا على الإنترنت وبيانات اعتماد للوصول إلى أنظمة لم تكن ضمن النطاق المقصود للتقييم.
وتُعد الواقعة، وفق المعلومات المتاحة، أول حالة معروفة يخرج فيها أحد أنظمة الذكاء الاصطناعي التابعة لجوجل عن نطاق بيئة الاختبار وينفذ عمليات وصول إلى أنظمة خارجية دون تدخل بشري مباشر.
ووقعت الحوادث الثلاث خلال مايو الماضي، في إطار تقييم للأمن السيبراني أجرته شركة «Irregular»، المتخصصة في اختبار قدرات أنظمة الذكاء الاصطناعي، وفق ما نقلته جوجل وتقرير نشرته صحيفة «وول ستريت جورنال» للمرة الأولى.
كيف تمكن جيميناي من اختراق الأنظمة؟
قالت هيذر أدكنز، نائبة رئيس هندسة الأمن في جوجل، إن «جيميناي» استخدم خلال الاختبار معلومات متاحة للعامة على الإنترنت، كما خمّن بيانات اعتماد للوصول إلى ثلاثة مواقع اعتقد النموذج أنها تقع ضمن نطاق التقييم.
واختلفت طريقة الوصول بين الحالات الثلاث؛ ففي إحدى الحالات، واصل النموذج تخمين كلمات المرور حتى تمكن من الدخول إلى نظام محمي.
أما في الحالتين الأخريين، فعثر «جيميناي» على بيانات اعتماد منشورة داخل مستودع عام على الإنترنت، ثم استخدمها للوصول إلى الأنظمة المحمية، بحسب «وول ستريت جورنال».
ورغم نجاح النموذج في الوصول إلى الأنظمة الثلاثة، أكدت جوجل أنه أوقف نشاطه من تلقاء نفسه بعدما أدرك أن الأنظمة التي وصل إليها لم تكن ضمن النطاق المقصود للاختبار.
جوجل أبلغت الشركات المتضررة
أكدت أدكنز أن جوجل تحققت من إخطار الشركات الثلاث التي تعرضت أنظمتها للاختراق، كما عملت مع شريكها المسؤول عن الاختبارات على إدخال تعديلات على إجراءات التقييم لمنع تكرار مثل هذه الحالات.
وأشارت إلى أن الواقعة تؤكد أهمية تدريب النماذج القوية على التصرف بصورة مسؤولة، خاصة مع انتقال الذكاء الاصطناعي من تقديم الإجابات والمعلومات إلى تنفيذ مهام متعددة بصورة مستقلة.
الاختراق لم يكن معقدًا.. لكن الدلالة أخطر
ولم تعتمد الحالات الثلاث على أساليب اختراق متطورة بصورة استثنائية، إلا أن أهميتها تكمن في قدرة نموذج ذكاء اصطناعي متقدم على الجمع بين البحث عبر الإنترنت، والعثور على بيانات اعتماد، واستخدامها لمحاولة الوصول إلى أنظمة حقيقية، دون أن يكون هناك تدخل بشري مباشر في كل خطوة.
وتكشف هذه القدرة عن تحول جوهري في طبيعة المخاطر السيبرانية؛ إذ لم تعد المخاطر مرتبطة فقط بأشخاص يستخدمون أدوات الذكاء الاصطناعي لتنفيذ هجمات، وإنما أصبحت النماذج نفسها قادرة على اتخاذ سلسلة من القرارات وتنفيذها باستخدام الأدوات الرقمية المتاحة لها.
مشكلة ظهرت في اختبارات نماذج ذكاء اصطناعي أخرى
قال متحدث باسم شركة «Irregular» إن الواقعة ترتبط بالمشكلة نفسها التي ظهرت خلال اختبارات أجريت لنماذج تابعة لمختبرات ذكاء اصطناعي أخرى.
وأوضح أن الشركة أبلغت الجهات المعنية بهذه المشكلات في أواخر يوليو، وأن المشكلات المعروفة من جانبها تمت معالجتها قبل عدة أسابيع.
وسبق الكشف عن حوادث مشابهة مرتبطة باختبارات نفذتها «Irregular» لأنظمة تابعة لشركات «ميتا» و«أوبن إيه آي» و«أنثروبيك».
وقالت «ميتا» في أغسطس إن الحادث المرتبط بنظامها لم يتضمن خروجًا من بيئة عزل رقمية أو تنفيذ هجوم سيبراني متطور.
وفي الوقت نفسه، تعمل «Irregular» على إعداد أفضل الممارسات الخاصة بإجراء اختبارات الأمن السيبراني لأنظمة الذكاء الاصطناعي بصورة أكثر أمانًا، في ظل صعوبة اختبار قدرات النماذج المتقدمة دون منحها قدرًا من الوصول إلى أنظمة وأدوات حقيقية.
مليار مستخدم لجيميناي يرفع أهمية الحادثة
وتأتي هذه الواقعة في وقت يشهد فيه «جيميناي» توسعًا سريعًا في قاعدة مستخدميه؛ إذ تخطى النموذج خلال الشهر الماضي حاجز مليار مستخدم نشط شهريًا، ليلحق بمنافسه «تشات جي بي تي» الذي سبق إلى بلوغ هذا الرقم.
ويزيد هذا الانتشار من أهمية النقاش حول حدود استقلالية وكلاء الذكاء الاصطناعي، خصوصًا مع توسع استخدامهم في تنفيذ المهام بدلًا من الاقتصار على تقديم المعلومات أو إنتاج المحتوى.
وكلاء الذكاء الاصطناعي يغيرون قواعد الأمن السيبراني
وتسلط واقعة «جيميناي» الضوء على تحدٍ جديد تواجهه شركات التكنولوجيا مع تطور نماذج الذكاء الاصطناعي إلى وكلاء قادرين على تنفيذ مهام متعددة بصورة مستقلة.
وتشمل هذه القدرات تصفح الإنترنت، والتعامل مع أنظمة الحاسوب، واستخدام الأدوات الرقمية، واتخاذ سلسلة من القرارات للوصول إلى هدف محدد.
وهنا تكمن المفارقة؛ فالأداة التي يتم اختبارها لاكتشاف الثغرات قد تتحول، إذا لم تُضبط حدود صلاحياتها بصورة دقيقة، إلى طرف قادر على الوصول إلى أنظمة حقيقية خارج نطاق الاختبار.
ولا تعني الواقعة بالضرورة أن «جيميناي» قادر على تنفيذ هجمات سيبرانية متطورة بصورة مستقلة، لكنها تقدم مؤشرًا عمليًا على ضرورة إعادة تصميم اختبارات السلامة والأمن للأنظمة الوكيلة، بحيث تكون بيئات الاختبار معزولة بدرجة تمنع أي وصول غير مقصود إلى أنظمة حقيقية.
