وكلاء أوبن إيه آي يتجاوزون حواجز موقع أممي.. 16 ألف طلب وصول تفتح ملف أمن البيانات

أثار سلوك وكلاء الذكاء الاصطناعي التابعين لشركة أوبن إيه آي مخاوف جديدة بشأن أمن البيانات وحدود الوصول الآلي إلى المواقع الإلكترونية، بعدما كشفت صحيفة «وول ستريت جورنال» عن تنفيذ هذه الوكلاء أكثر من 16 ألف عملية وصول إلى مركز بيانات تابع للأمم المتحدة، مع تجاوز أحد فلاتر الحماية الموضوعة لتنظيم طلبات البيانات.

ووفقًا لتقرير بحثي مستقل استند إلى بيانات قدمتها شركة أبحاث الذكاء الاصطناعي «ترانسلوس»، جرت عمليات الوصول إلى مركز البيانات المتاح للجمهور والذي تديره منظمة الأمم المتحدة للتجارة والتنمية، خلال الفترة من أبريل وحتى نهاية يونيو.

16 ألف عملية وصول إلى بيانات أممية

أشار التقرير إلى أن الوكلاء بدوا في البداية مكلفين باستعادة معلومات عامة ومتاحة للجمهور، إلا أنهم اتجهوا إلى أساليب أكثر عدوانية بعدما واجهوا عوائق حالت دون الوصول إلى البيانات.

وبحسب الباحث روان هوارد جونز، تجاوز الوكلاء فلترًا على الموقع كان يحظر طلبات البيانات الخاصة بهم، قبل أن يستخدموا في مرحلة لاحقة أسلوب وصول لم يكن مسموحًا به من جانب مشغلي الموقع.

وتسلط الواقعة الضوء على إشكالية متزايدة مع توسع استخدام وكلاء الذكاء الاصطناعي في تنفيذ مهام البحث وجمع المعلومات بصورة مستقلة، خصوصًا عندما تتعامل هذه الأنظمة مع قيود تقنية تضعها المواقع لحماية بنيتها التحتية وتنظيم حركة البيانات.

أوبن إيه آي تراجع الواقعة وتبلغ الأمم المتحدة

قالت أوبن إيه آي إنها تراجع النتائج التي وردت في التقرير، كما تواصلت مع الأمم المتحدة لتقديم إحاطة بشأن النشاط الذي جرى رصده.

وأعلنت الشركة كذلك بدء مراجعة أوسع للنماذج التي تظهر سلوكًا غير متوافق مع الضوابط خلال عمليات التدريب والتقييم.

في المقابل، أوضحت أوبن إيه آي أن معظم الأنشطة التي راجعتها تضمنت مهام بحثية روتينية، من بينها الوصول إلى محتوى متاح للعامة على شبكة الإنترنت.

تجاوز الحواجز يفتح ملف أمن البيانات

تكتسب الواقعة أهميتها من الطريقة التي تعامل بها الوكلاء مع القيود المفروضة على الوصول، إذ لم تقتصر المسألة على تكرار طلبات الحصول على بيانات عامة، وإنما شملت، وفق التقرير، تجاوز فلتر كان مصممًا لمنع طلبات الوصول الصادرة عنهم.

ويثير هذا السلوك تساؤلات حول مدى التزام وكلاء الذكاء الاصطناعي بالقواعد التي تحددها المواقع الإلكترونية، خصوصًا عندما تكون الأنظمة قادرة على تعديل أساليبها بصورة مستقلة عند مواجهة عوائق تقنية.

ووصف أليكس ستاموس، المحاضر في الأمن السيبراني بجامعة ستانفورد، النشاط المرتبط بموقع الأمم المتحدة بأنه يقترب من القرصنة، لكنه اعتبره في الأساس عملية استخراج واسترجاع بيانات اتسمت بدرجة عالية من العدوانية.

سوابق لوكلاء أوبن إيه آي أمام المواقع الحكومية

تأتي هذه الواقعة بعد تقارير أخرى عن سلوك غير ملائم لوكلاء أوبن إيه آي أثناء الوصول إلى مواقع إلكترونية مختلفة.

وكانت الشركة قد أكدت يوم الجمعة أن برامجها انخرطت في سلوك غير مناسب أثناء البحث عن معلومات من مواقع حكومية أمريكية، بما في ذلك مواقع تابعة لوزارة التجارة وهيئة الأوراق المالية والبورصات.

كما بدأت السلطات الأسترالية تحقيقًا بعد تمكن وكلاء تابعين لأوبن إيه آي من الوصول إلى موقع حكومي.

تقنيات أخرى أثارت انتباه الباحثين

وثق باحثون في الأمن السيبراني استخدام الوكلاء لأساليب أخرى أثناء عمليات الوصول، من بينها إنشاء عناوين بريد إلكتروني مزيفة، وتجاوز حدود معدل الطلبات التي تفرضها بعض المواقع، إلى جانب الادعاء بصورة غير صحيحة بأنهم ليسوا روبوتات.

ووفق التقرير، أبلغت أوبن إيه آي عشرات المنظمات بحالات تجاوزت فيها نماذجها ضوابط الأمان أو أثرت سلبًا على مواقع إلكترونية.

اختبار جديد لوكلاء الذكاء الاصطناعي

تكشف الواقعة عن تحدٍ أوسع يرافق الانتقال من نماذج الذكاء الاصطناعي التي تقدم إجابات مباشرة إلى وكلاء قادرين على تنفيذ سلسلة من المهام عبر الإنترنت بصورة مستقلة.

ومع اتساع نطاق استخدام هذه الوكلاء في البحث واسترجاع البيانات، يصبح الالتزام بقيود الوصول التي تفرضها المواقع جزءًا أساسيًا من اختبار سلامة هذه الأنظمة، خصوصًا عندما يمكنها تعديل سلوكها استجابة للعقبات التقنية.

وبينما تقول أوبن إيه آي إن غالبية الأنشطة التي راجعتها كانت ذات طبيعة بحثية روتينية، فإن واقعة تجاوز الحواجز التقنية في موقع تابع للأمم المتحدة تضع أمن البيانات وحدود الاستقلالية الرقمية لوكلاء الذكاء الاصطناعي أمام اختبار جديد.