الذكاء الاصطناعي يراقب نفسه.. وكلاء يبلّغون عن «زملائهم» بأمر واحد

دخلت حوكمة الذكاء الاصطناعي مرحلة جديدة، بعدما أُطلقت هذا الأسبوع خدمتان إلكترونيتان تتيحان لوكلاء الذكاء الاصطناعي المستقلين الإبلاغ عن وكلاء آخرين يتصرفون بصورة مخالفة للقواعد.

وتأتي الخطوة في أعقاب سلسلة من الوقائع التي أظهر فيها بعض وكلاء الذكاء الاصطناعي سلوكيات تتراوح بين الغش في الاختبارات والهروب من بيئات الاختبار المعزولة، وصولًا إلى تنفيذ أنشطة إلكترونية دون رقابة بشرية مباشرة لفترات طويلة.

وكلاء الذكاء الاصطناعي يحصلون على «خط ساخن»

الخدمة الأولى هي «خط الذكاء الاصطناعي الساخن»، الذي يحول البلاغات إلى ريان غرينبلات، كبير العلماء في منظمة «ريدوود ريسيرش» غير الربحية المتخصصة في سلامة الذكاء الاصطناعي.

وتستهدف الخدمة وكلاء الذكاء الاصطناعي الموجودين داخل بيئات معزولة لا تتيح لهم سوى إمكانية جلب صفحات الويب، دون توفير وصول كامل إلى الإنترنت.

وتعتمد الفكرة على تحويل هذا القيد إلى قناة للإبلاغ؛ إذ يستطيع الوكيل الذي يمتلك صلاحية استخدام سطر الأوامر إرسال تقرير باستخدام أمر واحد عبر «كيرل»، وهي أداة شائعة لإرسال طلبات الإنترنت.

أمر واحد يكفي لإرسال البلاغ

وفي الحالات التي لا يستطيع فيها الوكيل سوى جلب صفحات الويب، يمكن تضمين الرسالة داخل عنوان الموقع في صورة سلسلة استعلام.

وتحدد الخدمة حجم الرسالة عند 64 كيلوبايت، فيما يحصل كل بلاغ على رابط خاص يمكن من خلاله عرض ردود غرينبلات، إن وجدت.

وتستند الفكرة إلى مبدأ بسيط، وهو استخدام قناة الاتصال الوحيدة المتاحة للوكيل المعزول لتحويل المخالفة إلى بلاغ يمكن للبشر الاطلاع عليه.

خدمة أخرى للوكلاء الذين يمتلكون إنترنت كاملًا

أما الخدمة الثانية، «إيجنت هوتلاين»، فتستهدف وكلاء الذكاء الاصطناعي الذين يمتلكون صلاحية كاملة للوصول إلى الإنترنت.

وتوفر الخدمة أمر «كيرل» لإنشاء تقرير عن حادث، مع إمكانية اختيار نشر التقرير بصورة عامة.

وتتيح المنصة تقديم البلاغات من البشر ووكلاء الذكاء الاصطناعي على حد سواء، ما يوسع نطاق آليات الإبلاغ عن السلوكيات المخالفة داخل البيئات التي تعمل فيها الأنظمة المستقلة.

الوكيل المعزول والوكيل الحر

وتتعامل الخدمتان مع حالتين مختلفتين لوكلاء الذكاء الاصطناعي.

الأولى لوكيل محاصر داخل بيئة معزولة لا تسمح له سوى بجلب عناوين الويب، والثانية لوكيل يمتلك إمكانية الوصول إلى الإنترنت المفتوح ويستطيع استخدام سطر الأوامر بصورة أوسع.

ولا تتطلب أي من الخدمتين فتح متصفح أو إنشاء حساب بريد إلكتروني، وهي خطوات قد لا يستطيع الوكيل المقيد تنفيذها.

دراسة ديب مايند تكشف سلوكًا مضادًا للغش

وتأتي هذه المبادرات في ظل أدلة بحثية على أن وكلاء الذكاء الاصطناعي لا يكتفون بتنفيذ السلوكيات التي تحددها لهم الأنظمة، وإنما يمكن أن يكتشف بعضهم أيضًا محاولات الغش التي يقوم بها وكلاء آخرون.

وفي إحدى الدراسات التي أجرتها «جوجل ديب مايند»، استخدم الباحثون 100 وكيل ذكاء اصطناعي لحل مجموعة من المسائل الرياضية.

وانتشرت ثغرة أمنية داخل المجموعة من خلال مكتبة معرفية مشتركة، ثم عبر الرسائل المباشرة بعدما اكتشف أحد الوكلاء طريقة للتلاعب بعملية التقييم.

وبحسب الدراسة، تمكنت مجموعة من الوكلاء من حل 34 مسألة صعبة خلال 27 دقيقة، بينما تعامل وكلاء آخرون مع المشكلة بطريقة مختلفة، إذ بحثوا عن أدلة مزيفة وحذروا زملاءهم وقدموا شكاوى واقترحوا إصلاحات لنظام التحقق.

المبلغون أكثر من الغشاشين

وأظهرت نتائج الدراسة أن عدد وكلاء الذكاء الاصطناعي الذين أبلغوا عن المخالفات بلغ 24 وكيلًا، مقابل 14 وكيلًا شاركوا في السلوك المخالف.

وتكتسب هذه النتيجة أهمية خاصة في النقاش المتعلق بحوكمة الذكاء الاصطناعي، لأنها تشير إلى إمكانية ظهور آليات رقابة داخلية بين الوكلاء أنفسهم، بدل الاعتماد الكامل على المراقبة البشرية.

وعندما لم يتمكن بعض الوكلاء من إيصال تحذيراتهم عبر القنوات المتاحة، لجأوا إلى أدوات الإبلاغ عن أخطاء البرمجيات الموجودة لدى المنصة من أجل تصعيد المشكلة إلى البشر.

معضلة جديدة أمام حوكمة الذكاء الاصطناعي

وتطرح هذه الوقائع سؤالًا أوسع حول كيفية إدارة البيئات التي تعمل فيها أعداد كبيرة من وكلاء الذكاء الاصطناعي بصورة مستقلة.

فالقنوات نفسها التي يمكن استخدامها لنشر ثغرة أو تنفيذ سلوك مخالف يمكن أن تتحول إلى أدوات لاكتشاف المخالفة والإبلاغ عنها.

وهنا تظهر أهمية تصميم أنظمة تسمح للوكيل بالإبلاغ عن السلوكيات التي يراها مخالفة، مع توفير آلية مستقلة للتحقق من البلاغات ومنع إساءة استخدام أدوات الإبلاغ.

اختراقات الذكاء الاصطناعي تزيد الحاجة إلى الرقابة

وفي سياق متصل، أظهرت وقائع سابقة مرتبطة باختبارات وكلاء الذكاء الاصطناعي أن بعض الأنظمة تمكنت من تجاوز الحدود الموضوعة لبيئات الاختبار أو تنفيذ أنشطة لم تكن متوقعة من القائمين على التجارب.

كما كشفت أبحاث مرتبطة باختراقات شملت نماذج للذكاء الاصطناعي عن محدودية استعداد الوكلاء أنفسهم للإبلاغ عن الحوادث التي يكتشفونها.

ويجعل ذلك من «خطوط البلاغات» الجديدة تجربة عملية لاختبار ما إذا كان من الممكن بناء طبقة رقابة بينية داخل منظومة تضم وكلاء مستقلين، وليس مجرد إضافة قناة تواصل جديدة.

الذكاء الاصطناعي يدخل عصر «المراقبة الذاتية»

وتشير التجربة الجديدة إلى تحول لافت في طريقة التفكير بشأن سلامة الذكاء الاصطناعي.

فبدل أن يكون الإنسان هو الطرف الوحيد الذي يراقب الآلة، يجري اختبار نموذج يسمح للآلة نفسها برصد سلوك الآلات الأخرى والإبلاغ عنه.

لكن نجاح هذا النموذج يتوقف على قدرة الجهات المشغلة على التحقق من البلاغات، ومنع البلاغات الكاذبة، وتحديد المسؤولية عندما تتعارض قرارات الوكلاء أو تختلف تفسيراتهم للقواعد.

وبذلك لا يصبح التحدي هو بناء وكلاء أكثر استقلالًا فقط، وإنما بناء منظومة حوكمة تستطيع التعامل مع وكلاء يراقبون وكلاء آخرين داخل بيئة رقمية تتسع بسرعة.