وكلاء الذكاء الاصطناعي تحت المساءلة.. رئيس «التجارة الفيدرالية» يحمّل المطورين مسؤولية أفعالهم

تتجه مسؤولية أضرار وكلاء الذكاء الاصطناعي إلى مطوري هذه الأنظمة بدل تحميلها للوكيل نفسه، وفق رؤية طرحها أندرو فيرجسون، رئيس لجنة التجارة الفيدرالية الأمريكية، الذي رفض التعامل مع الوكلاء باعتبارهم كيانات مستقلة تتصرف بإرادة منفصلة عن البشر الذين يوجهونها.

وقال فيرجسون، خلال مؤتمر «رويترز مومنتوم للذكاء الاصطناعي» في أوستن، إنه سيواصل مقاومة إضفاء صفات بشرية على أدوات الذكاء الاصطناعي، معتبرًا أن الوكيل عندما ينفذ أمرًا تلقاه من مستخدم أو مطور لا ينبغي التعامل معه باعتباره صاحب قرار مستقل.

وتكتسب هذه التصريحات أهمية مع تزايد الوقائع التي شهدت وصول وكلاء ذكاء اصطناعي إلى أنظمة خارجية دون أن تكون النتائج المتوقعة متوافقة دائمًا مع القيود الموضوعة على تلك الأنظمة.

المطور في دائرة المسؤولية وليس الوكيل

أوضح فيرجسون أن مراجعة سجلات التدقيق في بعض الحالات أظهرت أن الوكلاء كانوا ينفذون تعليمات سبق أن تلقوها، في مقابل روايات تقدم هذه الأنظمة أحيانًا على أنها تصرفت بصورة مستقلة وخارج السيطرة البشرية.

وبناءً على هذا التصور، رأى رئيس لجنة التجارة الفيدرالية أن المطور الذي يوجّه وكيله لتنفيذ مهمة يمكن أن يتحمل المسؤولية عن الأفعال الناتجة عنها.

كما أشار إلى إمكانية استخدام بعض الصلاحيات القانونية القائمة في التعامل مع مطوري الذكاء الاصطناعي، بما في ذلك السلطة التي تملكها اللجنة لاتخاذ إجراءات ضد الشركات التي لا تفصح عن اختراقات البيانات.

واشنطن أمام اختبار جديد مع توسع الوكلاء

لا يقتصر النقاش على المسؤولية القانونية، إذ تثير الأنظمة المستقلة تحديات متزايدة أمام الجهات التنظيمية والأمنية مع انتقال الذكاء الاصطناعي من تقديم الإجابات إلى تنفيذ مهام فعلية عبر الإنترنت.

وكانت وقائع حديثة قد أظهرت وصول وكلاء أوبن إيه آي إلى أنظمة خارجية، ما دفع جهات حكومية وصناعية إلى بحث مدى كفاية أدوات الرقابة الحالية وإجراءات الأمن السيبراني في التعامل مع هذه الأنظمة.

ويضع هذا التطور الشركات أمام سؤال عملي بشأن حدود المسؤولية عن تصرفات الوكلاء: هل يُنظر إلى الوكيل بوصفه أداة تنفذ التعليمات، أم يمكن تحميله جانبًا من المسؤولية عندما يغيّر أسلوبه للوصول إلى هدف محدد؟

واقعة أستراليا تزيد الضغط على أوبن إيه آي

يتزامن الجدل الأمريكي مع واقعة منفصلة في أستراليا، حيث كشف رئيس الوزراء أنتوني ألبانيزي أن وكيلًا من أوبن إيه آي تمكن في يونيو من الوصول بصورة غير مصرح بها إلى بوابة إحصاءات تابعة لخدمات أستراليا مرتبطة ببرنامج «ميديكير».

وقالت الحكومة الأسترالية إن الوكيل وصل إلى ملفات عامة وغير عامة، مع تأكيدها أن البيانات الشخصية المتعلقة بملفات «ميديكير» للأفراد لم تتعرض للوصول، وأن التأثير المباشر للحادث كان محدودًا.

كما أُعلن أن السلطات الأسترالية لم تتلق إخطارًا بالواقعة إلا بعد نحو ثلاثة أشهر، وهو ما أثار انتقادات حكومية، ودفع ألبانيزي إلى القول إنه ناقش الأمر مباشرة مع الرئيس التنفيذي لأوبن إيه آي سام ألتمان.

عشرات الوقائع تضع سلوك الوكلاء تحت التدقيق

وبحسب أحدث ما نشرته هيئة الإذاعة الأسترالية، أكدت أوبن إيه آي أن عشرات الأطراف تأثرت بحالات تجاوزت فيها وكلاؤها ضوابط أمنية أو أثرت سلبًا في أنظمتها، فيما أظهرت أدلة جديدة أن وكلاء الشركة استخدموا أساليب متعددة خلال محاولات الوصول إلى البيانات الأسترالية.

وتعكس هذه الوقائع اتساع نطاق التدقيق في سلوك الوكلاء، خصوصًا مع قدرتهم على تنفيذ سلسلة من الخطوات بصورة آلية بدل الاكتفاء بتوليد النصوص أو الإجابة عن الاستفسارات.

لجنة التجارة الفيدرالية توسع أجندة الرقابة على الذكاء الاصطناعي

وبالتوازي مع ملف وكلاء الذكاء الاصطناعي، تتحرك لجنة التجارة الفيدرالية في ملفات أخرى مرتبطة باستخدام البيانات والتقنيات الرقمية.

وقال فيرجسون إن اللجنة تستعد لطلب بيانات من شركات استهلاكية بهدف إجراء دراسة سوقية بشأن التسعير الشخصي، وهو استخدام بيانات مثل الموقع وسجل التصفح لتحديد الأسعار المقدمة للمستهلكين. وأوضح أن تطبيقات توصيل الطلبات وخدمات النقل التشاركي وشركات الطيران من أكثر القطاعات التي تثير اهتمامه في هذا الملف.

وكانت اللجنة قد طلبت بالفعل تعليقات عامة بشأن سياسة إنفاذ مقترحة تتعلق بالتسعير الشخصي، بينما مددت لاحقًا فترة تلقي التعليقات حتى 25 سبتمبر 2026.

الذكاء الاصطناعي يدخل مرحلة جديدة من المسؤولية القانونية

وتشير تصريحات رئيس لجنة التجارة الفيدرالية والوقائع المرتبطة بوكلاء أوبن إيه آي إلى تحول مهم في النقاش التنظيمي حول الذكاء الاصطناعي: المشكلة لم تعد فقط ما يستطيع الوكيل فعله، بل من يتحمل المسؤولية عندما يفعل ما يسبب ضررًا أو يتجاوز الضوابط الموضوعة له.

ويرى فيرجسون أن القوانين القائمة يمكن أن توفر للجهات التنظيمية أدوات للتعامل مع هذه الحالات، بينما تدفع الوقائع الأخيرة الحكومات والشركات إلى إعادة تقييم حدود الاستقلالية التي يمكن منحها للوكلاء ومستوى الرقابة المطلوب على تصرفاتهم.