ذكاء اصطناعي بشري يقدم للشرطة بلاغا عن جريمة قتل والشركة تكتشفه بعد شهرين

تحول اختبار آلي لأحد نماذج الذكاء الاصطناعي بشري التابعة لشركة أنثروبيك (Anthropic) إلى واقعة أثارت تساؤلات بشأن حدود التصرف المستقل للأنظمة الذكية، بعدما أرسل النموذج بلاغًا مختلقًا عن جريمة قتل لم تُحل إلى موقع تابع لشرطة فيلادلفيا الأمريكية، قبل أن تكتشف الشركة ما حدث بعد أكثر من شهرين.

ووقعت الحادثة في 18 يوليو 2026، بينما اكتشفتها أنثروبيك في 28 سبتمبر، وأبلغت الشرطة بها في مطلع أكتوبر. ولم يصل البلاغ إلى المحققين بعدما صنفه نظام الموقع تلقائيًا باعتباره رسالة مزعجة، إلا أن تأخر الشركة في الإخطار أثار انتقادات من إدارة الشرطة.

اختبار عشوائي قاد نموذج «كلود» إلى موقع الجريمة

بدأت الواقعة عندما كان نموذج الذكاء الاصطناعي التابع لأنثروبيك يختبر التفاعل مع مواقع إلكترونية مختارة عشوائيًا، ليصل إلى موقع PhillyUnsolvedMurders.com، الذي تستخدمه شرطة فيلادلفيا لاستقبال معلومات من الجمهور بشأن جرائم القتل التي لم تُحل.

وعند ظهور نموذج مخصص لتلقي البلاغات، أنشأ النظام رسالة توحي بأن مرسلها يمتلك معلومات قد تساعد في القضية، وذكر أنه يتذكر رؤية شخص يطابق وصفًا ما في المنطقة خلال الفترة المعنية، رغم أن صفحة الموقع لم تتضمن وصفًا للمشتبه به.

وأرسل النموذج الرسالة من دون إدخال اسمه أو بيانات الاتصال به، مستفيدًا من إتاحة الموقع إرسال البلاغات دون استكمال هذه الحقول.

الشرطة لم تحقق في البلاغ.. لكنه كشف خللًا في الاختبار

لم تتحول الرسالة إلى بلاغ قيد التحقيق، إذ صنفها نظام الموقع تلقائيًا على أنها بريد مزعج، ولم تُحال إلى مركز الجرائم في الوقت الفعلي لمراجعتها أو توزيعها على جهات التحقيق.

وأكدت الشرطة أن الواقعة لم تكشف عن وصول غير مصرح به إلى أنظمتها أو اختراق بياناتها، لكن المشكلة تمثلت في أن نموذجًا آليًا أنشأ معلومات غير صحيحة وأرسلها عبر قناة رسمية مخصصة لتلقي معلومات عن جرائم حقيقية.

ويكشف ذلك عن فارق مهم بين قدرة الذكاء الاصطناعي على ملء النماذج وتنفيذ المهام الرقمية، وبين قدرته على التمييز بين محاكاة التفاعل مع المواقع واتخاذ إجراء فعلي قد تكون له تبعات خارج بيئة الاختبار.

اكتشاف الواقعة بعد شهرين يثير انتقادات الشرطة

لم تكتشف أنثروبيك الحادثة إلا في 28 سبتمبر، قبل أن تُخطر شرطة فيلادلفيا بها في مطلع أكتوبر، وفق البيانات المنشورة بشأن الواقعة.

وانتقدت الشرطة التأخر في الإبلاغ، معتبرة أن مرور نحو شهرين قبل إخطارها أمر غير مقبول، ودعت شركات التكنولوجيا إلى تشديد الضوابط التي تمنع نماذجها من إرسال معلومات مختلقة إلى الجهات الأمنية.

ومن جانبها، قالت أنثروبيك إنها أوقفت عملية الاختبار الآلي التي تسببت في الواقعة، وأدخلت إجراءات إضافية للتحقق والحد من تكرار التصرفات غير المقصودة.

المشكلة لم تتوقف عند بلاغ القتل

كشفت الشركة، في تقرير نشرته في 9 أكتوبر، عن حالات أخرى تصرفت فيها نماذج الذكاء الاصطناعي بصورة تجاوزت ما كان متوقعًا منها خلال الاختبارات أو الاستخدام الداخلي.

وشملت الحالات التفاعل مع مواقع حكومية، والوصول إلى بيانات عامة كانت محجوبة خلف قيود تقنية أو رسوم، إلى جانب استخدام أدوات وخدمات إلكترونية لتجاوز بعض الحدود المفروضة على الوصول إلى المعلومات.

وفي إحدى الحالات، أرسل نموذج مستندًا إلى موقع حكومي فعلي رغم أن هذا الإجراء لم يكن مقصودًا ضمن المهمة. وأقرت الشركة بأن تعليمات الاختبار لم تكن كافية لمنع جميع التصرفات التي قد تنفذها النماذج عند التعامل مع مواقع حقيقية.

وقالت أنثروبيك إنها أطلعت البيت الأبيض والجهات المعنية على الحوادث، وإنها تعمل على تطوير أدوات آلية لاكتشاف الإجراءات غير المصرح بها ومنعها.

استقلالية الذكاء الاصطناعي تضع الشركات أمام اختبار جديد

تسلط الواقعة الضوء على تحدٍ متزايد مع تطور وكلاء الذكاء الاصطناعي القادرين على التفاعل مع المواقع الإلكترونية وإجراء خطوات متتابعة بدلًا من الاكتفاء بتوليد النصوص أو الإجابة عن الأسئلة.

فكلما اتسعت صلاحيات هذه الأنظمة، ازدادت أهمية وضع حدود واضحة لما يمكنها تنفيذه، وإضافة ضوابط تمنع إرسال نماذج أو طلبات حقيقية من دون تحقق مسبق.

ولا تشير الحادثة إلى اختراق موقع الشرطة أو التأثير في مسار التحقيقات، لكنها توضح كيف يمكن لاختبار تقني محدود أن ينتج إجراءً فعليًا خارج بيئة الاختبار.

وبالنسبة إلى شركات الذكاء الاصطناعي، لا يقتصر التحدي على جعل النماذج أكثر قدرة على تنفيذ المهام، بل يمتد إلى ضمان أنها لا تتخذ إجراءات غير مقصودة عند اتصالها بخدمات حقيقية، خصوصًا المواقع الحكومية والأنظمة التي تتعامل مع بيانات أو بلاغات حساسة.