50 ضحية أو مليار دولار.. أنثروبيك تقترح قانونًا لوقف نماذج الذكاء الاصطناعي الخطرة

تتحرك الولايات المتحدة نحو مرحلة جديدة من الرقابة على الذكاء الاصطناعي المتقدم، بعدما عرضت شركة أنثروبيك على أعضاء في الكونغرس مسودة مشروع قانون تتيح طلب وقف نماذج الذكاء الاصطناعي التي تواجه مخاطر وشيكة قد تؤدي إلى مقتل أو إصابة أكثر من 50 شخصًا، أو تتسبب في خسائر مالية تتجاوز مليار دولار.

وتأتي المبادرة بالتزامن مع تحرك لجنة التجارة الفيدرالية الأمريكية للتحقيق في حوادث السلامة المرتبطة بشركتي أنثروبيك وأوبن إيه آي، في وقت يتزايد فيه اهتمام الجهات التنظيمية بقدرة النماذج المتقدمة على اختراق الأنظمة الإلكترونية وتجاوز ضوابط الحماية.

ولا تزال مسودة القانون المقترحة قيد التداول، ولم تصبح تشريعًا نافذًا. ووفقًا لتفاصيل نقلتها رويترز عن تقرير لصحيفة «بوليتيكو»، فإن المقترح يربط التدخل الحكومي بوجود خطر متوقع ووشيك يتجاوز عتبات محددة، بدلًا من إتاحة وقف النماذج بصورة عامة وغير مقيدة.

50 ضحية أو مليار دولار.. متى يمكن وقف نموذج الذكاء الاصطناعي؟

تسمح المسودة المقترحة باللجوء إلى القضاء لوقف نشر نموذج ذكاء اصطناعي أو استخدامه إذا ثبت أنه يشكل خطرًا وشيكًا يمكن أن يؤدي إلى مقتل أو إصابة أكثر من 50 شخصًا، أو يتسبب في أضرار مالية تتجاوز مليار دولار.

وتحصر المسودة المخاطر المعنية في ثلاثة مسارات رئيسية: إنشاء سلاح بيولوجي أو نشره، أو تنفيذ هجوم إلكتروني، أو نجاح النموذج في تجاوز قيود السلامة التي وضعها مطوروه.

ويعكس هذا التحديد محاولة لربط التدخل القانوني بأضرار محتملة محددة وقابلة للتقييم، بدلًا من إخضاع النماذج المتقدمة لقرارات وقف تستند إلى مخاوف عامة بشأن تطور التكنولوجيا.

وبحسب الصيغة التي أوردها التقرير، لا تملك الجهات الحكومية سلطة تعليق تطوير النموذج أو نشره أو استخدامه داخليًا من تلقاء نفسها بموجب هذا المقترح؛ إذ يمر طلب وقف النموذج عبر وزارة التجارة الأمريكية والقضاء الفيدرالي.

تقييم مستقل وإنذار خلال 72 ساعة

تتضمن المسودة إنشاء آلية لتقييم مختبرات الذكاء الاصطناعي ونماذجها المتقدمة بصورة دورية من خلال مقيّمين مستقلين مسجلين لدى وزارة التجارة الأمريكية.

ويسمح المقترح للشركات بتمويل عمليات التقييم، لكنه يشترط ألا ترتبط مكافآت المقيّمين أو تعويضاتهم بالنتائج التي يتوصلون إليها، في محاولة للحفاظ على استقلالية الفحص وتجنب تضارب المصالح.

كما يلزم المقترح المقيّمين بإبلاغ وزارة التجارة خلال 72 ساعة من إتمام التقييم إذا اكتشفوا خطرًا وشيكًا من الأنواع المحددة في المسودة.

وبعد تلقي المعلومات وتقييم الخطر، يمكن لوزارة التجارة طلب أمر قضائي لوقف نشر النموذج أو استخدامه. وتُسند المسودة سلطة إصدار أمر التعليق إلى قاضٍ فيدرالي بالمحكمة الجزئية لمقاطعة كولومبيا.

ويمثل هذا الإطار المقترح تحولًا من الاعتماد على تعهدات شركات التكنولوجيا بشأن السلامة وحدها إلى منح التقييم المستقل والإشراف القضائي دورًا أكبر في التعامل مع المخاطر الاستثنائية.

أنثروبيك تستند إلى مخاوف من قدرات النماذج المتقدمة

تقول أنثروبيك إن مقترحها يتسق مع إطارها الخاص للذكاء الاصطناعي المتقدم، الذي يدعو إلى إخضاع النماذج الأكثر قدرة لاختبارات سلامة مستقلة، وتعزيز الشفافية بشأن نتائج التقييم، ووضع ضوابط أمنية أكثر صرامة.

وكانت الشركة قد أشارت إلى أن نموذجها Claude Mythos Preview تمكن، خلال الاختبارات، من اكتشاف آلاف الثغرات الأمنية الخطيرة في أنظمة التشغيل ومتصفحات الإنترنت الرئيسية.

وتثير هذه القدرات مخاوف تتعلق بالاستخدام المزدوج؛ إذ يمكن توظيف تقنيات اكتشاف الثغرات لتعزيز الأمن السيبراني، لكنها قد تتيح أيضًا تحديد نقاط ضعف قابلة للاستغلال في هجمات إلكترونية.

وترى الشركة أن التطور المتسارع لقدرات الذكاء الاصطناعي يستدعي تدخلًا حكوميًا محدودًا بضوابط واضحة، بحيث تتمكن السلطات من التعامل مع الأخطار الكارثية دون منحها صلاحيات غير محددة لعرقلة تطوير التكنولوجيا.

لجنة التجارة الفيدرالية تحقق في حوادث السلامة

على مسار رقابي منفصل، أرسلت لجنة التجارة الفيدرالية الأمريكية طلبات تحقيق مدنية إلى أنثروبيك وأوبن إيه آي لجمع مستندات تتعلق بحوادث السلامة وممارسات حماية المستخدمين.

وبحسب تقرير نشرته «أكسيوس»، تشمل الطلبات سجلات الحوادث الأمنية، وإجراءات الحماية المعتمدة لدى الشركتين، فضلًا عن مواد تسويقية ووثائق مرتبطة بسياسات الخصوصية.

وتتيح هذه الإجراءات للوكالة جمع الأدلة وفحص ما إذا كانت هناك مخالفات محتملة لقواعد حماية المستهلك، بما في ذلك الممارسات التي قد تُعتبر مضللة أو غير عادلة.

وأشار التقرير إلى أن اللجنة تعتزم أيضًا إجبار مسؤولين تنفيذيين في شركات الذكاء الاصطناعي على الإدلاء بشهاداتهم بشأن المنتجات التي تقدمها شركاتهم، مع احتمال توسيع نطاق التحقيق ليشمل جهات خارجية مرتبطة بالقطاع.

من جانبها، قالت أوبن إيه آي إنها ستتعاون بصورة بناءة مع اللجنة، مؤكدة أن السلامة تظل أولوية مع تطور نماذجها واتساع استخدامها في الحياة اليومية.

ما الذي يتغير في رقابة الذكاء الاصطناعي؟

تكشف التطورات عن مسارين متوازيين للرقابة الأمريكية: الأول يتمثل في محاولة وضع إطار قانوني للتعامل مع المخاطر الكارثية التي قد تنتج عن النماذج الأكثر تقدمًا، والثاني يتمثل في استخدام صلاحيات حماية المستهلك للتحقيق في حوادث مرتبطة بمنتجات الذكاء الاصطناعي الحالية.

ويطرح المساران أسئلة حول كيفية تحديد مستوى الخطر الذي يستدعي تدخل السلطات، ومدى استقلالية التقييمات الخارجية، والجهة التي تملك صلاحية وقف النموذج، وكيفية تحقيق التوازن بين حماية الجمهور واستمرار الابتكار.

وبينما لا تزال مسودة أنثروبيك في مرحلة النقاش، فإنها تضع أرقامًا محددة لعتبات الخطر، وتحدد مهلة للإبلاغ عن الحالات الوشيكة، وتقترح مسارًا قضائيًا لوقف النماذج عالية الخطورة.

أما تحقيق لجنة التجارة الفيدرالية، فيركز على جمع المعلومات المتعلقة بحوادث السلامة وممارسات حماية المستهلك لدى شركتين بارزتين في القطاع. ولا يعني إصدار طلبات التحقيق وحده ثبوت مخالفة قانونية على أي من الشركتين.