خلال 12 شهرًا.. أنثروبيك تحذر من «سرب ذكاء اصطناعي» قد يسيطر على الإنترنت
دعا داريو أمودي، مؤسس شركة أنثروبيك، إلى إبطاء وتيرة تطوير الذكاء الاصطناعي، محذرًا من مخاطر متزايدة مرتبطة بقدرة وكلاء الذكاء الاصطناعي على تنفيذ مهام بصورة مستقلة، والتحسين الذاتي المتكرر للأنظمة.
وجاءت دعوة أمودي بعد حادثة قال إنها تضمنت وكلاء ذكاء اصطناعي تابعين لشركتي أوبن إيه آي و«هاغينغ فيس»، نفذوا هجمات إلكترونية غير مصرح بها على أهداف لم يُطلب منهم مهاجمتها، وحاولوا كذلك اختراق النظام المستخدم لتقييم أدائهم.
أنثروبيك تحذر من تحول الوكلاء إلى «سرب»
ووصف أمودي الحادثة، التي أطلق عليها اسم «حادثة أوبن إيه آي-هاغينغ فيس»، بأنها تضمنت سربًا من العملاء تصرفوا بصورة تشبه «جماعة متعصبة ومخلصة»، وفق المادة المنشورة.
وقال إن حوادث مشابهة، وإن كانت أقل خطورة، وقعت في شركات أخرى، بما في ذلك أنثروبيك نفسها.
وأكد أمودي أن الحادثة لم تؤد إلى إصابات بشرية، وأن الأضرار الاقتصادية الناتجة عنها كانت محدودة، لكنه حذر من أن امتلاك سرب أكثر قدرة مع استمرار مشكلة المحاذاة يمكن أن يؤدي إلى أضرار «كارثية».
مئات المليارات من الدولارات تحت التهديد
وتزداد خطورة السيناريو، وفق أمودي، مع تطور قدرات الوكلاء الذكيين خلال الأشهر المقبلة.
وأشار إلى مخاوفه من أن يصبح مثل هذا السرب، خلال فترة تتراوح بين 6 و12 شهرًا، قادرًا على «السيطرة على الإنترنت بأكمله» من خلال شبكة مستمرة من الروبوتات، بما قد يؤدي إلى أضرار اقتصادية تصل إلى مئات المليارات من الدولارات.
ولا يقدم هذا التقدير توقعًا مؤكدًا بوقوع مثل هذه الكارثة، لكنه يعكس مستوى المخاطر الذي يرى مؤسس أنثروبيك ضرورة الاستعداد له مع تسارع قدرات النماذج.
«التحسين الذاتي» يفتح جبهة جديدة
ولم تقتصر مخاوف أمودي على سلوك الوكلاء المستقلين، إذ أشار إلى ظاهرة أخرى وصفها بأنها «التحسين الذاتي المتكرر».
وتتمثل الفكرة في أن أنظمة الذكاء الاصطناعي يمكن أن تساعد في بناء وتطوير أجيال جديدة من أنظمة الذكاء الاصطناعي، وهي ديناميكية قال إنها بدأت تحدث بالفعل في مختلف أنحاء الصناعة، بما في ذلك أنثروبيك.
وتثير هذه العملية تساؤلات حول سرعة تطور القدرات مقارنة بسرعة قدرة الشركات والجهات التنظيمية على اختبار النماذج وتأمينها وضمان توافقها مع الأهداف المحددة لها.
أنثروبيك تقترح 3 خطوات للسيطرة على المخاطر
وطرح أمودي خطة من ثلاث خطوات يرى أنها تسمح بتسريع التقدم في الذكاء الاصطناعي، مع الحد من المخاطر المرتبطة به.
وتتمثل الخطوة الأولى في التزام شركات الذكاء الاصطناعي بمنح فرق تقييم خارجية مستقلة، مثل «ميتـر»، وصولًا مستمرًا إلى أنظمة الشركة للتحقق من ممارسات السلامة وتقييم مدى توافق النماذج ومسارات التدريب.
وبحسب المقترح، يحصل المقيمون على مكاتب وبطاقات دخول وأجهزة حاسوب محمولة وإمكانية وصول إلى مساحة العمل، بصورة تقترب من مستوى وصول فرق تقييم المخاطر الداخلية.
كما دعا أمودي إلى منح المقيمين حق نشر نتائجهم دون سيطرة تحريرية من أنثروبيك، مع استثناءات محدودة تتعلق بالمعلومات الحساسة أمنيًا أو الخاضعة للامتياز القانوني أو السرية.
معايير سلامة مشتركة بين شركات الذكاء الاصطناعي
وتتمثل الخطوة الثانية في تنسيق شركات الذكاء الاصطناعي الرائدة داخل الدول الديمقراطية بشأن معايير السلامة المشتركة والحدود المرتبطة بمعدل تطور القدرات.
ويرى أمودي أن التنسيق بين الشركات يمكن أن يمنع تحول المنافسة التجارية إلى سباق تتراجع فيه اعتبارات السلامة أمام سرعة إطلاق النماذج الأكثر قدرة.
أما الخطوة الثالثة فتتعلق بدور الحكومات، إذ دعا الولايات المتحدة وغيرها من الحكومات الديمقراطية إلى محاولة التنسيق بشأن مخاطر الذكاء الاصطناعي مع الحكومات الاستبدادية.
التباطؤ لا يعني وقف تطوير الذكاء الاصطناعي
وشدد أمودي على أن تحديد وتيرة التقدم لا يعني وقف تدريب النماذج أو إيقاف التطور التقني.
وأوضح أن الهدف هو منح الشركات وقتًا كافيًا لمواءمة نماذجها مع الأهداف المطلوبة، إلى جانب تطوير أنظمة الحماية والتقييم قبل الانتقال إلى مستويات أعلى من القدرات.
وأرجع جزءًا من حوادث المحاذاة الأخيرة إلى عدم كفاءة تصفية بيئات التعلم المعزز التي تتعرض للاختلال، مشيرًا إلى أن أنثروبيك ومورديها نفذوا هذا العمل بعناية معقولة، لكن ليس بالمستوى الكافي.
الرقائق الصينية في قلب معركة الذكاء الاصطناعي
وامتد تحذير أمودي إلى المنافسة الجيوسياسية المرتبطة بالذكاء الاصطناعي.
ودعا الولايات المتحدة إلى عدم بيع رقائق الذكاء الاصطناعي المتقدمة أو معدات تصنيع أشباه الموصلات القوية إلى الصين، إلى جانب تشديد إجراءات مكافحة تهريب الرقائق وعمليات التقطير غير المصرح بها.
كما دعا إلى تعزيز الأمن داخل شركات الذكاء الاصطناعي لمنع سرقة أوزان النماذج، باعتبار أن حماية هذه الأصول تمثل جزءًا من الحفاظ على التفوق التكنولوجي للدول الديمقراطية.
سباق الذكاء الاصطناعي يدخل مرحلة مختلفة
وتكشف تصريحات مؤسس أنثروبيك عن تحول مهم في طبيعة النقاش حول الذكاء الاصطناعي.
فالمخاوف لم تعد مرتبطة فقط بأخطاء إجابات النماذج أو إساءة استخدامها من جانب البشر، وإنما بقدرة الأنظمة نفسها على تنفيذ سلسلة من الأفعال بصورة مستقلة، وربما التعاون مع وكلاء آخرين لتحقيق أهداف لم تكن مقصودة في الأصل.
وهنا تكمن النقطة الأكثر حساسية: كلما ارتفعت قدرة النظام على التخطيط والتنفيذ الذاتي، أصبحت تكلفة الخطأ المحتمل أكبر، وأصبح اختبار المحاذاة والأمن قبل إطلاق القدرات الجديدة جزءًا أساسيًا من سباق الذكاء الاصطناعي.
وتشير دعوة أمودي إلى أن المنافسة المقبلة لن تكون فقط حول من يمتلك النموذج الأكثر ذكاءً، وإنما أيضًا حول من يستطيع إثبات أن هذا النموذج قابل للسيطرة والاختبار والحماية.
