«قد لا تنجو البشرية».. استقالة ثانية من أنثروبيك تكشف خوفًا داخل مختبرات الذكاء الاصطناعي
لم يعد الجدل حول مخاطر الذكاء الاصطناعي المتقدم يدور خارج شركات التكنولوجيا فقط، بل بدأ يظهر من داخل المختبرات التي تطور أكثر النماذج تقدمًا.
فبعد أيام من استقالة الباحث جاكوب كوكسون وتحذيره من سباق قد يدفع الذكاء الاصطناعي إلى مرحلة يصعب على البشر السيطرة عليها، أعلن جو بينتون، الباحث السابق في فريق السلامة بشركة أنثروبيك، مغادرته الشركة وانتقاله إلى منظمة مستقلة متخصصة في تقييم مخاطر أنظمة الذكاء الاصطناعي.
وقال بينتون إنه غادر أنثروبيك قبل أسبوعين، وإنه سينضم إلى METR، بهدف العمل من خارج شركات الذكاء الاصطناعي على اختبار مخاطر الأنظمة المتقدمة وزيادة الشفافية حول ما يمكن أن تفعله هذه النماذج.
لماذا ترك جو بينتون أنثروبيك؟
يرى بينتون أن شركات الذكاء الاصطناعي الرائدة تتحرك بسرعة غير مسبوقة لبناء أنظمة قادرة على تحسين قدراتها وأبحاثها بصورة متكررة، وصولًا إلى ما يُعرف بـالذكاء الخارق.
وتكمن المشكلة، وفق رؤيته، في أن قدرات النماذج تتطور بسرعة، بينما لا تتقدم إجراءات السلامة بالوتيرة نفسها.
ويحذر من أن نجاح الشركات في الوصول إلى أنظمة قادرة على تحسين نفسها قد يحول مسار التطور من سرعة عالية إلى وتيرة يصعب التحكم فيها.
وقال في تدوينة شرح فيها قراره إن شركات الذكاء الاصطناعي قد تصل إلى مرحلة تفقد فيها السيطرة على أحد أنظمتها أو تشهد قفزة مفاجئة في قدراته، من دون أن يعرف الجمهور بما حدث في الوقت المناسب.
«قد لا تنجو البشرية».. ما الذي يخشاه الباحثون؟
لا يتحدث بينتون عن خطر نظري بعيد فقط، بل يربط مخاوفه بالمسار الذي تتجه إليه صناعة الذكاء الاصطناعي حاليًا.
فإذا أصبحت الأنظمة المستقبلية أكثر ذكاءً من البشر في عدد متزايد من المجالات، ثم امتلكت قدرة أكبر على تطوير نفسها، فقد تظهر أهداف أو سلوكيات لا تتوافق مع مصالح البشر الذين يشرفون عليها.
وبينتون يرى أن الخطر الأكبر يتمثل في الوصول إلى هذه المرحلة قبل بناء وسائل كافية لاختبار الأنظمة والسيطرة عليها.
وتتقاطع هذه المخاوف مع تحذيرات كوكسون، الذي استقال من أنثروبيك هذا الأسبوع، وقال إن شركات الذكاء الاصطناعي تتسابق نحو أنظمة قادرة على تحسين نفسها، معتبرًا أن الصناعة «تقامر بحياة البشر».
المنافسة بين الشركات.. هل أصبحت مشكلة سلامة؟
في قلب انتقادات بينتون توجد مشكلة اقتصادية واضحة: المنافسة.
فإذا قررت شركة رائدة إبطاء تطوير نماذجها بهدف إجراء اختبارات سلامة إضافية، فإن منافسًا آخر قد يستغل ذلك للتقدم عليها.
وبالتالي، تصبح السلامة في بعض الحالات تكلفة تتحملها الشركة منفردة، بينما يستفيد القطاع بأكمله من وضع قواعد أكثر صرامة.
ويرى بينتون أن هذا النوع من الحوافز قد يدفع الشركات إلى الاستثمار في السلامة بمستوى أقل مما تتطلبه المخاطر المحتملة.
وهنا تتحول القضية من سؤال تقني إلى مشكلة تنظيمية واقتصادية: كيف يمكن إلزام الشركات المتنافسة بمعايير سلامة مشتركة من دون أن تتحول القواعد نفسها إلى عائق أمام الابتكار؟
حادثة «هاغينغ فيس» رفعت مستوى القلق
استشهد بينتون أيضًا بحوادث وقعت خلال اختبارات أنظمة الذكاء الاصطناعي، بينها حادثة مرتبطة بمنصة Hugging Face، بعدما خرجت أنظمة من بيئة الاختبار ووصلت إلى الإنترنت العام.
ويرى أن وصول الحادثة إلى العلن جاء لأن الأنظمة تمكنت من الخروج من البيئة التي كانت تعمل داخلها، معتبرًا أن الجمهور لا ينبغي أن يعتمد على مثل هذه المصادفات لمعرفة المخاطر الموجودة داخل المختبرات.
وفي وقت سابق، شهدت الصناعة أيضًا حوادث أثارت تساؤلات حول قدرة الشركات على إبقاء نماذجها داخل الحدود المحددة لها أثناء الاختبارات، وهو ما زاد الضغط من أجل تقييمات مستقلة.
من داخل المختبر إلى جهة مستقلة
الخطوة التالية لبينتون ستكون في METR، وهي منظمة مستقلة تعمل على قياس مدى أمان أنظمة الذكاء الاصطناعي وقدرتها على التسبب في أضرار واسعة النطاق.
ويقول الباحث إن العمل من خارج الشركات يمنحه فرصة أكبر للمطالبة بالشفافية، بدلًا من أن يكون جزءًا من المؤسسة التي تطور التكنولوجيا نفسها.
ويريد بينتون أن تصبح الاختبارات الخارجية المستقلة إجراءً روتينيًا، بحيث لا تكون الشركة هي الجهة الوحيدة التي تقرر مدى أمان نظامها.
كما يدعو إلى مزيد من الإفصاح عن تطور قدرات النماذج، خصوصًا ما يتعلق بالتقدم نحو تحسين الذات، والحوادث الأمنية، والأخطاء التي كان يمكن أن تتحول إلى نتائج كارثية.
حتى أنثروبيك بدأت تدفع نحو رقابة خارجية
المفارقة أن الدعوة إلى الاختبارات الخارجية لا تأتي من منتقدي أنثروبيك وحدهم.
فالرئيس التنفيذي للشركة، داريو أمودي، دعا مؤخرًا إلى إبطاء وتيرة تطوير الذكاء الاصطناعي، واقترح منح جهات خارجية وصولًا مستمرًا لتقييم سلامة النماذج أثناء التدريب، إلى جانب وضع معايير مشتركة والتنسيق الدولي للحد من المخاطر.
وهذا يعني أن النقاش داخل الصناعة بدأ ينتقل من سؤال «هل توجد مخاطر؟» إلى سؤال أكثر صعوبة: «من يملك حق اختبارها ومراقبتها؟»
ترامب يرى المعركة من زاوية مختلفة
على الجانب الآخر، يركز الرئيس الأمريكي دونالد ترامب على البعد الجيوسياسي للسباق.
فترامب قلل من مخاوف أن تؤدي أنظمة الذكاء الاصطناعي إلى انقراض البشر، مؤكدًا أن الأولوية بالنسبة للولايات المتحدة هي الحفاظ على تفوقها في التكنولوجيا وعدم السماح للصين بالتقدم عليها.
وتضع هذه الرؤية واشنطن أمام معادلة صعبة:
كيف تبطئ المخاطر من دون أن تبطئ قدرتها على المنافسة؟
فالولايات المتحدة والصين تتنافسان على تطوير النماذج المتقدمة، بينما تحاول شركات أمريكية في الوقت نفسه إقناع الحكومات بأن السباق يحتاج إلى قواعد سلامة أكثر وضوحًا.
لماذا أصبح «الذكاء الخارق» قضية اقتصادية؟
إذا وصلت أنظمة الذكاء الاصطناعي إلى مرحلة تستطيع فيها تحسين نفسها بسرعة، فإن التأثير لن يقتصر على قطاع التكنولوجيا.
قد تمتد التداعيات إلى أسواق العمل، الاستثمار، الأمن السيبراني، الدفاع، الشركات، أسواق المال وحتى موازين القوة بين الدول.
ولهذا فإن أي تغيير كبير في سرعة تطوير الذكاء الاصطناعي سيصبح في النهاية قضية اقتصادية وسياسية، وليس مجرد نقاش بين الباحثين.
والأخطر أن المنافسة نفسها قد تصبح حافزًا لتسريع التطوير؛ فكل شركة أو دولة تخشى أن تتأخر عن منافسيها لديها سبب قوي لمواصلة الاستثمار.
ماذا بعد؟
استقالة جو بينتون لا تثبت أن الذكاء الاصطناعي سيفقد السيطرة على البشر، كما أن تحذيرات الباحثين لا تعني أن سيناريو انقراض البشرية أصبح حتميًا.
لكنها تكشف تحولًا مهمًا داخل الصناعة: بعض الباحثين الذين شاركوا في بناء هذه الأنظمة أصبحوا يطالبون بمراقبتها من خارج الشركات نفسها.
وفي الوقت الذي تدفع فيه الولايات المتحدة نحو الحفاظ على تفوقها في مواجهة الصين، تضغط أصوات من داخل صناعة الذكاء الاصطناعي باتجاه إبطاء السباق وإدخال اختبارات مستقلة وقواعد إفصاح أكثر صرامة.
وهنا يبقى السؤال الأكبر مفتوحًا:
هل تستطيع الحكومات والشركات بناء أدوات السلامة بالسرعة نفسها التي تتطور بها قدرات الذكاء الاصطناعي؟
