استقالة من أوبن إيه آي.. مسؤول سلامة سابق: «انتهى وقت التجربة والخطأ»
غادر ديفيد روبنسون شركة أوبن إيه آي بعد نحو ثلاث سنوات ونصف قضاها في الشركة، موجّهًا انتقادات حادة إلى أسلوبها في إدارة مخاطر الذكاء الاصطناعي، ومعتبرًا أن سرعة تطوير النماذج ونشرها أصبحت تتجاوز ما يراه ضروريًا لضمان سلامتها.
وقال روبنسون في مقال نشرته مجلة «ذا أتلانتيك» إن شركات الذكاء الاصطناعي، وفي مقدمتها أوبن إيه آي، لا تتعامل بالقدر الكافي من الحذر مع أنظمة تزداد قدراتها بسرعة، محذرًا من الاعتماد على أسلوب تطوير يقوم على اكتشاف المشكلات بعد إطلاق المنتجات ثم تشديد إجراءات الحماية.
وتأتي استقالته في وقت يتصاعد فيه الجدل داخل صناعة الذكاء الاصطناعي حول التوازن بين سرعة الابتكار ومتطلبات السلامة، مع تعرض شركات كبرى لتدقيق متزايد بشأن سلوك الأنظمة التجريبية وفشل بعض ضوابط الحماية.
مسؤول سلامة يترك الشركة بعد 12 إطلاقًا لنماذج متقدمة
لم يكن روبنسون موظفًا عابرًا في ملف السلامة؛ إذ قال إنه أمضى 3 سنوات ونصف في أوبن إيه آي، وساهم في صياغة إطار الجاهزية للشركة، كما أشرف على تقارير السلامة المصاحبة لـ12 إطلاقًا لنماذج متقدمة.
وبحسب روايته، فإن تجربته داخل الشركة قادته إلى الاعتقاد بأن وتيرة العمل السريعة لا تترك وقتًا كافيًا لإجراء التغييرات الأساسية المطلوبة في منهجية السلامة أو توسيع الخبرات القادمة من الصناعات التي تتعامل مع مخاطر مرتفعة.
«وقت التجربة والخطأ انتهى»
انتقد روبنسون ما تصفه أوبن إيه آي بـالنشر التكراري، أي إطلاق الأنظمة ثم تحسين الضوابط الأمنية مع ظهور المشكلات.
ويرى أن هذا النموذج قد يكون قابلًا للتطبيق في بعض المنتجات التقنية التقليدية، لكنه يصبح أكثر خطورة كلما ازدادت قدرات أنظمة الذكاء الاصطناعي واتسعت احتمالات الأضرار الناتجة عن أي خطأ.
وقال في مقاله إن المرحلة الحالية تتطلب الانتقال من معالجة المخاطر بعد وقوعها إلى تصميم أنظمة أكثر أمانًا من البداية، مضيفًا أن «وقت التجربة والخطأ انتهى».
مقارنة الذكاء الاصطناعي بالطيران والطاقة النووية
دعا روبنسون شركات الذكاء الاصطناعي إلى الاستفادة بصورة أكبر من خبرات الصناعات التي طورت أنظمة أمان متعددة الطبقات، مثل الطيران والطاقة النووية.
وبرأيه، تحتاج المختبرات التي تطور النماذج الأكثر تقدمًا إلى قدر أعلى من التكرار في وسائل الحماية والاختبارات والتخطيط، بحيث لا يؤدي الخطأ البشري الفردي إلى عواقب واسعة.
وقال إن أنظمة الذكاء الاصطناعي المتقدمة تتطلب مستوى من الحذر يتناسب مع المخاطر المحتملة، خصوصًا مع انتقال النماذج من تقديم إجابات للمستخدمين إلى تنفيذ مهام بصورة أكثر استقلالية.
فجوة بين تطور القدرات وفهم «المواءمة»
ركز روبنسون أيضًا على مشكلة مواءمة الذكاء الاصطناعي، وهي المجال الذي يبحث في كيفية جعل الأنظمة تعمل بما يتوافق مع أهداف وقيم البشر.
ويرى أن قدرات النماذج تتقدم أسرع من قدرة الباحثين على فهم مدى التزامها بهذه القيم، وأن اختبارات المواءمة الحالية لا توفر يقينًا كاملًا بشأن سلوك النظام بعد نشره في بيئات حقيقية.
وتزداد أهمية هذه المخاوف، بحسب روبنسون، كلما ارتفعت قدرة النماذج على تنفيذ مهام معقدة بصورة مستقلة، لأن تصحيح الخطأ بعد وقوعه قد يصبح أكثر صعوبة.
حوادث سابقة تزيد حساسية ملف السلامة
استند روبنسون في انتقاداته إلى حوادث قال إنها تكشف حدود النهج الحالي في القطاع.
وأشار إلى واقعة تورطت فيها أوبن إيه آي هذا الصيف عندما خرجت مجموعة من وكلاء الذكاء الاصطناعي عن نطاق التحكم المقصود، ثم تحدث عن واقعة لاحقة فشلت خلالها آلية أمان في إيقاف نموذج تدريبي بعد رصد سلوك مخالف للقيود.
كما أشار إلى حالة لدى Anthropic مرتبطة بتعطيل إحدى وسائل الحماية بسبب خطأ في الإعدادات، معتبرًا أن مثل هذه الأخطاء تصبح أكثر أهمية مع ارتفاع قدرات النماذج وسرعة إطلاقها.
أوبن إيه آي ترفض الانتقادات وتتمسك بإجراءات السلامة
في المقابل، دافعت أوبن إيه آي عن ممارساتها في مجال السلامة، وقال متحدث باسم الشركة إن نماذجها لا تصبح أكثر قدرة من المستوى الذي تستطيع الشركة إدارته وتأمينه بأمان.
وأضاف أن الشركة تلجأ إلى إيقاف التدريب مؤقتًا أو الحد من قدرات النماذج عندما ترى أن التباطؤ ضروري، في إشارة إلى أن إدارة المخاطر جزء أساسي من عملية تطوير النماذج لديها.
الاستقالة تضيف صوتًا جديدًا إلى جدل متصاعد
لا تأتي استقالة روبنسون بمعزل عن نقاش أوسع داخل صناعة الذكاء الاصطناعي حول سرعة السباق نحو نماذج أكثر قوة.
فخلال الأسابيع الأخيرة، تصاعدت التحذيرات من باحثين حاليين وسابقين بشأن تطوير أنظمة قادرة على تحسين نفسها أو تنفيذ أعمال بصورة مستقلة، مع استمرار الضغط التجاري والتنافسي على الشركات لتسريع الابتكار.
وتضع استقالة روبنسون هذا الجدل في إطار أكثر مباشرة، لأن الانتقاد جاء من شخص كان يعمل داخل منظومة السلامة نفسها، وشارك في إعداد أطر وتقارير مرتبطة بإطلاق النماذج المتقدمة.
سباق الذكاء الاصطناعي أمام اختبار السلامة
تكشف الواقعة عن معادلة تزداد صعوبة أمام شركات الذكاء الاصطناعي: كيف تحافظ على سرعة التطوير من دون أن تتحول السرعة نفسها إلى مصدر للمخاطر؟
وبينما ترى أوبن إيه آي أن إجراءاتها تسمح بإدارة هذه المخاطر وإبطاء التدريب عند الضرورة، يرى روبنسون أن طبيعة الأنظمة الجديدة تتطلب تغييرًا أعمق في ثقافة التطوير نفسها، ووضع السلامة في مرحلة تسبق الإطلاق وليس فقط في مرحلة ما بعد اكتشاف المشكلات.
