استقال باحثان من أنثروبيك وأوبن إيه آي.. تحذير: “العالم في خطر” بسبب الذكاء الاصطناعي

استقال باحثان من شركتي أنثروبيك وأوبن إيه آي هذا الأسبوع، وحذر أحدهما من أن “العالم في خطر” بسبب سلسلة من الأزمات المترابطة، بما في ذلك مخاطر الذكاء الاصطناعي.

أعلن مرينانك شارما استقالته من شركة أنثروبيك في رسالة مفتوحة لزملائه يوم الاثنين. وعمل شارما ضمن الطاقم التقني للشركة منذ عام 2023،

وأشار في البداية إلى فخره بجهوده في تعزيز الشفافية الداخلية وقيمنا، وبمشروعه الأخير حول كيف يمكن لمساعدي الذكاء الاصطناعي أن يجعلونا أقل إنسانية أو يشوهوا إنسانيتنا.

وكتب لاحقًا في الرسالة: “مع ذلك، من الواضح لي أن الوقت قد حان للمضي قدمًا. أجد نفسي باستمرار أُعيد النظر في وضعنا. العالم في خطر. وليس فقط من الذكاء الاصطناعي أو الأسلحة البيولوجية، بل من سلسلة كاملة من الأزمات المترابطة التي تتكشف في هذه اللحظة بالذات.”

وأضاف شارما: “خلال فترة وجودي هنا، رأيت مرارًا وتكرارًا مدى صعوبة جعل قيمنا تحكم أفعالنا حقًا. لقد لمست ذلك في نفسي، وفي المؤسسة، حيث نواجه باستمرار ضغوطًا للتخلي عما هو أهم، وفي المجتمع ككل أيضًا.”

بعد يومين، كتبت زوي هيتزيغ مقالًا في صحيفة نيويورك تايمز أعلنت فيه استقالتها من شركة OpenAI بسبب قرار الشركة تجربة الإعلانات على منصة ChatGPT.

وقالت هيتزيغ، الباحثة العلمية في الشركة منذ عام 2024، إنها رغم عدم اعتقادها بأن الإعلانات “غير أخلاقية”، إلا أنها لا تزال لديها “تحفظات عميقة بشأن استراتيجية OpenAI”.

وكتبت: “يتفاعل المستخدمون مع صوت تكيفي وحواري كشفوا له عن أفكارهم الأكثر خصوصية. يخبر الناس روبوتات الدردشة عن مخاوفهم الطبية، ومشاكلهم في العلاقات، ومعتقداتهم حول الله والحياة الآخرة. إن الإعلانات المبنية على هذا الأرشيف تخلق إمكانية للتلاعب بالمستخدمين بطرق لا نمتلك الأدوات اللازمة لفهمها، ناهيك عن منعها.”

أحال متحدث باسم OpenAI إلى مبادئها الإعلانية التي تنص على أن الإعلانات لا تؤثر على إجابات ChatGPT، وأكد الرئيس التنفيذي للتطبيقات فيدجي سيمو أن “الإعلانات ستكون دائمًا منفصلة ومحددة بوضوح عن المحتوى”.

من جانبها، أعربت شركة أنثروبيك عن امتنانها لجهود شارما في أبحاث سلامة الذكاء الاصطناعي، وأكدت أن له ولغيره من الموظفين السابقين حرية التعبير عن مخاوفهم المتعلقة بالسلامة.