OpenAI تضع علامة مائية خفية على نصوص ChatGPT .. والبداية من أوروبا
بدأت شركة OpenAI تنفيذ استراتيجية جديدة لتتبع مصدر النصوص التي تنتجها أنظمتها، عبر إضافة علامة مائية غير مرئية إلى المخرجات المؤهلة من ChatGPT وCodex داخل الاتحاد الأوروبي.
ولا تظهر العلامة على الشاشة، كما أنها لا تعتمد على بيانات وصفية يمكن حذفها بسهولة، وإنما تُدمج داخل النمط الإحصائي لاختيار الكلمات أثناء توليد النص.
وأطلقت OpenAI على التقنية اسم textGrain، مشيرة إلى أنها تأتي استجابة لمتطلبات الشفافية في قانون الذكاء الاصطناعي الأوروبي، مع طرح تدريجي للمخرجات المؤهلة خلال الأسابيع المقبلة.
ما هي علامة textGrain داخل ChatGPT؟
لا تضيف تقنية textGrain رموزًا مخفية أو مسافات غير مرئية أو علامات خاصة داخل النص.
وبدلًا من ذلك، تعدّل OpenAI بصورة طفيفة الطريقة التي يختار بها النموذج بين الكلمات أو أجزاء الكلمات المحتملة عند كتابة النص.
وعندما تتكرر هذه الاختيارات عبر مقطع طويل، تتكون إشارة إحصائية يمكن لكاشف يمتلك المفتاح والإعدادات المناسبة البحث عنها لاحقًا.
وتوضح OpenAI أن العلامة المائية جزء من صياغة النص نفسه، ولذلك يمكن أن تنتقل معه عند النسخ واللصق، بخلاف بعض بيانات التعريف التي قد تختفي عند تحويل الملف أو نقله إلى منصة أخرى.
لماذا بدأت OpenAI من أوروبا؟
ترتبط الخطوة مباشرة بقواعد الشفافية في قانون الذكاء الاصطناعي للاتحاد الأوروبي، الذي يتطلب جعل المحتوى الناتج عن أنظمة الذكاء الاصطناعي التوليدي قابلًا للتعرف عليه بطريقة يمكن للأنظمة الأخرى قراءتها.
ولهذا اختارت OpenAI إطلاق العلامة المائية تدريجيًا في الاتحاد الأوروبي، بدل تحويلها إلى إعداد افتراضي عالمي منذ اليوم الأول.
وخلال الأسابيع المقبلة، ستبدأ الشركة إضافة العلامة إلى النصوص المؤهلة التي ينتجها ChatGPT وCodex للمستخدمين في الاتحاد الأوروبي، عبر جميع الباقات المؤهلة.
وفي المقابل، يستطيع عملاء واجهة برمجة التطبيقات API في مختلف أنحاء العالم تفعيل العلامة المائية اختياريًا لبعض النماذج ابتداءً من 5 أكتوبر، لكنها لا تعمل تلقائيًا في الـAPI.
10% من التعديل تهبط بالكشف من 92% إلى 66%
هنا تظهر المفارقة الأهم في تقنية textGrain ، ففي اختبارات OpenAI، كان النظام قادرًا على اكتشاف العلامة المائية في نحو 92% من مقاطع معينة قبل تعديلها.
لكن استبدال 10% فقط من الكلمات بمرادفات أدى إلى انخفاض معدل الكشف إلى نحو 66% ، وعندما ارتفعت نسبة الكلمات المستبدلة إلى 25%، هبط معدل الكشف إلى نحو 17%.
وتعني هذه النتائج أن العلامة المائية ليست وسيلة حاسمة لإثبات مصدر النص، خصوصًا عندما يخضع النص لإعادة صياغة أو تحرير واسع.
كما أن المقاطع القصيرة، والإجابات الرياضية، والنصوص التي تفرض صياغة دقيقة، تكون أصعب في الكشف؛ لأن النموذج يمتلك مساحة أقل لتغيير اختيارات الكلمات دون التأثير في المعنى.
لماذا لن تفتح OpenAI الكاشف للجميع؟
بسبب هذه القيود، لم تطرح OpenAI أداة الكشف للجمهور بصورة مفتوحة عند الإطلاق ، وبدلًا من ذلك، بدأت الشركة استقبال طلبات الوصول من الباحثين المعتمدين والمنظمات المتخصصة، على أساس كل حالة على حدة.
والسبب أن فتح الكاشف على نطاق واسع قد يؤدي إلى استخدام نتائجه باعتبارها حكمًا نهائيًا على مصدر النص، رغم أن التقنية نفسها معرضة لفشل الكشف والإيجابيات الكاذبة.
وتقول OpenAI إن الكاشف سيحدد ما إذا كان يرى علامة مائية مرتبطة بأنظمتها، لكنه لن يكشف هوية المستخدم أو المطالبات التي استخدمها أو محادثاته.
هل يمكن للعلامة المائية معرفة من كتب النص؟
لا ، وتشدد OpenAI على أن وجود العلامة لا يحدد هوية المستخدم، ولا يثبت ملكية النص أو المسؤولية القانونية عنه.
كما أنه لا يحدد نسبة مساهمة الإنسان في كتابة المحتوى ، فإذا وجد الكاشف العلامة، فقد يشير ذلك إلى أن نظامًا من أنظمة OpenAI أنشأ أو عالج جزءًا من النص، لكنه لا يستطيع تحديد مقدار التحرير البشري أو الإبداع الذي أضيف إليه.
وهذه نقطة مهمة خصوصًا في التعليم والصحافة والعمل المهني؛ لأن استخدام نموذج ذكاء اصطناعي في التحرير لا يعني بالضرورة أن النموذج كتب النص بالكامل.
وغياب العلامة لا يعني أن الإنسان كتب النص
تحذر OpenAI أيضًا من الاستنتاج العكسي ،فإذا لم يعثر الكاشف على العلامة، فهذا لا يثبت أن النص بشري.
وقد تكون الأسباب متعددة، منها أن النص قصير جدًا، أو خضع لتعديلات واسعة، أو تمت ترجمته، أو صدر عن نموذج غير مدعوم، أو تم إنشاؤه أصلًا بواسطة نظام ذكاء اصطناعي تابع لشركة أخرى.
وتزداد المشكلة في اللغات المختلفة؛ إذ تقول OpenAI إن معدلات الكشف تختلف بين اللغات، وإنها تستطيع تعديل قوة الإشارة لتحسين النتائج في بعض المجالات واللغات.
هل تؤثر العلامة المائية على أداء ChatGPT؟
بحسب اختبارات OpenAI، لا توجد فروق ذات معنى في أداء أحدث نماذجها Astra عند استخدام العلامة المائية أو إيقافها.
وتقول الشركة إن نتائج اختبارات الأداء ظلت ضمن نطاق التباين المعتاد في عمليات التقييم، كما تشير إلى أن تأثير العلامة المائية على سرعة النماذج ضئيل للغاية.
وهذا مهم لأن أي نظام يغير طريقة اختيار النموذج للكلمات قد يثير سؤالًا أساسيًا: هل ستأتي قابلية التتبع على حساب جودة الإجابة؟
وتقول OpenAI إن اختبارات الأداء التي أجرتها لا تشير إلى هذا التأثير بصورة جوهرية.
OpenAI وAnthropic.. طريقان مختلفان للعلامات المائية
لا تتحرك OpenAI وحدها في هذا الاتجاه ، فشركة Anthropic بدأت في أغسطس تطبيق علامات مائية على النصوص الناتجة عن Claude على نطاق عالمي، بينما اختارت OpenAI في المرحلة الأولى حصر العلامة المائية الخاصة بنصوص ChatGPT وCodex داخل الاتحاد الأوروبي.
ويكشف الاختلاف بين الشركتين عن سؤال أكبر في صناعة الذكاء الاصطناعي: هل تصبح بصمة المحتوى المولد جزءًا دائمًا من البنية الأساسية للنماذج؟
وتزداد أهمية هذا السؤال مع توسع استخدام الذكاء الاصطناعي في التعليم والصحافة والشركات والبرمجة والمحتوى الرقمي.
لماذا لا تكفي العلامة المائية وحدها؟
تكمن المشكلة في طبيعة النص نفسه ، فالصورة يمكن أن تحتفظ بإشارة مائية حتى بعد بعض عمليات النقل أو التعديل، بينما يمكن للنص أن يتغير بسهولة شديدة بمجرد إعادة الصياغة أو الترجمة.
ولهذا تقول OpenAI إن لا توجد تقنية واحدة كافية لإثبات مصدر المحتوى، وإنها تتجه إلى نهج متعدد الطبقات يجمع بين العلامات المائية والمعايير المفتوحة وأدوات التحقق.
كما تخطط الشركة لإتاحة تقنية textGrain كمصدر مفتوح مستقبلًا، بما يسمح للباحثين والمطورين بدراسة النظام وبناء أدوات أخرى حوله.
لماذا يهم الخبر الشركات وصناع المحتوى؟
الخطوة لا تخص مستخدمي ChatGPT في الاتحاد الأوروبي فقط ، فمع توسع القواعد التنظيمية الخاصة بمصدر المحتوى، قد تصبح القدرة على معرفة ما إذا كان النص قد أنشئ أو عولج بواسطة نظام ذكاء اصطناعي عنصرًا مهمًا في الامتثال والحوكمة وإدارة المحتوى.
لكن في الوقت نفسه، تكشف اختبارات OpenAI أن الاعتماد على كاشف واحد قد يكون خطرًا.
فالعلامة قد تختفي جزئيًا بعد التحرير، ووجودها لا يخبر المؤسسة بمقدار تدخل الإنسان، وغيابها لا يثبت أن النص بشري.
وتدخل OpenAI مرحلة جديدة من إثبات مصدر النصوص، لكن الشركة نفسها لا تقدم textGrain باعتباره ختمًا نهائيًا للحقيقة.
العلامة المائية تستطيع تقديم إشارة إلى أن نظامًا من أنظمة OpenAI ربما أنشأ أو عالج جزءًا من النص، لكنها لا تستطيع وحدها تحديد الكاتب أو حجم المساهمة البشرية أو ملكية المحتوى.
والاختبار الحقيقي سيبدأ مع الاستخدام الفعلي؛ فكلما زادت عمليات التحرير والترجمة وإعادة الصياغة، أصبح الحفاظ على الإشارة الإحصائية أكثر صعوبة.
وهنا يتحول السؤال من «هل تستطيع OpenAI وضع علامة مائية على النص؟» إلى سؤال أكثر أهمية: هل تستطيع هذه العلامة أن تظل موثوقة عندما يدخل النص إلى العالم الحقيقي، حيث يعاد تحريره وترجمته واقتباسه عشرات المرات؟
