بقلم هارديك فياس وسيانا ديفيس

10 يوليو (رويترز) - فشل برنامج الكشف الجديد الذي يعمل بالذكاء الاصطناعي من شركة Meta META.O ، والذي استعرضته الشركة التقنية هذا الأسبوع إلى جانب إطلاق نموذج توليد الصور الخاص بها ، Muse Image، في تحديد بعض الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي بعد اقتصاصها، وفقًا لتحليل أجرته رويترز.

يسلط هذا الاكتشاف الضوء على تحديات التحقق من الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي بعد التعديلات الشائعة، وهو قيد قد يجعل من الصعب تحديد الصور المزيفة عبر الإنترنت خلال عام انتخابي مزدحم يتضمن انتخابات التجديد النصفي للولايات المتحدة.

في تحليل لـ 40 صورة تم إنشاؤها باستخدام Muse Image، وجدت رويترز أن أداة الكشف تحققت من جميع الصور الأصلية التي تم إنشاؤها بواسطة الذكاء الاصطناعي، لكنها فشلت في التحقق من 55٪ من نفس الصور بعد اقتصاصها إلى ما يقرب من ثلث إلى نصف حجمها الأصلي.

تقول شركة Meta على موقعها الإلكتروني أن أداة الكشف عن المعاينة يمكنها تحديد الصور التي تم إنشاؤها بواسطة الذكاء الاصطناعي، حتى لو تم اقتصاصها، من خلال نظام علامة مائية غير مرئي يسمى Content Seal، وهو مضمن في كل صورة تم إنشاؤها بواسطة Muse Image ومصمم لمساعدة المستخدمين على التحقق مما إذا كانت قد تم إنشاؤها بواسطة نماذج الذكاء الاصطناعي الخاصة بشركة Meta.

عند سؤالها عن نتائج تحليل رويترز لأداة الكشف، أشارت شركة ميتا إلى أن الأداة ما زالت في مرحلة تجريبية. وأوضحت الشركة أن العلامة المائية مصممة لتبقى سليمة بعد التعديلات الشائعة، ولكن قد تختفي الإشارة إذا تم اقتصاص الصورة بشكل كبير.

حذرت شركتا التكنولوجيا المتنافستان جوجل وOpenAI من أن أدوات الكشف الخاصة بهما ليست مضمونة ضد تقنيات تغيير الصور.

في مارس، دعا مجلس الإشراف التابع لشركة ميتا، وهو هيئة من الخبراء تتخذ قرارات ملزمة وتصدر توصيات بشأن قضايا المحتوى عبر منصات التواصل الاجتماعي التابعة للشركة، الشركة إلى بذل المزيد من الجهد لمعالجة "انتشار المحتوى الخادع الذي تم إنشاؤه بواسطة الذكاء الاصطناعي" على منصاتها والاستثمار في أدوات كشف أقوى.

قال سيوي ليو، أستاذ علوم الكمبيوتر في جامعة ولاية نيويورك في بوفالو والذي يبحث في مجال الطب الشرعي للصور باستخدام الذكاء الاصطناعي، إنه لم يقم بتقييم أداة ميتا، لكن الأنظمة القائمة على العلامات المائية لها قيود.

قال ليو: "يمكن أن تكون الطرق القائمة على العلامات المائية فعالة للغاية عندما تظل العلامة المائية سليمة، ولكن أي تعديل يزيل أو يضعف الإشارة المضمنة - مثل القص أو تغيير الحجم أو الضغط الشديد أو التحرير - قد يقلل من فعاليتها، اعتمادًا على كيفية تصميم العلامة المائية" .

قالت سارة بارينغتون، الباحثة في مجال الذكاء الاصطناعي والمرشحة لنيل درجة الدكتوراه في كلية المعلومات بجامعة كاليفورنيا في بيركلي، إن وضع العلامات المائية يحمل وعدًا لمستقبل المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي، لكنه لا يستطيع فعل الكثير.

وقالت: "مثل العديد من تدابير الأمن السيبراني أو الأمن المادي الوقائية، قد لا تكون محكمة الإغلاق تمامًا، ولكن حتى لو تمكنا من اكتشاف 90% فقط من الحالات، فإن ذلك لا يزال يمثل قفزة كبيرة من الصفر".