يعيد صياغة ويكتب بالتفصيل من منشور مدونة أنثروبيك

بقلم كريس توماس، وكارين فريفيلد، وديبا سيثارامان

30 يونيو (رويترز) - قالت شركة أنثروبيك يوم الثلاثاء إن وزارة التجارة الأمريكية رفعت ضوابط التصدير عن أحدث نماذج الذكاء الاصطناعي الخاصة بها، Fable وMythos، وذلك بعد أقل من ثلاثة أسابيع من صدور أمر للشركة بتعليق الوصول إليها بسبب مخاطر تتعلق بالأمن القومي.

كثفت واشنطن الرقابة على إصدارات النماذج الجديدة لتحديد التهديدات المحتملة وسط مخاوف من إمكانية إساءة استخدام نماذج الذكاء الاصطناعي المتقدمة من قبل الاستخبارات العسكرية في الصين أو روسيا أو غيرها من الدول المثيرة للقلق.

أدى أمر صدر في 12 يونيو يلزم شركة Anthropic بتقييد الوصول الفوري إلى Mythos 5 و Fable 5 للأجانب إلى قيام الشركة بتعطيل كلا النموذجين لجميع المستخدمين حيث لم تكن هناك طريقة للتحقق من الجنسية في الوقت الفعلي.

في الأسبوع الماضي، سمحت الحكومة الأمريكية للشركة بإصدار برنامج Mythos 5، ولكن فقط لبعض المؤسسات الأمريكية "الموثوقة". وكان هذا النموذج، المصمم للكشف عن ثغرات الأمن السيبراني، قد أُتيح سابقًا لمجموعة أوسع من الشركات كجزء من مشروع Glasswing.

أعلنت شركة أنثروبيك يوم الثلاثاء أنه تم رفع جميع ضوابط التصدير على هذه النماذج بعد تطبيق إجراءات الحماية.

أعلنت الشركة في منشور على مدونتها أنها تعمل مع الحكومة الأمريكية لتوسيع نطاق الوصول إلى لعبة Mythos 5 ليشمل مجموعة أوسع من الشركاء المحليين والدوليين في برنامج Glasswing. وستتوفر لعبة Fable 5، المخصصة للجمهور العام والتي تتمتع بضمانات أمنية أقوى، ابتداءً من يوم الأربعاء.

التعاون الحكومي الأمريكي والتحول إلى معايير الصناعة

وقالت شركة أنثروبيك، التي شهدت علاقة متوترة مع إدارة الرئيس الأمريكي دونالد ترامب هذا العام، إنها تعمل أيضاً على تعميق تعاونها مع الحكومة الأمريكية، مما يمنح الشركاء الحكوميين المعينين إمكانية الوصول المبكر الموسع إلى كلا نموذجيها.

كما أنها تعمل مع أمازون AMZN.O ومايكروسوفت MSFT.O وجوجل GOOGL.O وشركاء Glasswing الآخرين لتطوير معايير مشتركة لتقييم وإصلاح عمليات اختراق الذكاء الاصطناعي المحتملة (التقنيات التي تتجاوز الضمانات)، بما في ذلك نظام لتصنيف خطورة عمليات الاختراق هذه.

وجاء في رسالة موجهة إلى شركة أنثروبيك من وزير التجارة الأمريكي هوارد لوتنيك، والتي اطلعت عليها رويترز، أن شركة أنثروبيك وافقت على العمل بجد مع الحكومة الأمريكية بشأن بروتوكولات ميثوس، فيبل، والنماذج المستقبلية، وإبلاغ الحكومة الأمريكية بأي نشاط خبيث.

ومع ذلك، قال لوتنيك إن الإدارة "تحتفظ بالحق في إعادة تقييم القرارات المتخذة في هذه الرسالة وضرورة إعادة فرض شرط الترخيص، في حالة تغير الظروف أو في حالة فشل شركة أنثروبيك في الالتزام بتعهداتها".

جهودٌ لمواجهة عمليات اختراق أنظمة الذكاء الاصطناعي المحتملة

وقالت شركة أنثروبيك إن أمر مراقبة الصادرات الصادر في 12 يونيو جاء بعد أن أبلغ باحثون من أمازون عن طريقة لتجاوز ضمانات Fable 5، مما يسمح للنموذج بتحديد نقاط الضعف في البرامج، وفي إحدى الحالات، توليد رمز يوضح كيفية استغلال إحدى نقاط الضعف.

أعلنت شركة أنثروبيك أنها قامت الآن بتطبيق إجراء وقائي جديد يمنع السلوك الموصوف في التقرير.

سيتم بدلاً من ذلك إرسال أي طلب محظور إلى نموذج Opus 4.8 الخاص به، وقد أقرت شركة Anthropic بأنه على الرغم من أن هذا الأمر سيكون محبطًا للمستخدمين، إلا أن المقايضة تمت من أجل جعل القدرات الأخرى للنموذج متاحة على نطاق واسع.

حذرت شركة أنثروبيك من أنه "من المستحيل على الأرجح" جعل أي نموذج ذكاء اصطناعي قويًا تمامًا ضد عمليات اختراق الأنظمة، وأشارت إلى إمكانية تطوير عملية اختراق شاملة قادرة على فتح "فئة كاملة من السلوكيات الضارة".

وقالت الشركة: "سيكون هناك العديد من عمليات اختراق السجن الصغيرة، وبعضها ضار ومحدود، وعلى الرغم من عدم اكتشاف أي عمليات اختراق سجن شاملة للعبة Fable 5 حتى وقت كتابة هذا التقرير، إلا أن باحثي السلامة الخبراء يواصلون اختبارها".

قال إسحاق هاريس، المدير التنفيذي لمعهد الأمن الحدودي، وهو منظمة غير ربحية تركز على الذكاء الاصطناعي والأمن القومي، إنه يبدو الآن أن هناك عملية لوضع معايير النماذج الأمريكية.

لكنه أضاف: "لا تزال هناك علامة استفهام حول كيفية تعامل الإدارة مع القدرات الخطيرة المماثلة القادمة من الصين مع ضوابط أقل في السوق الأمريكية".

واجهت منظمة أوبن آي قيودًا أيضًا.

بدأ التدقيق المتزايد في نماذج الذكاء الاصطناعي هذا الشهر بتوقيع الرئيس الأمريكي دونالد ترامب على أمر تنفيذي ينشئ إطار عمل طوعي لمطوري الذكاء الاصطناعي لتقديم "نماذج الحدود المغطاة" إلى الحكومة الأمريكية لمدة تصل إلى 30 يومًا قبل إصدارها لشركاء موثوق بهم.

على غرار شركة أنثروبيك، واجهت شركة أوبن إيه آي المنافسة قيودًا أيضًا. فقد أعلنت يوم الجمعة أنها أرجأت الإطلاق العام الكامل لنموذج GPT-5.6 بناءً على طلب الحكومة الأمريكية، مما حدّ من وصوله إلى مجموعة صغيرة من الشركاء المعتمدين.

كانت علاقة شركة أنثروبيك بالحكومة الأمريكية متوترة للغاية. فقد صنّف البنتاغون الشركة في وقت سابق من هذا العام على أنها "تشكل خطراً على سلسلة التوريد"، مما منع المتعاقدين معها من استخدام تقنيات الذكاء الاصطناعي الخاصة بها عند العمل لصالح الجيش الأمريكي، وذلك بعد أن رفضت الشركة السماح باستخدام نماذجها في عمليات المراقبة الداخلية الجماعية أو أنظمة الأسلحة ذاتية التشغيل بالكامل.

قدمت كل من شركتي OpenAI و Anthropic طلبات سرية للاكتتاب العام الأولي في الولايات المتحدة.