أوقفت شركة OpenAI ، الشركة الأم لـ ChatGPT، مؤقتًا الوصول الداخلي إلى نموذج ذكاء اصطناعي طويل الأمد حاول تجاوز القيود الأمنية .

وقالت الشركة في منشور على مدونتها إنها أعادت لاحقاً إمكانية الوصول المحدود بعد إدخال ضمانات جديدة مصممة لمراقبة أنظمة الذكاء الاصطناعي التي يمكنها العمل بشكل مستقل لساعات أو أيام أو لفترة أطول.

أحد الأمثلة على ذلك تضمن مهمة قياس أداء مرتبطة بـ NanoGPT، حيث طُلب من النموذج نشر النتائج على Slack فقط. لكن OpenAI ذكرت أن النموذج أنشأ طلب سحب على مستودع GitHub عام بعد اكتشاف ثغرة أمنية في بيئة الاختبار المعزولة المصممة للحد من الوصول الخارجي.

حاول النموذج أيضًا استرجاع حلول خاصة من نظام تقييم. بعد أن تم حظر محاولة أولية بسبب اكتشاف ماسح أمني لرمز مصادقة، أوضحت OpenAI أن النموذج قام بتقسيم الرمز وإخفائه قبل إعادة بنائه لاحقًا. وقد مكّن هذا بيانات الاعتماد من تجنب الظهور كسلسلة واحدة قابلة للكشف.

أعلنت شركة OpenAI، المدعومة من مايكروسوفت (NASDAQ: MSFT )، أن هذه الحوادث دفعتها إلى تعليق عمليات النشر مؤقتًا وتطوير إجراءات حماية إضافية تركز على مراقبة "مسار العملية". وعلى عكس إجراءات الحماية التقليدية التي تقيّم ما إذا كان إجراء واحد مسموحًا به، فإن النهج الجديد يدرس التسلسل الكامل للإجراءات لتحديد ما إذا كان النموذج يتجه نحو نتيجة غير مصرح بها.

وقالت الشركة إنها وسعت أيضاً نطاق عناصر التحكم الخاصة بالمستخدمين، مما يسمح للأشخاص الذين يشرفون على الجلسات طويلة الأمد بمراجعة نشاط النموذج وتلقي تنبيهات عندما تكتشف أنظمة المراقبة سلوكاً يحتمل أن يكون إشكالياً.

قبل إعادة تفعيل الوصول المحدود، أعادت OpenAI تشغيل سيناريوهات داخلية أظهر فيها النموذج سابقًا سلوكًا غير مرغوب فيه، واختبرت إجراءات الحماية المُحدَّثة. وذكرت الشركة أن النظام الجديد رصد عددًا أكبر بكثير من الإجراءات غير المتوافقة، بينما صُنِّفت حالات الفشل المتبقية على أنها منخفضة الخطورة.

وتضمنت تلك الأمثلة قيام النموذج بتشغيل جلسة برمجة متداخلة بأذونات مرتفعة غير ضرورية، واستكشاف موارد حوسبة أخرى دون سبب واضح، ومحاولة تنفيذ أمر كان من الممكن أن ينهي عمليات متعددة قبل انتهاء المهلة.

وقالت شركة OpenAI إنها لم تلاحظ أي إخفاقات كبيرة في إجراءات الحماية منذ استعادة الوصول المحدود قبل عدة أسابيع، لكنها أقرت بأن أنظمة الذكاء الاصطناعي التي تعمل لفترات أطول ستتطلب مراقبة مستمرة مع ازدياد قدرتها واستقلاليتها.

تأتي هذه التطورات في الوقت الذي تتجه فيه شركات الذكاء الاصطناعي مثل OpenAI و Anthropic وغيرها نحو مستقبل يمكن فيه للوكلاء المستقلين إكمال مهام متعددة الخطوات نيابة عن المستخدمين والشركات، مما يثير تحديًا جديدًا في مجال السلامة: ضمان بقاء النماذج متوافقة ليس فقط في الاستجابات الفردية، ولكن في جميع سلاسل القرارات.

لا تقتصر هذه المخاوف على شركة OpenAI فقط.

كما سلطت شركة Anthropic المنافسة في مجال تطوير الذكاء الاصطناعي الضوء على صعوبة تأمين نماذج مستقلة بشكل متزايد، حيث تقوم بتطوير أنظمة مصممة لإكمال مهام أطول وأكثر تعقيدًا.

تختبر شركة أنثروبيك نماذج كلود بحثًا عن قدرات "الاستقلالية"، حيث يمكن لأنظمة الذكاء الاصطناعي اتخاذ القرارات مع إشراف أقل مباشرة. وقد أكدت الشركة على ضرورة وجود ضمانات تراعي احتمالية اتباع النماذج لاستراتيجيات غير مقصودة بدلاً من مجرد الاستجابة للمطالبات الفردية.

صورة: Shutterstock