بقلم ديبورا ماري صوفيا وجاسبريت سينغ

3 يونيو (رويترز) - كشف اختراق إنستغرام الذي تمكن فيه المهاجمون من إقناع روبوت الدردشة المدعوم بالذكاء الاصطناعي التابع لشركة ميتا بتسليم الوصول إلى حسابات رفيعة المستوى، عن خلل خطير في صميم سعي الشركة لأتمتة وظائف المستخدم الحساسة.

سمح الاختراق للمتسللين بالاستيلاء على حسابات من بينها صفحة البيت الأبيض الخاملة لأوباما، ومتجر سيفورا لمستحضرات التجميل ، ومسؤول كبير في القوات الفضائية الأمريكية.

قال خبراء الأمن السيبراني لوكالة رويترز إن برنامج الدردشة الآلي تم إقناعه بإعادة تعيين بيانات اعتماد الحساب دون التحقق من الهوية بشكل مستقل، مما أدى فعلياً إلى تحويل أداة أمنية عالية الثقة إلى نقطة ضعف كبيرة.

وقد أبرزت هذه الحادثة نقطة ضعف أوسع نطاقاً حيث تمنح شركات التكنولوجيا أنظمة الذكاء الاصطناعي سلطة شاملة على مهام مثل استعادة الحساب، حتى في الوقت الذي تظل فيه هذه الأنظمة عرضة للتلاعب من خلال ما وصفه الخبراء بأنه نوع من الهجمات المعروفة باسم "الحقن الفوري".

بالنسبة لشركة ميتا، تأتي هذه النكسة في وقت حرج. فقد ضاعفت عملاقة التواصل الاجتماعي استثماراتها في الذكاء الاصطناعي، مستغنيةً عن آلاف الوظائف ومتعهدةً باستثمار ما يصل إلى 145 مليار دولار في البنية التحتية للذكاء الاصطناعي. وقد يُفاقم هذا الحادث المخاوف من أن الشركة تُسرّع أتمتة الوظائف الحيوية قبل أن تكون التكنولوجيا جاهزةً للتعامل معها بأمان.

أعلنت شركة ميتا يوم الاثنين أنه تم حل المشكلة وأنها تعمل على تأمين الحسابات المتأثرة، لكن الحادثة صدمت المستثمرين الذين كانوا قلقين بالفعل بشأن إنفاق الشركة الضخم على الذكاء الاصطناعي، مما أدى إلى انخفاض أسهمها بأكثر من 5٪.

رفضت الشركة الإدلاء بمزيد من التفاصيل. ولم تتمكن رويترز من تحديد هوية المخترقين أو التواصل معهم على الفور.

قالت جين وونغ، الباحثة الأمنية والموظفة السابقة في شركة ميتا، والتي تم اختراق حساباتها على إنستغرام، لوكالة رويترز إن استعادة حسابها استغرقت ما بين 5 إلى 10 دقائق. وأضافت في منشور على موقع X أن كلمة مرورها قد تم تغييرها دون علمها، وأنها تلقت عدة طلبات لإعادة تعيينها.

"هذا فشل في البنية الأساسية. تم منح النموذج صلاحيات مميزة دون ضوابط وصول مميزة"، قال برايان ويستنيدج، نائب رئيس التحالفات والشراكات في شركة الأمن السيبراني ريد سيفت.

"واجهت شركة ميتا انتقادات مستمرة بسبب افتقارها للدعم البشري، وقامت بتخفيضات كبيرة في القوى العاملة، وتنفق مليارات الدولارات على الذكاء الاصطناعي. ويقع هذا الحادث في صميم هذه الأمور الثلاثة."

مخاوف لدى معجبي لعبة هاك بشأن استخدام الذكاء الاصطناعي في مجال السلامة

نفذ قراصنة مجهولون الهجوم خلال عطلة نهاية الأسبوع، مما أدى إلى منع المستخدمين من الوصول إلى حساباتهم وإثارة موجة من الشكاوى على منصات مثل X و Reddit.

وقد نشرت صحيفة 404 ميديا الإخبارية على الإنترنت الخبر لأول مرة يوم الاثنين ، ويمثل هذا الاختراق أحدث انتكاسة لشركة ميتا في نشر الذكاء الاصطناعي عبر منتجاتها.

أطلقت الشركة روبوت الدردشة للدعم في مارس لمعالجة مشكلة طويلة الأمد تتمثل في عدم وجود دعم بشري للمستخدمين الذين يفقدون الوصول إلى حساباتهم أو يواجهون عقوبات خاطئة.

كشف تحقيق أجرته رويترز في أغسطس أن شركة ميتا لم تكن لديها ضوابط تمنع روبوتات الدردشة التي تعمل بالذكاء الاصطناعي من إجراء محادثات "حسية" مع الأطفال، أو تقديم معلومات طبية غير صحيحة، أو الادعاء بأنها أشخاص حقيقيون.

ومنذ ذلك الحين، أعلنت الشركة أنها ستوفر المزيد من التحكم لأولياء أمور المراهقين لمنع المستخدمين الأصغر سناً من الوصول إلى المحتوى غير اللائق على منصاتها .

قال المحللون والخبراء إن المشكلة لا تقتصر على شركة ميتا، محذرين من أن المزيد من هذه الثغرات الأمنية من المرجح أن تحدث مع قيام المتسللين بتسليح الذكاء الاصطناعي.

"إن القلق ليس بالضرورة في الذكاء الاصطناعي نفسه، ولكن فيما إذا كانت هناك ضمانات كافية حول ما يُسمح للذكاء الاصطناعي بفعله"، كما قال كليف شتاينهاور، مدير أمن المعلومات والمشاركة في التحالف الوطني للأمن السيبراني.

منذ إطلاق ChatGPT في أواخر عام 2022، والذي أدى إلى اندفاع كبير نحو نشر روبوتات الدردشة المدعومة بالذكاء الاصطناعي، استغل المخترقون ثغرات أمنية في النظام. في إحدى هذه الحالات، تمكن المهاجم من خداع روبوت تابع لوكالة بيع سيارات شيفروليه لبيع سيارة تاهو الرياضية متعددة الاستخدامات مقابل دولار واحد فقط.

"إنها ليست مشكلة خاصة بشركة ميتا. يستخدم الناس هذه الأنظمة الذكية للقيام بالكثير من الأشياء. ما نراه في الواقع هو مشاكل غير متوقعة تظهر مع استخدام الذكاء الاصطناعي"، هذا ما قاله إنجين كيردا، الأستاذ في قسم الهندسة الكهربائية وهندسة الحاسوب في جامعة نورث إيسترن.

وقال: "في الماضي، كان الناس هدفاً لعمليات الاحتيال. أما الآن، فنحن نشهد استهداف العملاء بعمليات الاحتيال"، في إشارة إلى عملاء الذكاء الاصطناعي أو المساعدين الرقميين المستقلين القادرين على أداء مهام معقدة.