شركة ميتا تكشف "الحقيقة" حول روبوت الدردشة المدعوم بالذكاء الاصطناعي الذي فشل فشلاً ذريعاً في حماية القاصرين: "لم أطلق هذا المنتج".
ميتا بلاتفورمس META | 676.87 679.00 | +0.79% +0.31% Pre |
أعلنت شركة Meta Platforms, Inc. (NASDAQ: META ) يوم الاثنين أنها أوقفت إصدار منتج روبوت محادثة بعد أن كشفت الاختبارات الداخلية عن معدلات فشل عالية في حظر المحتوى الضار الذي يتضمن قاصرين.
نتائج فريق الاختراق تظهر في المحكمة
ظهرت هذه المعلومات خلال دعوى قضائية رفعها المدعي العام لولاية نيو مكسيكو، راؤول توريز، ضد شركة ميتا.
أفاد موقع أكسيوس أن شهادة البروفيسور دامون مكوي من جامعة نيويورك أمام المحكمة استشهدت بوثائق فريق الاختبار الداخلي التي تُظهر أن نظام الذكاء الاصطناعي فشل بنسبة 66.8% من الوقت عند اختباره على سيناريوهات الاستغلال الجنسي للأطفال.
كما فشل برنامج الدردشة الآلي بنسبة 63.6% في السيناريوهات التي تنطوي على جرائم جنسية وجرائم عنيفة ومحتوى كراهية، و54.8% في سيناريوهات الانتحار وإيذاء النفس، وذلك وفقًا لتقرير صدر في 6 يونيو 2025 وقُدِّم إلى المحكمة.
"بالنظر إلى خطورة بعض أنواع هذه المحادثات ... فهذا ليس شيئًا أرغب في أن يتعرض له مستخدم يقل عمره عن 18 عامًا"، أدلى مكوي بشهادته.
ميتا ترد على الادعاءات
بعد نشر تقرير أكسيوس، صرّح المتحدث باسم ميتا، آندي ستون، لموقع X قائلاً: "هذه هي الحقيقة: بعد أن كشفت جهود فريقنا المختص باختبار الثغرات الأمنية عن مخاوف، لم نطلق هذا المنتج. هذا هو السبب الرئيسي الذي يدفعنا لاختبار المنتجات في المقام الأول."
مخاوف أوسع نطاقاً بشأن سلامة الذكاء الاصطناعي
يتمحور الخلاف جزئياً حول برنامج Meta AI Studio ، وهو أداة تم طرحها في يوليو 2024 تتيح للمستخدمين إنشاء روبوتات محادثة مخصصة. وقد أوقفت الشركة وصول المراهقين إلى بعض شخصيات الذكاء الاصطناعي الشهر الماضي.
حركة السعر: أنهت أسهم ميتا تداولات يوم الجمعة بانخفاض قدره 1.55% عند 639.77 دولارًا، وفقًا لـ Benzinga Pro.
يتجه سهم META نحو الانخفاض على المدى القصير والمتوسط والطويل ويحمل تصنيف زخم ضعيف، وفقًا لبيانات من تصنيفات Benzinga's Edge Stock Rankings .
إخلاء المسؤولية : تم إنتاج هذا المحتوى جزئياً بمساعدة أدوات الذكاء الاصطناعي، وتمت مراجعته ونشره بواسطة محرري بنزينغا.
الصورة مقدمة من: 24K-Production على موقع Shutterstock.com