يواجه برنامج xAI التابع لإيلون ماسك ضغوطًا قانونية متزايدة بعد أن انضمت امرأة تُعرف باسم جين دو 4 إلى دعوى قضائية تتهم برنامج الدردشة الآلي Grok بتمكين إنشاء مواد استغلال جنسي للأطفال.

تزعم جين دو 4 أن زوج والدتها استخدم تطبيق Grok للتلاعب بصورة التُقطت لها عندما كانت في الحادية عشرة من عمرها، مما أدى إلى إنتاج أكثر من 7000 صورة إباحية، وفقًا لموقع TechCrunch الذي نشرته صحيفة واشنطن بوست في البداية. وقالت إن زوج والدتها وُجد منتحرًا بعد يومين من عثور المحققين على الصور خلال عملية تفتيش أمنية.

اتصلت بنزينغا بشركة xAI، التي أصبحت الآن جزءًا من شركة SpaceX (NASDAQ: SPCX )، للتعليق، لكنها لم تتلق ردًا في وقت النشر.

"الوصول غير المحدود إلى أدوات الذكاء الاصطناعي ينتشر بسرعة"

تُوسّع دعوى جين دو 4 نطاق قضية رفعها ثلاثة مراهقين من ولاية تينيسي في مارس، والذين يزعمون أن برنامج الدردشة الآلي Grok التابع للشركة، والذي يعمل بالذكاء الاصطناعي، قد أنشأ صورًا جنسية لهم دون موافقتهم.

وتزعم القاصرات - اللواتي تم تحديدهن باسم جين دو 1 و2 و3 - أن هذه الصور المعدلة تم توزيعها على نطاق واسع على منصات مثل ديسكورد وتليجرام وخدمات مشاركة الملفات الأخرى، مما أدى إلى صدمة عاطفية دائمة وضرر في السمعة.

وبحسب الشكوى، تجاهلت شركة xAI بروتوكولات السلامة القياسية في تطوير Grok، مما مكن من إنشاء المحتوى الضار وتحقيق الربح منه.

أثارت ميزة "تخيل" في تطبيق Grok، التي تتيح إنشاء الصور والفيديوهات وتعديلها، انتقادات واسعة النطاق بعد تقارير أفادت بقدرة المستخدمين على إنتاج فيديوهات مزيفة ذات محتوى جنسي على نطاق واسع عقب إصدار أحد طرازات التطبيق في ديسمبر. وهددت شركة آبل لاحقًا بإزالة التطبيق ما لم تُجرَ تعديلات عليه.

"إن الوصول غير المحدود إلى هذه الأدوات ينتشر بسرعة كبيرة. إنه يحول الحياة اليومية إلى اعتداء جنسي على الأطفال"، هذا ما قالته جين دو 4.

يسعى المدعون للحصول على صفة الدعوى الجماعية في هذه القضية.

سلامة غروك تحت المجهر

في وقت سابق من هذا الشهر، سمح قاضٍ فيدرالي بدخول قانون مينيسوتا الجديد حيز التنفيذ، والذي يحظر الصور العارية المولدة بواسطة الذكاء الاصطناعي دون موافقة أصحابها، رافضًا طلب شركة xAI إصدار أمر قضائي عاجل. وقال قاضي المحكمة الجزئية الأمريكية ، دونوفان فرانك ، إن شركة xAI انتظرت حتى أيام قليلة قبل بدء سريان القانون لطلب الحماية، مما أضعف حجتها بأنها تواجه ضررًا فوريًا.

لم يستبعد فرانك إمكانية إيقاف القانون لاحقًا، وحدد جلسة استماع في 19 أغسطس/آب للنظر في طلب شركة xAI إصدار أمر قضائي مؤقت. وتزعم xAI أن هذا الإجراء ينتهك التعديل الأول للدستور الأمريكي، بينما يستهدف القانون المنصات التي تُتيح أو تُعلن عن صور واقعية "عارية" لأشخاص يمكن التعرف عليهم دون موافقتهم.

في يناير، أدان الحاكم جافين نيوسوم شركة الذكاء الاصطناعي xAI التابعة لإيلون ماسك، وحث سلطات الولاية على التحقيق مع برنامج الدردشة الآلي Grok بشأن إنشاء ونشر صور جنسية غير توافقية تم إنشاؤها بواسطة الذكاء الاصطناعي وتضم أطفالاً.

وفي منشور على موقع X، اتهم نيوسوم الشركة بتمكين المفترسين من استغلال تكنولوجيا الذكاء الاصطناعي.

وكتب نيوسوم: "إن قرار شركة xAI بإنشاء واستضافة أرض خصبة للمفترسين لنشر صور مزيفة بتقنية الذكاء الاصطناعي ذات محتوى جنسي صريح دون موافقة، بما في ذلك صور تجرد الأطفال من ملابسهم رقمياً، هو أمر شنيع".

صورة: Shutterstock