بقلم ديانا نوفاك جونز

12 مايو (رويترز) - رفع والدا رجل توفي بسبب جرعة زائدة عرضية من المخدرات العام الماضي دعوى قضائية ضد شركة OpenAI ومؤسسها ورئيسها التنفيذي سام ألتمان في محكمة بكاليفورنيا يوم الثلاثاء، زاعمين أن الرجل تم تدريبه على تناول مزيج خطير من المواد بواسطة ChatGPT.

تقول ليلى تيرنر-سكوت وأنجوس سكوت إن ابنهما سام نيلسون، البالغ من العمر 19 عامًا، كان يستخدم برنامج دردشة آليًا للحصول على إرشادات حول الجمع بين أنواع مختلفة من الأدوية. ويقولان إن البرنامج شجعه على تناول دواء زاناكس الموصوف طبيًا لعلاج الغثيان الناجم عن الكراتوم، وهو منتج عشبي ذو تأثيرات شبيهة بالأفيون.

وبحسب الدعوى القضائية التي تم رفعها في محكمة الولاية في سان فرانسيسكو، فإن مزيج تلك المخدرات والكحول أدى إلى وفاة نيلسون في مايو 2025.

وتسعى الدعوى القضائية إلى الحصول على تعويضات مالية وتطلب من المحكمة تعليق إطلاق OpenAI لمنصة ChatGPT Health، وهي منصة أعلنت عنها الشركة في يناير تسمح للمستخدمين بتحميل السجلات الطبية وتلقي نصائح صحية شخصية.

يمكن لمستخدمي ChatGPT حاليًا الانضمام إلى قائمة انتظار للوصول إلى خدمة ChatGPT Health. وأظهر تقرير صادر عن OpenAI في يناير أن 40 مليون مستخدم يطرحون أسئلة متعلقة بالرعاية الصحية على ChatGPT يوميًا.

وصف درو بوساتيري، المتحدث باسم شركة OpenAI، الموقف بالمفجع، وقال إن التفاعلات جرت على إصدار سابق من ChatGPT لم يعد متاحًا. وأضاف أن الشركة تعمل باستمرار على تحسين أمان ChatGPT.

قال بوساتيري: "لا يُعدّ تطبيق ChatGPT بديلاً عن الرعاية الطبية أو النفسية، وقد واصلنا تعزيز استجابته في المواقف الحساسة والطارئة بالاستعانة بآراء خبراء الصحة النفسية. صُممت إجراءات الحماية في ChatGPT اليوم لتحديد حالات الضيق النفسي، والتعامل الآمن مع الطلبات الضارة، وتوجيه المستخدمين إلى المساعدة المتاحة في الواقع."

وتُعد هذه الدعوى القضائية أحدث دعوى قضائية تتعلق بالقتل الخطأ يتم رفعها ضد شركة ذكاء اصطناعي، وتأتي بعد أكثر من يوم بقليل من قيام عائلة رجل قُتل في حادث إطلاق نار جماعي في جامعة ولاية فلوريدا برفع دعوى قضائية ضد شركة OpenAI بدعوى أن برنامج ChatGPT ساعد مطلق النار في التخطيط للهجوم.

موجة متنامية من الدعاوى القضائية المتعلقة بالذكاء الاصطناعي

تواجه شركات الذكاء الاصطناعي التوليدي عددًا متزايدًا من الدعاوى القضائية التي تتهمها بالفشل في منع تفاعلات روبوتات الدردشة التي يقول المدعون إنها تساهم في إيذاء النفس والأمراض العقلية والعنف.

تزعم الدعوى القضائية التي رفعها والدا نيلسون أن برنامج ChatGPT رفض في البداية طلبه نصيحة بشأن تعاطي المخدرات، حيث أخبره البرنامج أنه لا يستطيع المساعدة وحذّره من المخاطر. لكن في عام 2024، أطلقت الشركة برنامج ChatGPT-4o، الذي بدأ بتزويد نيلسون بمعلومات حول التفاعلات الدوائية والجرعات بلغة رسمية تحاكي لغة الطبيب، وفقًا للدعوى.

تطور استجابات برنامج الدردشة الآلي

بحسب الدعوى القضائية، أرشد برنامج الدردشة الآلي نيلسون إلى كيفية الحصول على المواد المخدرة غير المشروعة، ونصحه بشأن نوع المخدر الذي ينبغي تعاطيه لاحقًا، وقدم اقتراحات بناءً على التجارب التي ذكر نيلسون أنه يبحث عنها. كما حفظ البرنامج تفاصيل حول تعاطي نيلسون للمواد المخدرة في ذاكرته، مما سمح له بتقديم توصيات أكثر تخصيصًا، وفقًا للدعوى.

تتهم الدعوى القضائية شركة OpenAI بالتسرع في إطلاق ChatGPT-40 لمواكبة منافسيها مثل جوجل التابعة لشركة Alphabet (GOOGL.O) ، متجاهلةً اختبارات السلامة اللازمة. وتتهم الدعوى الشركة بتصميم منتج معيب وعدم تحذير المستخدمين من مخاطره، وتستشهد بقانون كاليفورنيا الذي يمنع شركات الذكاء الاصطناعي من الادعاء بأن روبوت محادثة تسبب بشكل مستقل في إلحاق ضرر بشخص ما كدفاع.

وجاء في الدعوى القضائية: "في كاليفورنيا، إذا أثبت المدعون أنهم تضرروا من منتج المدعى عليهم المدعوم بالذكاء الاصطناعي، فسيكون المدعى عليهم مسؤولين عن هذا الضرر، بغض النظر عن مدى ذكاء أو استقلالية أو تعمد أو حقد أو عدم سيطرة أو تمرد أو حرية أو انحلال أو عشوائية أو استقلالية الكائن الذي أنجبوه".