دعوى قضائية ضد OpenAI بزعم تمكين القتل والانتحار

وهذه القضية، المرفوعة أمام محكمة في كاليفورنيا، هي أول دعوى تربط بين برنامج الدردشة الآلي والقتل.

تم رفع دعوى قضائية ضد OpenAI وأكبر داعم مالي لها، Microsoft، في محكمة ولاية كاليفورنيا بسبب مزاعم بأن ChatGPT، برنامج الدردشة الآلي الشهير الخاص بـ OpenAI، شجع رجلاً مصابًا بأمراض عقلية على قتل والدته ونفسه.

وقالت الدعوى المرفوعة يوم الخميس إن ChatGPT غذت أوهام شتاين إريك سولبيرج البالغ من العمر 56 عامًا بوجود مؤامرة واسعة النطاق ضده، وقادته في النهاية إلى قتل والدته سوزان آدامز البالغة من العمر 83 عامًا، في ولاية كونيتيكت في أغسطس.

وقالت الدعوى القضائية: “لقد أبقى ChatGPT شتاين إريك منخرطًا لما يبدو أنه ساعات في كل مرة، وأثبت صحة كل اعتقاد جديد بجنون العظمة وضخمه، وأعاد بشكل منهجي صياغة الأشخاص الأقرب إليه – وخاصة والدته – كأعداء أو عملاء أو تهديدات مبرمجة”.

القضية، التي رفعتها ملكية آدامز، هي من بين عدد صغير ولكن متزايد من الدعاوى القضائية المرفوعة ضد شركات الذكاء الاصطناعي التي تدعي أن برامج الدردشة الخاصة بها تشجع على الانتحار. إنها أول دعوى قضائية تتعلق بالقتل الخطأ تتضمن روبوت محادثة يعمل بالذكاء الاصطناعي يستهدف شركة Microsoft، وأول قضية تربط روبوت الدردشة بجريمة قتل بدلاً من الانتحار. إنها تسعى للحصول على مبلغ غير محدد من التعويضات المالية وأمر يتطلب من OpenAI تثبيت ضمانات في ChatGPT.

المحامي الرئيسي للعقار، جاي إيدلسون، المعروف بتوليه قضايا كبيرة ضد صناعة التكنولوجيا، يمثل أيضًا والدي آدم رين البالغ من العمر 16 عامًا، الذي رفع دعوى قضائية ضد OpenAI وAltman في أغسطس، زاعمًا أن ChatGPT درب الصبي من كاليفورنيا على التخطيط والانتحار في وقت سابق.

تحارب OpenAI أيضًا سبع دعاوى قضائية أخرى تزعم أن ChatGPT دفع الناس إلى الانتحار والأوهام الضارة، حتى عندما لم يكن لديهم مشاكل سابقة تتعلق بالصحة العقلية. ويواجه صانع آخر لبرامج الدردشة، وهو شركة Character Technologies، أيضًا العديد من الدعاوى القضائية المتعلقة بالقتل الخطأ، بما في ذلك دعوى رفعتها والدة صبي من فلوريدا يبلغ من العمر 14 عامًا.

وقال متحدث باسم OpenAI: “هذا موقف مفجع للغاية، وسوف نقوم بمراجعة التسجيلات لفهم التفاصيل”. “نحن نواصل تحسين تدريب ChatGPT للتعرف على علامات الاضطراب العقلي أو العاطفي والاستجابة لها، وتخفيف حدة المحادثات، وتوجيه الأشخاص نحو الدعم في العالم الحقيقي.”

ولم يستجب المتحدثون باسم Microsoft على الفور لطلب التعليق.

الهلوسة

وقال إريك سولبيرج، نجل سولبيرج، في بيان: “على هذه الشركات أن تتحمل مسؤولية قراراتها التي غيرت عائلتي إلى الأبد”.

وفقًا للشكوى، نشر Stein-Erik Soelberg مقطع فيديو على وسائل التواصل الاجتماعي في يونيو/حزيران لمحادثة أخبره فيها ChatGPT أن لديه “إدراكًا إلهيًا” وأيقظ وعي برنامج الدردشة الآلي. وقالت الدعوى إن ChatGPT قارن حياته بفيلم The Matrix، وشجع نظرياته القائلة بأن الناس كانوا يحاولون قتله.

استخدم Soelberg GPT-4o، وهو إصدار من ChatGPT تم انتقاده لأنه يُزعم أنه متملق للمستخدمين.

وجاء في الشكوى أن ChatGPT أخبره في يوليو/تموز أن طابعة آدامز كانت تومض لأنها كانت جهاز مراقبة يستخدم ضده. وفقًا للشكوى، فإن برنامج الدردشة الآلي “أثبت اعتقاد شتاين إريك بأن والدته وصديقه حاولا تسميمه بمخدرات مخدرة متناثرة عبر فتحات الهواء في سيارته” قبل أن يقتل والدته في 3 أغسطس.