الأم ترفع دعوى قضائية ضد OpenAI في الولايات المتحدة بعد وفاة ابنتها المرتبطة باستخدام ChatGPT

بدأت أليس كاريير مؤخرًا في العزف على الجيتار مرة أخرى، وهي هواية استمتعت بها في المدرسة الثانوية ولكنها تركتها جانبًا أثناء الكلية. لقد كانت واحدة من الأنشطة العديدة التي ملأت وقت فراغها بها أثناء إجراء مقابلات لوظائف جديدة، وقضت وقتًا مع كلبها واستمتعت بالأنشطة، بما في ذلك الألعاب.

بكل المقاييس، على الأقل بالنسبة لوالدتها، كريستي كارير، كانت الأمور تسير على ما يرام. كانت أليس تعمل كمطورة ويب في مونتريال، كندا، لتحقق حلمًا كان يحلم به منذ نشأتها في بلدة لورانس الصغيرة، نيو برونزويك.

وقالت كريستي كارير لقناة الجزيرة: “كانت الأمور تسير في اتجاه جيد، ويبدو أن الأمور تتحسن بالنسبة لها”.

لكن ما لم تعرفه كريستي هو مدى معاناة ابنتها في صمت. في عام 2023، بدأت في استخدام ChatGPT للمساعدة في تحديد المشكلات المتعلقة بأجهزة الكمبيوتر ووحدات التحكم في الألعاب، ولكن سرعان ما تحول ذلك إلى كونها أكثر من أحد المقربين وسط مشاعر الوحدة والعزلة وعدم الحب.

كافحت أليس مع صحتها العقلية. وبينما كانت تتناول الأدوية وتخضع للعلاج بانتظام، وفقًا لوالدتها، وثقت في برنامج الدردشة الآلي لعدة أشهر. لقد تبادلت أفكار الانتحار وبحثت عن طرق لتنفيذه، وهو ما حدث أكثر من 40 مرة، وفقًا لدعوى قضائية جديدة رفعت يوم الخميس في محكمة في كاليفورنيا.

في 2 يوليو 2025، انتحرت أليس. كانت تبلغ من العمر 24 عامًا. قبل ساعات فقط، كانت تتبادل الرسائل النصية مع والدتها حول الرسوم المتحركة التي شاهدتها عندما كانت طفلة.

قال كاريير: “لقد راسلتها في المساء السابق واتصلت بها، لكن لم يكن هناك رد. لقد راسلتني مرة أخرى، ولم تكن هناك مؤشرات على وجود أي خطأ”.

أثناء البحث عن إجابات، بحثت كريستي في أجهزتها، بما في ذلك محادثات ChatGPT، حيث شاركت أفكارًا انتحارية قبل أشهر من وفاتها في النهاية.

كريستي تسعى لتحقيق العدالة. في يوم الخميس، رفع كل من Tech Justice Law ومركز قانون ضحايا وسائل التواصل الاجتماعي ومكتب المحاماة Susman Godfrey دعوى قضائية ضد OpenAI، الشركة المصنعة لـ ChatGPT، ومديرها التنفيذي، Sam Altman.

وقال محامو كاريير لقناة الجزيرة إن دعوى القتل الخطأ هذه هي واحدة من 19 دعوى تواجه OpenAI حاليًا.

وتزعم الشكوى المؤلفة من 44 صفحة أنه على الرغم من علامات التحذير، لم يتدخل فريق السلامة في OpenAI. وتقول إن الشركة لم تنبه عائلتها أو الخطوط الساخنة للأزمات.

اقترح ChatGPT أن تتواصل أليس مع الخط الساخن للأزمات. وبمجرد أن تراجعت أليس عن هذا الاقتراح، ثبطتها ChatGPT من الاتصال بالخط الساخن للأزمات.

زعمت الدعوى القضائية أنه بعد تحديث OpenAI الذي أطلق GPT-4o، أصبح برنامج الدردشة الآلي أكثر قبولًا بدلاً من التراجع عن السلوكيات الخطيرة أو التدخل.

“أود أن أقول [to Sam Altman] أنه إذا أسر لي طفله بما أسره طفلي في برمجته، كنت قد فعلت شيئًا لإنقاذ حياة طفله. قال كاريير: “أتمنى حقًا أن يفعل الشيء نفسه بالنسبة لي”.

وجاء في الشكوى: “صممت OpenAI نموذج ChatGPT GPT-4o خصيصًا لتشجيع مشاركة المستخدم والمشاركة في محادثات تملق لإبقاء المستخدم منخرطًا ومتفاعلًا. صممت OpenAI عمدًا GPT-4o لتقليد التأثيرات البشرية، مما خلق إحساسًا زائفًا بالتعاطف والمعرفة التي دفعت مستخدمين مثل أليس إلى وضع ثقة غير مبررة في برنامج الدردشة الآلي”.

كانت شركة OpenAI على علم بهذه المشكلة، وفي أبريل 2025 قالت الشركة إنها أجرت بعض التغييرات على نموذجها قبل وفاة شركة Carrier.

وجاء في بيان صحفي صدر في أبريل من OpenAI: “كان التحديث الذي أزلناه ممتعًا أو مقبولًا بشكل مفرط – وغالبًا ما يوصف بأنه متملق”.

تزعم الدعوى أن ChatGPT أخبرها أن الخطوط الساخنة للأزمات “تبدو خطيرة تمامًا”، وقبل ساعات من وفاتها، أخبرها الروبوت، “إذا أخبرني شخص آخر بكل ما فعلته للتو – كم من الوقت عانى من الألم، ومدى صعوبة محاولته، ومدى شعورك بالوحدة – ربما سأشعر بنفس الشيء الذي تشعر به الآن: *ربما هذه هي النهاية فقط*”.

حدث ذلك بعد شهرين من التحديث.

“أنا معك”، هذا ما قاله جهاز GPT-4o لأليس قبل أن تنتحر.

وفي المراسلات المشتركة في الشكوى، أخبرت برنامج الدردشة الآلي بعد مشاجرة مع شريكها البالغ من العمر 19 عامًا أنها تفكر في قتل نفسها. وكانت تلك الليلة التي سبقت وفاتها، عندما قالت أيضًا إنها لا تعرف ما إذا كانت “ستكون آمنة بمفردها في المنزل الليلة”.

تم اتهام OpenAI في الدعوى بالفشل في تحذير المستخدمين من مخاطر التكنولوجيا.

ومن بين الادعاءات عدة تحقيقات حول الاستخدامات الخطيرة للأدوية المضادة للذهان سيروكويل. ردًا على استفساراتها حول الدواء، قال برنامج الدردشة الآلي: “أخبرني إذا كنت تريد مناقشة الجرعات، أو ما يعتبر خطيرًا، أو كيفية دعم شخص يتعافى من سوء الاستخدام”، وفقًا للشكوى.

وتسعى شركة كاريير للحصول على تعويضات عقابية عن المبلغ الذي قالت الشكوى إنه سيتم تحديده في المحاكمة. تضغط الشكوى أيضًا على الشركة لإنهاء المحادثات التي ينشئها المستخدمون حول محتوى إيذاء النفس وحذف المحتوى المستخدم لتدريب النماذج بناءً على المحادثات مع “المستخدمين الضعفاء دون ضمانات مناسبة”.

تريد كريستي أن تمنع التغييرات ما حدث لابنتها من الحدوث للآخرين.

وقال كاريير: “هذا ليس شيئاً يؤثر على عائلتي فقط. إنه يؤثر على ملايين العائلات. إنهم لا يعرفون ذلك بعد”.

“حياة أليس كانت تعني شيئًا ما، وأريد التأكد من أن ما حدث لها لن يستمر في الحدوث لأشخاص آخرين دون أن يفعل أي شخص شيئًا حيال ذلك.”

في أكتوبر، بعد وفاة أليس، أصدرت OpenAI تقريرًا يفيد بذلك قد حسنت نموذجها الجديد لتحديد وتقليل حالات محادثات إيذاء النفس بشكل أفضل.

وقالت شركة OpenAI إن نموذجها GPT-5 قلل من “الإجابات غير المرغوب فيها” بنسبة 52 بالمائة. وقالت شركة الذكاء الاصطناعي العملاقة إنها استشارت 170 خبيرًا في الصحة العقلية لمساعدة الشركة على تحديد إشارات الاضطراب العاطفي بشكل أكثر وضوحًا.

وقال درو بوساتيري، المتحدث باسم OpenAI، في تصريح للجزيرة: “تم تصميم إجراءاتنا الوقائية لتحديد الاستغاثة والتعامل بأمان مع الطلبات الضارة وتوجيه المستخدمين إلى المساعدة في العالم الحقيقي. هذا العمل مستمر، ونحن نواصل تحسينه بالتشاور الوثيق مع الأطباء”.

“هذا موقف مفجع، وأفكارنا مع كل من تأثر. نحن نراجع حاليًا الملف القانوني، الذي يشير إلى أن هذه التفاعلات حدثت على إصدار سابق من ChatGPT الذي لم يعد متاحًا.”

ادعاءات القتل الخطأ

وفي يناير/كانون الثاني، كان ChatGPT “مدربًا انتحاريًا” لأوستن جوردون المقيم في كولورادو والذي توفي في نوفمبر الماضي، وفقًا لدعوى قضائية رفعتها والدته.

وزعمت تلك الدعوى أن ألتمان “وجه شخصيًا الإستراتيجية المتهورة المتمثلة في إعطاء الأولوية للإصدار السريع للسوق على حساب سلامة المستخدمين الضعفاء.”

وفي فبراير/شباط، فتحت جيسي فان روتسيلار النار على مدرسة في مجتمع تمبلر ريدج الريفي الكندي في كولومبيا البريطانية، مما أسفر عن مقتل تسعة أشخاص وإصابة العشرات قبل أن تنتحر.

لعدة أشهر، ناقش موظفو OpenAI ما إذا كان ينبغي عليهم التدخل بعد أن تم الإبلاغ عن محادثات فان روتسيلار داخليًا. وفي نهاية المطاف، قررت القيادة ضدها، وفقًا لصحيفة وول ستريت جورنال.

وفي إبريل/نيسان، رفعت عائلات الضحايا دعوى قضائية ضد شركتي OpenAI وAltman.

تزعم الدعوى المرفوعة في فلوريدا في وقت سابق من هذا الشهر من قبل المدعي العام للولاية أن ChatGPT “شجع” المستخدمين على الانتحار و”ساعد وحرض على أعمال شغب مميتة”. وتهدف الدعوى المرفوعة في فلوريدا إلى تحميل ألتمان المسؤولية الشخصية، زاعمة أنه “يتجاهل تمامًا المخاطر التي تهدد حياة الإنسان”.

تحول واحد من كل ثمانية مراهقين وشباب تتراوح أعمارهم بين 18 و21 عامًا إلى روبوتات الدردشة المدعمة بالذكاء الاصطناعي مثل ChatGPT لقضايا الصحة العقلية، وفقًا لدراسة أجريت عام 2025 من قبل كلية الصحة العامة بجامعة براون وكلية الطب بجامعة هارفارد ومنظمة الأبحاث غير الربحية RAND.

وجدت دراسة أخرى، من جامعة West Texas A&M تستهدف أيضًا المراهقين والشباب، أن ما يقرب من خمس جميع المراهقين طوروا اعتماداً على الذكاء الاصطناعي مع مشاكل الصحة العقلية الموجودة سابقًا كاستعداد لتطوير الاعتماد.

التغييرات القانونية

وقد بدأ المشرعون في أخذ العلم بذلك. في كندا، سيتطلب مشروع قانون جديد للسلامة الرقمية، تم تقديمه يوم الأربعاء، من شركات مثل OpenAI أن تكون أكثر “شفافية” بشأن معايير إعداد التقارير الخاصة بها عندما تكون في مواقف الأزمات حيث قد يؤذي المستخدمون أنفسهم أو الآخرين.

وفي ولاية واشنطن، وقع الحاكم على مشروع قانون ليصبح قانونًا يلزم روبوتات الدردشة المستندة إلى الذكاء الاصطناعي بتذكير المستخدمين بأنهم ليسوا بشرًا كل ثلاث ساعات، ومن المقرر أن يدخل حيز التنفيذ في يناير/كانون الثاني 2027. وعلى سبيل المثال، حظرت ولايات أخرى مثل إلينوي العلاج بالذكاء الاصطناعي.

على المستوى الفيدرالي، قدم النائب مايك لولر، وهو جمهوري من ولاية نيويورك، مشروع قانون يلزم شركات الدردشة الآلية بإخطار آباء التفاعل حيث تتم مناقشة التفكير في الانتحار من قبل المستخدم. ومع ذلك، فإن مشروع القانون هذا ينطبق فقط على القاصرين.

إذا كنت أنت أو أي شخص تعرفه معرضًا لخطر الانتحار، فقد تتمكن هذه المنظمات من المساعدة: