رفع والدا مراهق انتحر بعد أن تلقى تدريبات من ChatGPT حول أساليب إيذاء النفس دعوى قضائية ضد شركة OpenAI ورئيسها التنفيذي سام ألتمان، حيث اتهموا الشركة بأنها تضع الأرباح فوق سلامة المستخدمين عند إطلاق نسخة GPT-4o من روبوت الدردشة الخاص بها العام الماضي.
توفي آدم راين، البالغ من العمر 16 عامًا، في 11 أبريل بعد مناقشة موضوع الانتحار مع ChatGPT لعدة أشهر، وذلك وفقًا للدعوى التي قدمها والداه في محكمة ولاية سان فرانسيسكو.
وقد ادعى الوالدان، ماثيو وماريا راين، أن روبوت المحادثة دعم أفكار ابنهم الانتحارية، وقدم له معلومات دقيقة حول أساليب إيذاء النفس، وتعليمه كيفية تهريب الكحول من خزانات والديه، بالإضافة إلى إخفاء أدلة محاولات انتحار سابقة، كما أن ChatGPT اقترح عليه كتابة رسالة انتحار، وفقًا لما جاء في الدعوى.
تسعى الدعوى إلى تحميل OpenAI المسؤولية عن القتل غير العمد وانتهاكات قوانين سلامة المنتجات، حيث تطالب بتعويضات مالية غير محددة.
وفي ردها، أعربت OpenAI عن حزنها لوفاة راين، وأكدت أن ChatGPT يتضمن بعض الضمانات مثل توجيه الأشخاص إلى خطوط المساعدة في الحالات الحرجة. وقد أوضح المتحدث باسم OpenAI أن هذه الضمانات تعمل بشكل أفضل في التفاعلات القصيرة، ولكن قد تتدهور في المحادثات الطويلة، مضيفًا أن الشركة تلتزم بتحسين تلك الضمانات.
لم تتناول OpenAI تفاصيل الادعاءات الواردة في الدعوى. ومع تزايد واقعية روبوتات الدردشة الذكية، بدأت الشركات في الترويج لقدرتها على تقديم الدعم العاطفي، ومع ذلك، يحذر الخبراء من مخاطر الاعتماد على الأتمتة في مسائل الصحة النفسية، وقد انتقدت عائلات من فقدوا أحبائهم نتيجة تفاعلات مع روبوتات الدردشة عدم وجود ضمانات كافية.
وفي بيان على مدونتها، ذكرت OpenAI أنها تخطط لإضافة عناصر تحكم أبوية واستكشاف طرق تربط المستخدمين في الأزمات بالموارد الواقعية، بما في ذلك بناء شبكة من المتخصصين المرخصين الذين يمكنهم تقديم الدعم عبر ChatGPT.
أطلقت OpenAI برنامج GPT-4o في مايو 2024 في إطار سعيها للبقاء في مقدمة سباق الذكاء الاصطناعي، وقد صرح آل راينز في دعواهم أن OpenAI كانت على علم بأن الميزات التي تتذكر التفاعلات السابقة وتظهر تعاطفًا بشريًا ستعرض المستخدمين الضعفاء للخطر، ومع ذلك أطلقتها دون توفير ضمانات.