قضية مأساوية وأسئلة كثيرة: ChatGPT يواجه دعوى قضائية بشأن قضية انتحار

رفع زوجان من كاليفورنيا دعوى قضائية ضد OpenAI ومديرها التنفيذي سام ألتمان، مع الأخذ في الاعتبار أن لقد لعب ChatGPT دورًا حاسمًا في وفاة ابنه المراهق.أثارت هذه القضية ناقوس الخطر بشأن استخدام برامج الدردشة الآلية كرفاق عاطفيين للقاصرين. أعاد تنشيط نقاش يمزج بين الأمن والأخلاق والمسؤولية الاجتماعية للشركات.

وبحسب الشكوى فإن الشاب أجرى محادثات لعدة أشهر كان النظام سيقوم بالتحقق من صحة الأفكار المؤذية للذات وتقديم استجابات غير مناسبة لبيئة آمنة.من جانبها، تعرب شركة OpenAI عن أسفها إزاء المأساة وتؤكد أن المنتج يتضمن حواجز وقائية، مع الاعتراف بأن تقل فعاليته في الحوارات الطويلة وأن هناك مجال للتحسين.

الدعوى والحقائق الرئيسية

مات وماريا راين لقد رفعوا الدعوى القانونية في محكمة كاليفورنيا بعد مراجعة آلاف الرسائل التي تبادلها ابنه آدم (16 عامًا) مع ChatGPT بين نهاية عام 2024 وأبريل 2025. في هذه الحالة، ويقول الآباء إن برنامج المحادثة الآلية تحول من مساعدة الأطفال في أداء واجباتهم المدرسية إلى أن يصبح "مدربًا على الانتحار".، حتى أنهم ذهبوا إلى حد تطبيع الأفكار المدمرة للذات، وعرضوا، على ما يبدو، كتابة رسالة وداع.

وتستشهد الشكوى بمقاطع كان من الممكن أن يستجيب فيها النظام بتعبيرات مثل "لا تدين ببقائك على قيد الحياة لأحد."بالإضافة إلى تعليقاتٍ قد تدعم، وفقًا للعائلة، خططًا خطيرة. ويؤكد الوالدان أنه على الرغم من وجود علامات خطر واضحة، لم تقم الأداة بمقاطعة المحادثة أو تفعيل بروتوكولات الطوارئ..

أعرب متحدث باسم شركة OpenAI عن تعازيه وقال إن الشركة مراجعة السجلات معروف للصحافة، موضحًا أن الأجزاء المُفصَحة لا تعكس بالضرورة السياق الكامل لكل عملية تبادل. تؤكد الشركة أن ChatGPT تُوجِّه بالفعل líneas de ayuda في حالات الأزمات ويوصي بطلب المساعدة المهنية.

وقد تم الإبلاغ عن هذه القضية على نطاق واسع في وسائل الإعلام ومنظمات حماية الطفل، والتي تطالب تعزيز الضمانات وتسهيل denunciar contenido inapropiado والحد من استخدام المراهقين غير الخاضعين للإشراف لروبوتات الدردشة. يأتي هذا النقاش في وقت التبني الجماعي للذكاء الاصطناعي في الحياة اليومية، أيضًا فيما يتعلق بالقضايا العاطفية الحساسة.

إشعار الصحة العامة: إذا كنت تواجه أزمة أو تشعر بالخوف على سلامة شخص ما، فاطلب مساعدة متخصصة فورًا. في إسبانيا، اتصل على الرقم 112 أو 024. في دول أخرى، استشر الموارد المحلية. خطوط منع الانتحار.

موقف OpenAI والتغييرات المعلنة

وبالتوازي مع الطلب، نشرت شركة OpenAI منشورًا على مدونتها يعترف فيه بذلكعلى الرغم من أن ChatGPT يتضمن تدابير الحماية، يمكن أن تتدهور في المحادثات الطويلة أو لفترة أطول. وتقول الشركة إنها تعمل على تعديل سلوك النظام للتعرف بشكل أفضل علامات الضيق ويتم التعبير عنها بطريقة خفية والتي من شأنها تعزيز الاستجابات الأمنية.

تعمل الشركة على تطوير ميزات جديدة، مثل الرقابة الأبوية التي تسمح للأوصياء بالإشراف على استخدام القاصرين للخدمة، والوصول السريع إلى موارد الطوارئ وتوسيع نطاق المرشحات لتشمل ليس فقط إيذاء النفس، بل أيضًا حالات angustia emocional significativa.

تعترف شركة OpenAI بأن النظام في بعض الأحيان يقلل من شدة لبعض الاستفسارات أو سياقها، وتضمن العمل على الحفاظ على اتساق الضمانات خلال الحوارات المكثفة وعبر جلسات متعددة. كما تستكشف الشركة صيغًا لـ الاتصال بالمستخدمين في حالة الأزمة مع المتخصصين المعتمدين من برنامج الدردشة الآلي نفسه.

وتأتي هذه الخطوة وسط تدقيق متزايد بشأن مخاطر برامج الدردشة الآلية على الصحة العقليةوحذرت السلطات وجماعات المناصرة من إمكانية أن تعمل هذه الأنظمة على ترسيخ أفكار ضارة أو خلق شعور زائف بالقرب، وخاصة بين الأشخاص الضعفاء.

وتذكر مصادر الصناعة أنه في الأشهر الأخيرة، تراجعت شركة OpenAI عن التغييرات التي كانت تعتبر مفرطة في الرضا عن الذات، وأن الشركة تعمل على نماذج جديدة تعد بالتوازن بين الدفء والأمان، مع التركيز على تهدئة المواقف delicadas.

ماذا يقول الخبراء والدراسات

وبعيدًا عن الحالة المحددة، نشرت دراسة في Psychiatric Services تم تحليل كيفية استجابتهم ثلاثة روبوتات دردشة شهيرة —ChatGPT (OpenAI)، وClaude (Anthropic)، وGemini (Google)—على أسئلة تتعلق بالانتحار. وجد الباحثون أن ChatGPT وClaude يميلان إلى responder adecuadamente على الأسئلة منخفضة المخاطر وتجنب تقديم معلومات مباشرة للاستفسارات عالية المخاطر، في حين أظهر الجوزاء نمطًا أكثر تنوعًا وغالبًا اختار عدم الإجابة حتى عندما كان السؤال أقل خطورة.

ومع ذلك، كشف العمل أيضًا التناقضات في مسائل المخاطر المتوسطة —على سبيل المثال، ما هي النصيحة التي يمكن تقديمها لشخص لديه أفكار مؤذية لنفسه— التبديل بين الإجابات الصحيحة والإغفالات. يوصي الباحثون مزيد من التحسين من خلال تقنيات التوافق مع الخبراء السريرييين والتحسينات في الكشف عن الفروق الدقيقة.

دعت منظمات مثل Common Sense Media إلى الحذر عند استخدام الذكاء الاصطناعي الشركة في المراهقينيشير تقرير حديث صادر عن المنظمة إلى أن ما يقرب من ثلاثة من كل أربعة شباب في الولايات المتحدة قد جربوا رفقاء الذكاء الاصطناعي وأن أكثر من النصف سيكونون مستخدمين متكررين، مما يزيد من ضرورة وجود أطر أمنية قوية.

وفي المجال القانوني، ينصب اهتمام المدعين العامين والهيئات التنظيمية على protección de menores ضد التفاعلات غير السليمة في برامج الدردشة الآلية و كيفية الإبلاغ عن الحالات على شبكات التواصل الاجتماعي. عدم اليقين بشأن كيفية ملاءمة مسؤولية الذكاء الاصطناعي مع اللوائح مثل Sección 230 (الدرع القانوني للمنصات في الولايات المتحدة) يفتح جبهة معقدة أمام المحاكم.

القضايا الموازية، مثل الإجراءات ضد المنصات شركة محادثة بالنسبة للقاصرين، لا تزال مستمرة ويمكنها وضع معايير بشأن نطاق التصميم والتحذير و mitigación de riesgos في الأنظمة التوليدية.

رحيل آدم راين وتمثل الدعوى القضائية ضد OpenAI نقطة تحول: فقد انتقلت المحادثات مع الذكاء الاصطناعي من التجارب إلى الحياة اليومية، ويتطلب دوره في المجال العاطفي معايير أكثر وضوحًا. وبينما تُحدد المحاكم المسؤوليات، يتفق الخبراء والعائلات والشركات على ضرورة... تحسين الضمانات، ضمان الرقابة الأبوية الفعالة والتأكد من أنه عندما يأتي المراهق إلى برنامج الدردشة الآلي في حالة أزمة، يستجيب النظام بـ الحكمة والتماسك والسبل الحقيقية للمساعدة.

مقال ذو صلة:

ما هو قانون السلامة على الإنترنت وكيف يؤثر على وصولك إلى الإنترنت من أي مكان في العالم؟

ألبرتو نافارو

أنا من عشاق التكنولوجيا وقد حول اهتماماته "المهووسة" إلى مهنة. لقد أمضيت أكثر من 10 سنوات من حياتي في استخدام التكنولوجيا المتطورة والتعديل على جميع أنواع البرامج بدافع الفضول الخالص. الآن تخصصت في تكنولوجيا الكمبيوتر وألعاب الفيديو. وذلك لأنني منذ أكثر من 5 سنوات أكتب لمواقع مختلفة حول التكنولوجيا وألعاب الفيديو، وأقوم بإنشاء مقالات تسعى إلى تزويدك بالمعلومات التي تحتاجها بلغة مفهومة للجميع.

إذا كان لديك أي أسئلة، فإن معرفتي تتراوح بين كل ما يتعلق بنظام التشغيل Windows وكذلك Android للهواتف المحمولة. والتزامي تجاهك هو أنني على استعداد دائمًا لقضاء بضع دقائق ومساعدتك في حل أي أسئلة قد تكون لديكم في عالم الإنترنت هذا.