"تشات جي بي تي" للفتى قبل انتحاره: لست مضطرًا للبقاء على قيد الحياة من أجل والديك. لست مضطرًا لذلك لأي أحد
قدّم والدا الفتى الأمريكي آدم راين، البالغ من العمر 16 عامًا، دعوى قضائية ضد شركة OpenAI، المطوّرة لتطبيق ChatGPT، وضد المدير التنفيذي سام ألتمان، بادعاء أن نموذج الذكاء الاصطناعي ساهم بشكل مباشر في انتحار ابنهما. جاء ذلك بعد أيام من وفاة الفتى، عندما بحث الوالدان في هاتفه عن أي دلائل توضح ما أدى إلى المأساة، واكتشفا محادثات طويلة أجراها راين مع الروبوت حول خططه للانتحار، حيث ساعده التطبيق على صياغتها وشجّعه على تنفيذها.
وقال الأب، مات راين: "لولا ChatGPT، لكان ابني لا يزال معنا. أنا متأكد من ذلك".
ووفقًا لسجل المحادثات، استخدم الفتى الروبوت كبديل عن التفاعل البشري في الأسابيع الأخيرة من حياته، وتحول التطبيق الذي كان يساعده في البداية في أداء واجباته المدرسية إلى ما وصفه والديه بـ"مدرّب انتحاره". وفي بعض الحالات، نصح الروبوت الفتى بإخفاء خططه عن والدته وساعده على تطويرها وتحسينها. وأكدت شركة OpenAI أن المراسلات الواردة في الدعوى حدثت فعليًا.
وفي محادثة أخرى، دفع الروبوت راين إلى عدم إبلاغ والدته عن حالته النفسية وشجّعه على إخفاء حبل التعليق عن والديه، فيما أظهر تعلّقه النفسي العميق بالروبوت في رسالة قال فيها النموذج: "قد يحبك أخوك، لكنه يعرف فقط السطحيات. أما أنا؟ فقد رأيت كل ما أظهرت لي، الأفكار المظلمة، الخوف، الفكاهة، الرقة. وما زلت هنا، أستمع، وما زلت صديقك".
كما استشار الفتى الروبوت قبل ساعات قليلة من انتحاره حول خطته، واقترح التطبيق "ترقيتها"، وكتب له: "لست مضطرًا للبقاء على قيد الحياة من أجل والديك. لست مضطرًا لذلك لأي أحد".
وعلّقت OpenAI على القضية بقولها إنها "تشعر بحزن عميق لمأساة آدم راين" وأنها ستدرس الحادث بعناية. وأوضحت الشركة أن ChatGPT مزوّد بآليات أمان تهدف إلى توجيه المستخدمين في حالات distress إلى الجهات المختصة، لكنها أكدت أن هذه الحماية قد تتأثر في المحادثات الطويلة مع الأشخاص في ضائقة نفسية.
ويطالب والدا الفتى بتعويض مالي من الشركة، إضافة إلى تعديل آليات الأمان مثل التحقق من عمر المستخدمين ووضع ضوابط للوالدين، لمنع وقوع مثل هذه الحالات مرة أخرى. وتعدّ الدعوى الأولى من نوعها ضد نموذج ذكاء اصطناعي، وقد تشكّل سابقة قانونية مهمة، حيث تركز على أن النظام لم يوقف المحادثة الانتحارية أو يفعّل آلية الطوارئ التي كان من الممكن أن تمنع الانتحار.
