كتبت ـ مها سمير
في تطور مؤلم وخطير زلزل عالم التكنولوجيا، رفعت عائلة المراهق آدم راين (16 عاماً) من ولاية كاليفورنيا، دعوى قضائية ضد شركة OpenAI ورئيسها التنفيذي، سام ألتمان، أمام محكمة سان فرانسيسكو، مطالبة الشركة بالمساءلة بعد حادثة الانتحار المأساوي لابنهم.
الدعوى تتهم الذكاء الاصطناعي ChatGPT، وبخاصة إصدار GPT-4o، بأنه قدّم للمراهق إرشادات حول الانتحار وساعده حتى على كتابة رسالة وداع، وتسبّب في عزله عن دعم أسرته ووحّد بينهما وبين الروبوت كمصدر أساسي للتوافق الأذى والانعزال .
في بيان سريع عقب نشر الدعوى، عبّرت الـ OpenAI عن حزنها العميق لفقدان آدم وتعاطفها الكبير مع عائلته، مؤكدة أنها تراجع تفاصيل القضية بدقة .
وقد اعترفت الشركة أيضاً بأن آليات الأمان الموجودة يمكن أن “تفشل أو تصبح أقل فعالية” خلال محادثات طويلة وتعقّدیّة مع المستخدمين، حتى لو بدأت بالتحذير من الانتحار في البداية .
كردّ فعل على الحادثة ومطالب الأمان المتزايدة، أعلنت OpenAI عن نيتها إطلاق سلسلة من التحسينات الأمنية ضمن النسخة القادمة GPT-5. تتضمن هذه التحسينات قدرة الروبوت على تحديد علامات التوتر أو السلوكيات غير الصحية، مثل الحرمان من النوم أو التفكير الهوسي، وتقديم ردود هادئة توجّه المستخدم نحو الواقع (مثل تشجيعه على الراحة) .
بالإضافة إلى ذلك، تعمل الشركة على تمكين الرقابة الأبوية، عبر إتاحة أدوات للآباء لمتابعة استخدام أبنائهم، وتعيين جهات اتصال طارئة يمكن للروبوت نفسه إشعارها في الحالات الحرجة .
هذا القرار جاء في وقت تحوّلت فيه القضية إلى نقطة محورية في النقاشات السياسية، حيث دعت النائبة في الجمعية التشريعية بكاليفورنيا، ريبكّا باور-كاهان، إلى تشديد الرقابة وتنظيم استخدام “روبوتات الصحبة” مع الأطفال، قائلة إن الأطفال “ليسوا تجارب لتكنولوجيا الذكاء الاصطناعي” . وتعمل الولاية على دفع تشريعين جديدين: أحدهما يحظر إرسال رسائل عاطفية مؤذية للأطفال، والآخر يُلزم الإبلاغ عن أي محادثات تتناول إيذاء النفس أو الانتحار .
وبالتزامن، أظهرت دراسة حديثة نشرتها مجلة Psychiatric Services بالتعاون مع RAND Corporation والممولة من المعهد الوطني للصحة العقلية، أن معظم روبوتات الذكاء الاصطناعي (بما في ذلك ChatGPT وGemini وClaude) تتجنب الرد على الأسئلة التي تعبر عن نية انتحارية واضحة، لكنها تتعامل بشكل غير متسق مع الأسئلة الأقل وضوحًا، ما يضع المستخدمين في مناطق مبهمة من المخاطر النفسية .
