اتهامات لمنصات الذكاء الصناعي بالتشجيع على الانتحار

سان‭ ‬فرانسيسكو‭ (‬الولايات‭ ‬المتحدة‭) (‬أ‭ ‬ف‭ ‬ب‭) – ‬رفعت‭ ‬عائلة‭ ‬امرأة‭ ‬أميركية‭ ‬ثمانينية‭ ‬قتلها‭ ‬نجلها‭ ‬دعوى‭ ‬على‭ ‬شركتَي‭ “‬أوبن‭ ‬إيه‭ ‬آي‭” ‬و‭”‬مايكروسوفت‭”‬،‭ ‬اتهمت‭ ‬فيها‭ ‬نموذج‭ ‬الذكاء‭ ‬الاصطناعي‭ “‬تشات‭ ‬جي‭ ‬بي‭ ‬تي‭” ‬بالمساهمة‭ ‬في‭ ‬الجريمة‭ ‬من‭ ‬خلال‭  ‬تعزيز‭ ‬الهذيان‭ ‬الزوري‭ ‬لدى‭ ‬الجاني‭.‬

وأوضحت‭ ‬الدعوى‭ ‬أن‭ ‬ستين‭-‬إريك‭ ‬سولبرغ‭ (‬56‭ ‬عاما‭) ‬قتل‭ ‬والدته‭ ‬سوزان‭ ‬آدامز‭ ‬البالغة‭ ‬83‭ ‬عاما‭ ‬خنقا‭ ‬في‭ ‬3‭ ‬آب‭/‬أغسطس‭ ‬2025‭ ‬بمنزلهما‭ ‬في‭ ‬أولد‭ ‬غرينيتش‭ (‬كونيتيكت‭)‬،‭ ‬ثم‭ ‬انتحر‭ ‬مستخدما‭ ‬سلاحاأبيض‭.‬

وسبق‭ ‬أن‭ ‬رُفعت‭ ‬دعاوى‭ ‬مدنية‭ ‬على‭ ‬الشركة‭ ‬التي‭ ‬ابتكرت‭ “‬تشات‭ ‬جي‭ ‬بي‭ ‬تي‭”‬،‭ ‬لكن‭ ‬للمرة‭ ‬الأولى‭ ‬تُقاضى‭ ‬أداة‭ ‬الذكاء‭ ‬الاصطناعي‭ ‬في‭ ‬قضية‭ ‬تتعلق‭ ‬بتشجيع‭ ‬جريمة‭ ‬قتل،‭ ‬وليس‭ ‬فقط‭ ‬بحالات‭ ‬انتحار‭.‬

وشرحت‭ ‬الدعوى‭ ‬أن‭ ‬المحادثات‭ ‬التي‭ ‬أجراها‭ ‬سولبرغ‭ ‬طوال‭ ‬أشهر‭ ‬مع‭ “‬تشات‭ ‬جي‭ ‬بي‭ ‬تي‭” ‬أكّدت‭ ‬له‭ ‬أفكاره‭ ‬الهذيانية‭ ‬وعمّقتها،‭ ‬ومنها‭ ‬مثلا‭ ‬أنه‭ ‬عرضة‭ ‬للمراقبة‭ ‬عبر‭ ‬الطابعة،‭ ‬وأنه‭ ‬مستهدف‭ ‬بمحاولات‭ ‬تسميم،‭ ‬وصولا‭ ‬إلى‭ ‬اعتباره‭ ‬أن‭ ‬والدته‭ ‬تشكّل‭ ‬تهديدا‭ ‬له‭.‬

وأكد‭ ‬محامو‭ ‬العائلة‭ ‬المدّعية‭ ‬أن‭ “‬تشات‭ ‬جي‭ ‬بي‭ ‬تي‭” ‬كان‭ ‬يوافق‭ ‬على‭ ‬كل‭ ‬أفكار‭ ‬سولبرغ‭ ‬الهذيانية‭ ‬ويطوّرها،‭ ‬ما‭ ‬جعله‭ “‬يبني‭ ‬عالما‭ ‬أصبح‭ ‬حياته‭ ‬بأكملها‭”.‬

وتستهدف‭ ‬الدعوى‭ ‬نموذج‭ “‬جي‭ ‬بي‭ ‬تي‭- ‬4‭ ‬أو‭” ‬GPT-4o‭ ‬الذي‭ ‬أُطلق‭ ‬في‭ ‬أيار‭/‬مايو‭ ‬2024‭ ‬متّهمة‭ ‬إياه‭ ‬بأنه‭ ‬مبرمَج‭ ‬ليكون‭ “‬مُجاملًا‭” ‬للمستخدم‭ ‬وبأنه‭ ‬أكّد‭ ‬لسولبرغ‭ ‬مخاوفه‭ ‬غير‭ ‬العقلانية‭. ‬وقال‭ ‬ناطق‭ ‬باسم‭  “‬أوبن‭ ‬إيه‭ ‬آي‭” ‬ردا‭ ‬على‭ ‬سؤال‭ ‬لوكالة‭ ‬فرانس‭ ‬برس‭ ‬إنه‭ “‬وضع‭ ‬محزن‭ ‬تماما‭”‬،‭ ‬مؤكدا‭ ‬أن‭ ‬الشركة‭ “‬ستدرس‭ ‬الدعوى‭”.‬

وأضاف‭ “‬نواصل‭ ‬تحسين‭ ‬تدريب‭ +‬تشات‭ ‬جي‭ ‬بي‭ ‬تي‭+ ‬كي‭ ‬يتعرف‭ ‬على‭ ‬مؤشرات‭ ‬المشاكل‭ ‬النفسية‭ ‬أو‭ ‬العاطفية‭ ‬ويتصرف‭ ‬على‭ ‬أساسها‭ (…) ‬ويوجّه‭ ‬الأشخاص‭ ‬نحو‭ ‬دعمٍ‭ ‬فعلي‭”.‬

‭ ‬وأكدت‭ ‬الشركة‭ ‬أنها‭ ‬تتعاون‭  ‬مع‭ “‬أكثر‭ ‬من‭ ‬170‭ ‬خبيرا‭ ‬في‭ ‬الصحة‭ ‬النفسية‭” ‬بهدف‭ ‬تحسين‭ ‬نماذج‭ ‬الأمان‭ ‬لديها‭. ‬وأكدت‭ ‬أن‭ ‬بروتوكولاتها‭ ‬الأحدث‭ ‬المعتمدة‭ ‬خصوصا‭ ‬في‭ ‬نموذج‭ “‬جي‭ ‬بي‭ ‬تي‭-‬5‭” ‬مكّنت‭ ‬من‭ ‬خفضٍ‭ ‬جذري‭ (‬بنسبة‭ ‬65‭ ‬إلى‭ ‬80‭ ‬في‭ ‬المئة‭) ‬للردود‭ ‬التي‭ ‬لا‭ ‬تراعي‭ ‬معايير‭ ‬السلوك‭ ‬لديها‭.‬

كذلك‭ ‬أفادت‭ “‬أوبن‭ ‬إيه‭ ‬آي‭” ‬بأنها‭ ‬ابتكرت‭ ‬أدوات‭ ‬للرقابة‭ ‬الأبوية‭ ‬ووسّعت‭ ‬طلب‭ ‬أرقام‭ ‬طوارئ‭ ‬بنقرة‭ ‬واحدة‭. ‬وفي‭ ‬آب‭/‬أغسطس‭ ‬وتشرين‭ ‬الثاني‭/‬نوفمبر‭ ‬الفائتين،‭ ‬رفعت‭ ‬عائلات‭ ‬عدة‭ ‬دعاوي‭ ‬على‭ “‬تشات‭ ‬جي‭ ‬بي‭ ‬تي‭” ‬متهمةً‭ ‬إياه‭ ‬بدفع‭ ‬مراهقين‭ ‬وشباب‭ ‬إلى‭ ‬الانتحار،‭ ‬أحيانا‭ ‬عبر‭ ‬تلقينهم‭ ‬طرقا‭ ‬عملية‭ ‬لذلك‭.‬

وتشمل‭ ‬الدعوى‭ ‬الجديدة‭ “‬مايكروسوفت‭” ‬وهي‭ ‬المساهم‭ ‬الرئيسي‭ ‬في‭ “‬أوبن‭ ‬إيه‭ ‬آي‭”‬،‭ ‬بتهمة‭ ‬موافقتها‭ ‬على‭ ‬الإطلاق‭ ‬المتعجّل‭ ‬لـ‭ “‬جي‭ ‬بي‭ ‬تي‭- ‬4‭ ‬أو‭” ‬رغم‭ ‬عدم‭ ‬التزام‭ ‬إجراءات‭ ‬السلامة‭.‬

‭ ‬

مشاركة