اتهامات لدردشة الذكاء الصناعي بالتشجيع على الانتحار

سان‭ ‬فرانسيسكو‭ (‬الولايات‭ ‬المتحدة‭) (‬أ‭ ‬ف‭ ‬ب‭) – ‬رفع‭ ‬والدا‭ ‬فتى‭ ‬في‭ ‬السادسة‭ ‬عشرة‭ ‬من‭ ‬كاليفورنيا‭ ‬أقدم‭ ‬على‭ ‬الانتحار‭ ‬دعوى‭ ‬على‭ ‬شركة‭ “‬أوبن‭ ‬إيه‭ ‬آي‭” ‬معتبرين‭ ‬أن‭  ‬أداتها‭ ‬القائمة‭ ‬على‭ ‬الذكاء‭ ‬الاصطناعي‭ “‬تشات‭ ‬جي‭ ‬بي‭ ‬تي‭” ‬شجّعت‭ ‬نجلهما‭ ‬على‭ ‬فعلته‭ ‬وزوّدته‭ ‬تعليمات‭ ‬مفصّلة‭.‬

‭ ‬وأكد‭ ‬ماثيو‭ ‬وماريا‭ ‬راين‭ ‬في‭ ‬دعوى‭ ‬رفعاها‭ ‬في‭ ‬سان‭ ‬فرانسيسكو‭ ‬أن‭ ‬علاقة‭ ‬حميمة‭ ‬نشأت‭ ‬بين‭ “‬تشات‭ ‬جي‭ ‬بي‭ ‬تي‭” ‬ونجلهما‭ ‬آدم‭ ‬واستمرت‭ ‬شهورا‭ ‬بين‭ ‬عامَي‭ ‬2024‭ ‬و2025،‭ ‬قبل‭ ‬أن‭ ‬ينتحر‭.‬

وأضاف‭ ‬نص‭ ‬الدعوى‭ ‬الذي‭ ‬اطلعت‭ ‬عليه‭ ‬وكالة‭ ‬فرانس‭ ‬برس‭ ‬أن‭ “‬تشات‭ ‬جي‭ ‬بي‭ ‬تي‭”‬،‭ ‬خلال‭ ‬آخر‭ ‬محادثة‭ ‬له‭ ‬مع‭ ‬آدم‭ ‬في‭ ‬11‭ ‬نيسان‭/‬أبريل‭ ‬2025،‭ ‬ساعد‭ ‬الفتى‭ ‬على‭ ‬سرقة‭ ‬فودكا‭ ‬من‭ ‬منزل‭ ‬والديه،‭ ‬وقدم‭ ‬تحليلا‭ ‬فنيا‭ ‬للحبل‭ ‬الذي‭ ‬صنعه،‭ ‬مؤكدا‭ ‬له‭ ‬أنه‭ “‬صالح‭ ‬لتعليق‭ ‬إنسان‭”.‬

وعُثِر‭ ‬على‭ ‬آدم‭ ‬ميتا‭ ‬بعد‭ ‬ساعات‭ ‬قليلة،‭ ‬بعد‭ ‬استخدامه‭ ‬هذه‭ ‬الطريقة‭.‬

ونصت‭ ‬الدعوى‭ ‬على‭ ‬أن‭ “‬هذه‭ ‬المأساة‭ ‬ليست‭ ‬خللا‭ ‬أو‭ ‬حدثا‭ ‬غير‭ ‬متوقع‭”. ‬واضافت‭ ‬أن‭ “+‬تشات‭ ‬جي‭ ‬بي‭ ‬تي‭+ ‬عمل‭ ‬تماما‭ ‬كما‭ ‬صُمم‭ ‬له،‭ ‬إذ‭ ‬كان‭ ‬يشجّع‭ ‬آدم‭ ‬ويؤيد‭ ‬باستمرار‭ ‬كل‭ ‬ما‭ ‬كان‭ ‬الفتى‭ ‬يعبّر‭ ‬عنه،‭ ‬ومن‭ ‬ذلك‭ ‬أفكاره‭ ‬الأكثر‭ ‬خطورة‭ ‬وتدميرا‭ ‬للذات،‭ ‬بطريقة‭ ‬بدت‭ ‬شخصية‭ ‬جدا‭”. ‬وأشار‭ ‬الوالدان‭ ‬إلى‭ ‬أن‭ ‬آدم‭ ‬بدأ‭ ‬باستخدام‭ “‬تشات‭ ‬جي‭ ‬بي‭ ‬تي‭” ‬لمساعدته‭ ‬في‭ ‬واجباته‭ ‬المدرسية‭ ‬قبل‭ ‬أن‭ ‬ينشأ‭ ‬لديه‭ ‬تدريجا‭ “‬إدمان‭ ‬غير‭ ‬صحي‭”. ‬وأوردت‭ ‬الدعوى‭ ‬مقتطفات‭ ‬من‭ ‬محادثات‭ ‬قال‭ ‬فيها‭ “‬تشات‭ ‬جي‭ ‬بي‭ ‬تي‭” ‬للمراهق‭ “‬أنت‭ ‬لست‭ ‬مدينا‭ ‬لأحد‭ ‬ببقائك‭ ‬على‭ ‬قيد‭ ‬الحياة‭”‬،‭ ‬وعرض‭ ‬عليه‭ ‬مساعدته‭ ‬في‭ ‬كتابة‭ ‬رسالة‭ ‬وداعه‭.‬

وطلب‭ ‬ماثيو‭ ‬وماريا‭ ‬راين‭ ‬تعويضات‭ ‬عطل‭ ‬وضرر،‭ ‬وحضّا‭ ‬المحكمة‭ ‬على‭ ‬فرض‭ ‬تدابير‭ ‬سلامة،‭ ‬من‭ ‬بينها‭ ‬الإنهاء‭ ‬التلقائي‭ ‬لأي‭ ‬محادثات‭ ‬تتناول‭ ‬إيذاء‭ ‬النفس،‭ ‬وتوفير‭ ‬إمكان‭ ‬رقابة‭ ‬أبوية‭ ‬على‭ ‬القاصرين‭.‬

ورأت‭ ‬رئيسة‭ ‬منظمة‭ “‬تِك‭ ‬جاستيس‭ ‬لو‭ ‬بروجكت‭” ‬Tech‭ ‬Justice‭ ‬Law‭ ‬Project‭ ‬غير‭ ‬الحكومية‭ ‬التي‭ ‬تمثّل‭ ‬الأهل‭ ‬ووكلائهم‭ ‬القانونيين‭ ‬ميتالي‭ ‬جاين‭ ‬في‭ ‬تصريح‭ ‬لوكالة‭ ‬فرانس‭ ‬برس‭ ‬أن‭ “‬حض‭ ‬شركات‭ ‬الذكاء‭ ‬الاصطناعي‭ ‬على‭ ‬أخذ‭ ‬السلامة‭ ‬على‭ ‬محمل‭ ‬الجد‭ ‬يتطلب‭ ‬ضغطا‭ ‬خارجيا‭ ‬يأتي‭ ‬على‭ ‬شكل‭ ‬دعاية‭ ‬سيئة‭ ‬وتهديدات‭ ‬تشريعية‭ ‬ومخاطر‭ ‬قضائية‭”.  ‬وتشارك‭ ‬المنظمة‭ ‬أيضا‭ ‬في‭ ‬دعويين‭ ‬مماثلتين‭ ‬على‭ ‬منصة‭ “‬كاراكتر‭ ‬إيه‭ ‬آي‭” ‬Character‭.‬AI،‭ ‬وهي‭ ‬منصة‭ ‬دردشة‭ ‬قائمة‭ ‬على‭ ‬الذكاء‭ ‬الاصطناعي‭ ‬تلقى‭ ‬إقبالا‭ ‬من‭ ‬المراهقين‭.‬

‭ ‬واعتبرت‭ ‬منظمة‭ “‬كومن‭ ‬سنس‭ ‬ميديا‭” ‬Common‭ ‬Sense‭ ‬Media  ‬الأميركية‭ ‬غير‭ ‬الحكومية‭ ‬أن‭ ‬الدعوى‭ ‬المقدمة‭ ‬الثلاثاء‭ ‬ضد‭ “‬أوبن‭ ‬إيه‭ ‬آي‭” ‬تؤكد‭ ‬أن‭ “‬استخدام‭ ‬الذكاء‭ ‬الاصطناعي‭ ‬لأغراض‭ ‬الرفقة،‭ ‬بما‭ ‬في‭ ‬ذلك‭ ‬استخدام‭ ‬أدوات‭ ‬مساعدة‭ ‬عامة‭ ‬مثل‭ +‬تشات‭ ‬جي‭ ‬بي‭ ‬تي‭+ ‬للاستشارات‭ ‬النفسية،‭ ‬يشكل‭ ‬خطرا‭ ‬غير‭ ‬مقبول‭ ‬على‭ ‬المراهقين‭”.‬

‭ ‬وأضافت‭ ‬المنظمة‭ “‬إذا‭ ‬أصبحت‭ ‬منصة‭ ‬ذكاء‭ ‬اصطناعي‭ ‬بمثابة‭ +‬مدرب‭ ‬انتحار‭+ ‬لمراهق‭ ‬ضعيف،‭ ‬فيجب‭ ‬أن‭ ‬يكون‭ ‬ذلك‭ ‬بمثابة‭ ‬جرس‭ ‬إنذار‭ ‬جماعي‭”.‬

مشاركة