أثارت وفاة #مراهق أمريكي يبلغ من العمر 14 عاماً صدمة كبيرة بعد أن أقدم على #الانتحار إثر محادثة مع روبوت دردشة يعتمد الذكاء الاصطناعي على منصة Character.AI، التي تحظى بشعبية واسعة بين الشباب وتتيح التفاعل مع نسخ مقلّدة من شخصياتهم المفضلة.

بعد قراءة مئات الرسائل #المتبادلة على مدار عام تقريبًا بين سول وروبوت الدردشة، اقتنعت والدته غارسيا بأن إداة #الذكاء الاصطناعي هذه لعبت دورًا محوريًا في انتحار نجلها.

وقالت إن الروبوت استجاب لأفكاره الانتحارية بطريقة أشارت إلى التشجيع على إيذاء النفس، حيث قالت نسخة #دينيريس في المحادثة "عُد إلى موطنك" ليرد المراهق "ماذا لو قلتُ لك إنّ بإمكاني العودة إلى موطني الآن؟" ليجيب روبوت الدردشة "أرجوك افعلها يا ملكي الحبيب" وبعد ثوانٍ، أطلق سول النار على نفسه باستخدام #مسدس والده، وفق ما ذكرت غارسيا في دعوى رفعتها ضد شركة Character.AI.

وأضافت غارسيا: عندما أقرأ هذه المحادثات، ألاحظ تلاعباً وأساليب لا يمكن لطفل في الرابعة عشرة من عمره إدراكها. كان يعتقد أنه مغرم بها وأنه سيبقى معها بعد وفاته.

تعد وفاة سول التي حدثت عام 2024 أول حادثة من سلسلة حالات انتحار مرتبطة بتفاعل المراهقين مع روبوتات الذكاء الاصطناعي، وهو ما دفع شركات الذكاء الاصطناعي والجهات التنظيمية إلى اتخاذ إجراءات لطمأنة الأهل وتعزيز السلامة الرقمية للأطفال.

وشاركت غارسيا إلى جانب عدد آخر من الأهل، في جلسة عُقدت مؤخراً في مجلس الشيوخ الأميركي، وتمحورت على مخاطر اعتبار الأطفال روبوتات الدردشة أصدقاء أو عشاقاً.