شاب يبلغ من العمر 18 عامًا يُزعم أنه قتل ثمانية أشخاص في حادث إطلاق نار جماعي في تامبلر ريدج، كندا، استخدم على ما يبدو ChatGPT من OpenAI بطرق أثارت قلق موظفي الشركة.
تم الإبلاغ عن محادثات جيسي فان روتسيلار التي تصف العنف بالأسلحة من خلال أدوات تراقب نموذج اللغة الخاص بالشركة للاستخدام السيئ وتم حظرها في يونيو 2025.
ناقش موظفو الشركة ما إذا كان يجب عليهم التواصل مع سلطات القانون الكندية بشأن التصرفات، لكنهم في النهاية لم يفعلوا ذلك، وفقًا لما ذكرته صحيفة وول ستريت جورنال. وقال متحدث باسم OpenAI إن نشاط فان روتسيلار لم يستوفِ المعايير اللازمة للإبلاغ عن الأمر للسلطات؛ وتواصلت الشركة مع السلطات الكندية بعد الحادث.
لم تكن نصوص ChatGPT الجزء الوحيد المقلق من بصمة فان روتسيلار الرقمية. حيث أنها على ما يبدو أنشأت لعبة على Roblox، وهو منصة لمحاكاة العالم يتردد عليها الأطفال، والتي تحاكي حادث إطلاق نار جماعي في مركز تجاري. كما نشرت أيضًا عن الأسلحة على Reddit.
كانت عدم استقرار فان روتسيلار معروفًا أيضًا لدى الشرطة المحلية، التي تم استدعاؤها إلى منزل عائلتها بعد أن أشعلت حريقًا أثناء تأثيرها بمخدرات غير محددة.
اتهُمت برامج الدردشة المدعومة بنموذج اللغة التي أنشأتها OpenAI ومنافسيها بزيادة حدوث الانهيارات النفسية لدى المستخدمين الذين يفقدون السيطرة على الواقع أثناء المحادثة مع النماذج الرقمية. وقد تم رفع العديد من الدعاوى القضائية التي تستشهد بنصوص محادثات تشجع الناس على الانتحار أو تقدم المساعدة في ذلك.
إذا كنت في أزمة أو لديك أفكار انتحارية، اتصل أو أرسل رسالة نصية إلى 988 للوصول إلى خط الحياة للانتحار والأزمات 988.
حدث تككرنش
بوسطن، MA
|
9 يونيو 2026
اترك تعليقاً