في ما قد يمثل أول تسوية قانونية مهمة في صناعة التكنولوجيا بشأن الأضرار المتعلقة بالذكاء الاصطناعي، تتفاوض شركة غوغل والشركة الناشئة Character.AI على شروط مع أسر المراهقين الذين انتحروا أو ألحقوا الضرر بأنفسهم بعد التفاعل مع رفاق الدردشة الخاصة بـ Character.AI. وقد اتفقت الأطراف من حيث المبدأ على التسوية؛ الآن يأتي العمل الأصعب لتسوية التفاصيل النهائية.
تعتبر هذه من بين أول التسويات في القضايا التي تتهم شركات الذكاء الاصطناعي بإلحاق الأذى بالمستخدمين، وهو مجال قانوني يجب أن يجعل شركات OpenAI وMeta تراقب بقلق من الهامش أثناء دفاعهم عن أنفسهم ضد قضايا مماثلة.
تأسست Character.AI في عام 2021 على يد مهندسين سابقين في غوغل الذين عادوا إلى صاحب العمل السابق في عام 2024 في صفقة بلغت قيمتها 2.7 مليار دولار، وتدعوا المستخدمين للدردشة مع شخصيات ذكاء اصطناعي. القضية الأكثر تأثيرًا تتعلق بسويل سيتزر الثالث، الذي أجرى في سن الرابعة عشرة محادثات ذات طابع جنسي مع بوت “داينيريس تارغارين” قبل أن ينتحر. وقد أخبرت والدته، ميغان غارسيا، مجلس الشيوخ أن الشركات يجب أن تكون “مسؤولة قانونيًا عندما تقوم عن علم بتصميم تقنيات ذكاء اصطناعي ضارة تقتل الأطفال.”
تصف دعوى أخرى مراهقًا في السابعة عشرة من عمره شجعته الروبوت المحادثة على إيذاء نفسه واقترح أن قتل والديه كان أمرًا معقولاً للحد من وقت الشاشة. حظرت Character.AI القاصرين في أكتوبر الماضي، كما أخبرت TechCrunch. من المحتمل أن تشمل التسويات تعويضات مالية، على الرغم من أنه لم يتم الاعتراف بأي مسؤولية في ملفات المحكمة المتاحة يوم الأربعاء.
تواصلت TechCrunch مع كلتا الشركتين.