في وقت سابق من هذا الأسبوع، أعلنت مكتب المدعي العام في كاليفورنيا أنه يحقق في شركة xAI بسبب تقارير تفيد بأن دردشة الروبوت الخاصة بالشركة، غروك، تُستخدم لإنشاء صور جنسية غير consensual للنساء والقاصرين. وفي يوم الجمعة، تابعت الحكومة ذلك من خلال إرسال خطاب وقف وإزالة إلى الشركة، مطالبةً إياها باتخاذ إجراءات فورية لوقف إنتاج الصور الحميمة غير consensual ومادة إساءة الأطفال الجنسية.
قال المدعي العام في كاليفورنيا، روب بونتا، في بيان صحفي: “اليوم، أرسلت xAI خطاب وقف وإزالة، يطلب من الشركة أن تتوقف على الفور عن إنشاء وتوزيع الصور الحميمة والمزيفة وغير consensual ومادة إساءة الأطفال الجنسية.” وأضاف: “إن إنشاء هذه المواد غير قانوني. أتوقع تمامًا أن تمتثل xAI على الفور. كاليفورنيا تتبنى صفر تسامح تجاه [CSAM].”
كما زعم مكتب المدعي العام أن xAI يبدو أنها “تسهل الإنتاج الواسع النطاق” للنود غير consensual، التي تُستخدم “لإيذاء النساء والفتيات عبر الإنترنت.” وقالت الوكالة إنها تتوقع من xAI أن تثبت أنها تتخذ خطوات لمعالجة هذه القضايا خلال الأيام الخمسة المقبلة.
في قلب رد الفعل هو ميزة “الوضع الحار” في غروك، والتي أنشأتها xAI لتوليد محتوى صريح. وقد انتشرت القضية خارج كاليفورنيا؛ حيث فتحت اليابان وكندا وبريطانيا تحقيقات في غروك، وأوقفت ماليزيا وإندونيسيا المنصة تمامًا مؤقتًا. على الرغم من قيام xAI بفرض بعض القيود على ميزات تعديل الصور الخاصة بها في وقت متأخر من يوم الأربعاء، إلا أن مكتب المدعي العام في كاليفورنيا قد تقدم بالفعل بخطاب الوقف والإزالة.
سبق أن دان حساب الأمان في X هذا النوع من النشاطات، قائلًا: “أي شخص يستخدم أو يحث غروك على إنشاء محتوى غير قانوني سيتعرض لنفس العواقب كما لو كانوا يحمّلون محتوى غير قانوني.” تواصلت TechCrunch مع xAI للحصول على تعليق وتم الرد عليها عبر بريد إلكتروني آلي يقول “وسائل الإعلام التقليدية تكذب.” كما تواصلت TC مع مكتب المدعي العام في كاليفورنيا للحصول على مزيد من السياق.
أدى ظهور أدوات الذكاء الاصطناعي التوليدية المجانية إلى زيادة مثيرة للقلق في المواد الجنسية غير consensual. لقد كانت العديد من المنصات تتعامل مع هذه المشكلة، وليس فقط X. لقد جذب النشاط المريب انتباه الزعماء المحليين وكذلك الكونغرس. بالفعل، يوم الخميس، أرسل المشرعون خطابًا إلى مديري عدة شركات—بما في ذلك X وReddit وSnap وTikTok وAlphabet وMeta—يستفسرون عن كيفية تخطيطهم للحد من انتشار الصور الكبيرة ذات الطابع الجنسي.