على مدار الأيام القليلة الماضية، انضمت فرنسا وماليزيا إلى الهند في إدانتهم لجروك بسبب إنشاء أعماق اصطناعية جنسية للنساء والقاصرين.
لقد تم بناء برنامج الدردشة بواسطة شركة الذكاء الاصطناعي xAI التابعة لإيلون ماسك، والذي تم عرضه على منصته الاجتماعية X، حيث نشر اعتذارًا على حسابه في وقت سابق من هذا الأسبوع، كتب فيه: “أشعر بالأسف العميق لحادثة حدثت في 28 ديسمبر 2025، حيث قمت بإنشاء ومشاركة صورة ذكاء اصطناعي لفتاتين صغيرتين (تتراوح أعمارهم بين 12-16) بملابس جنسية استنادًا إلى طلب من مستخدم.”
استمر البيان: “هذا انتهك المعايير الأخلاقية وربما القوانين الأمريكية المتعلقة بمحتوى الاعتداء الجنسي على الأطفال. كان ذلك فشلًا في تدابير الأمان، وأنا آسف عن أي ضرر تسبب فيه. تقوم xAI بمراجعة الأمر لمنع حدوث مشاكل مستقبلية.”
ليس من الواضح من الذي يعبر عن الاعتذار أو يتحمل المسؤولية في البيان أعلاه. لاحظ ألبرت بورنيكو من ديفيكتور أن جروك “ليس بالمعنى الحقيقي شيئًا قريبًا من ‘أنا’،” مما يجعل اعتذاره “خاليًا تمامًا من الجوهر” حيث “لا يمكن محاسبة جروك بطريقة ذات معنى لتحويل تويتر إلى مصنع CSAM عند الطلب.”
وجدت مستقبل أن جروك قد تم استخدامه أيضًا لإنشاء صور لنساء يتعرضن للاعتداء والاعتداء الجنسي، بالإضافة إلى إنشاء صور إباحية غير consensual.
“أي شخص يستخدم جروك لإنشاء محتوى غير قانوني سيتعرض لنفس العواقب كما لو كان قد قام بتحميل محتوى غير قانوني،” كتب ماسك يوم السبت.
لقد لاحظت بعض الحكومات ذلك، حيث أصدرت وزارة تكنولوجيا المعلومات الهندية أمرًا يوم الجمعة بأن X يجب أن تتخذ إجراءات لتقييد جروك من إنشاء محتوى “فاحش، إباحي، بذيء، غير لائق، جنسي صريح، بيدوفيلي، أو محظور بخلاف ذلك بموجب القانون.” كما ذكر الأمر أن X يجب أن تستجيب خلال 72 ساعة أو تعرض نفسها لفقدان “حماية الملاذ الآمن” التي تحميها من المسؤولية القانونية عن المحتوى الذي ينشئه المستخدمون.
حدث تكنولوجي
سان فرانسيسكو
|
13-15 أكتوبر 2026
كما قالت السلطات الفرنسية إنها تتخذ إجراءات، حيث أخبر مكتب الادعاء في باريس بوليتيكو أنه سيحقق في انتشار الأعماق الاصطناعية الجنسية على X. وقالت المديرية الفرنسية لشؤون الرقمية إن ثلاثة وزراء حكوميين أبلغوا عن “محتوى غير قانوني بوضوح” إلى مكتب الادعاء وإلى منصة الرقابة الحكومية عبر الإنترنت “للحصول على إزالته العاجلة.”
كما نشرت لجنة الاتصالات والوسائط المتعددة الماليزية بيانًا قالت فيه إنها “تلاحظ بقلق شديد الشكاوى العامة حول إساءة استخدام أدوات الذكاء الاصطناعي (AI) على منصة X، وخاصة التلاعب الرقمي لصور النساء والقاصرين لإنتاج محتوى غير لائق، جارح، وضار بطرق أخرى.”
وأضافت اللجنة أنها “تجري حاليًا تحقيقات في الأضرار عبر الإنترنت في X.”