إندونيسيا تحظر “جروك” بسبب التزييف العميق الجنسي غير الموافقة عليه

قال مسؤولون إندونيسيون يوم السبت إنهم يقومون مؤقتًا بحجب الوصول إلى دردشة xAI المعروفة باسم Grok.

يُعتبر هذا أحد أكثر التحركات عدوانية حتى الآن من قبل المسؤولين الحكوميين استجابةً لفيض من الصور الجنسية التي تم إنشاؤها بواسطة الذكاء الاصطناعي، التي غالبًا ما تُظهر نساءً حقيقيات وقاصرين، وأحيانًا تُظهر اعتداءات وإساءات، والتي نشرها Grok استجابةً لطلبات من مستخدمين على الشبكة الاجتماعية X. (X وxAI هما جزء من نفس الشركة.)

في بيان تم مشاركته مع الغارديان ومطبوعات أخرى، قالت وزيرة الاتصالات الرقمية في إندونيسيا ميوتيا هافيد: “تعتبر الحكومة ممارسة الصور العميقة الجنسية غير التوافقية انتهاكًا خطيرًا لحقوق الإنسان وكرامة وسلامة المواطنين في الفضاء الرقمي.”

كما أفيد أن الوزارة استدعت مسؤولي X لمناقشة القضية.

تتضمن الاستجابات الحكومية المتنوعة على مدار الأسبوع الماضي أمرًا من وزارة تكنولوجيا المعلومات الهندية لـ xAI باتخاذ إجراءات لمنع Grok من إنشاء محتوى فاحش، بالإضافة إلى أمر من المفوضية الأوروبية للشركة بالاحتفاظ بجميع الوثائق المتعلقة بـ Grok، مما قد يمهد الطريق لتحقيق.

في المملكة المتحدة، صرحت هيئة تنظيم الاتصالات Ofcom بأنها ستقوم “بتقييم سريع لتحديد ما إذا كانت هناك مشاكل محتملة في الامتثال تستدعي التحقيق.” وقال رئيس الوزراء كير ستارمر في مقابلة إن Ofcom يحصل على “دعمه الكامل لاتخاذ إجراء.”

بينما يبدو أن إدارة ترامب في الولايات المتحدة تتجنب الحديث عن القضية (الرئيس التنفيذي لـ xAI إيلون ماسك هو متبرع رئيسي لترامب وقاد وزارة كفاءة الحكومة المثيرة للجدل في العام الماضي)، دعا سناتور ديمقراطي آبل وغوغل إلى إزالة X من متاجر التطبيقات الخاصة بهم.

استجابت xAI في البداية من خلال نشر اعتذار يبدو أنه من شخص أول إلى حساب Grok، معترفًا بأن أحد المنشورات “انتهكت المعايير الأخلاقية وربما القوانين الأمريكية” المتعلقة بمادة الاعتداء الجنسي على الأطفال. لاحقًا، قيدت ميزة توليد الصور بواسطة الذكاء الاصطناعي لمشتركين مدفوعي على X، على الرغم من أن هذا القيد لم يبدو أنه يؤثر على تطبيق Grok نفسه، الذي لا يزال يسمح لأي شخص بإنشاء الصور.

استجابةً لمنشور يتساءل عن سبب عدم اتخاذ الحكومة البريطانية إجراءً ضد أدوات توليد الصور الأخرى بالذكاء الاصطناعي، كتب ماسك: “إنهم يريدون أي عذر للرقابة.”