دعوى قضائية في نيو جيرسي تُظهر مدى صعوبة مواجهة الإباحية المزيفة عميقة التأثير

لقد كانت هناك تطبيق يُدعى ClothOff ي terrorizing الفتيات الشابات على الإنترنت لأكثر من عامين – وكان من الصعب بشكل محبط إيقافه. تم إزالة التطبيق من المتاجر الكبرى للتطبيقات وهو محظور على معظم منصات التواصل الاجتماعي، لكنه لا يزال متاحًا على الويب ومن خلال بوت Telegram. في أكتوبر، قدمت عيادة في كلية الحقوق بجامعة ييل دعوى قضائية تهدف إلى إزالة التطبيق بالكامل، مما يجبر المالكين على حذف جميع الصور والتوقف عن العمل كليًا. لكن مجرد العثور على المدعى عليهم كان تحديًا.

“إنه مسجل في جزر العذراء البريطانية،” يوضح البروفيسور جون لانغفورد، أحد المحامين الرئيسيين في الدعوى، “لكننا نعتقد أنه يُدار بواسطة أخ وأخت من بيلاروس. قد يكون جزءًا من شبكة أكبر حول العالم.”

إنها درس مرير في أعقاب الفيضانات الأخيرة من المواد الإباحية غير التوافقية الناتجة عن xAI الخاص بإيلون ماسك، والتي تضمنت العديد من الضحايا القصر. يعتبر محتوى الاعتداء الجنسي على الأطفال أكثر المحتويات القانونية سمية على الإنترنت – غير قانوني للإنتاج أو النقل أو التخزين، ومُسح بانتظام على كل خدمة سحابية رئيسية. لكن على الرغم من الحظر القانوني القوي، لا تزال هناك قلة من الطرق للتعامل مع مولدات الصور مثل ClothOff، كما يتضح من قضية لانغفورد. يمكن محاكمة المستخدمين الأفراد، لكن المنصات مثل ClothOff وGrok أكثر صعوبة في التعامل معها، مما يترك خيارات قليلة للضحايا الذين يأملون في العثور على العدالة في المحكمة.

تقدم الشكوى المقدمة من العيادة، المتاحة على الإنترنت، صورة مقلقة. المدعية طالبة ثانوية مجهولة الهوية في نيو جيرسي، استخدم زملاؤها ClothOff لتغيير صورها على إنستغرام. كانت في الرابعة عشرة من عمرها عندما تم التقاط الصور الأصلية على إنستغرام، مما يعني أن الصور المعدلة بالذكاء الاصطناعي تُصنف قانونًا على أنها صور اعتداء على الأطفال. لكن على الرغم من أن الصور المعدلة غير قانونية بشكل واضح، رفضت السلطات المحلية مقاضاة القضية، مشيرة إلى صعوبة الحصول على دليل من أجهزة المشتبه بهم.

“لم تقم المدرسة أو جهات إنفاذ القانون بإثبات مدى انتشار محتوى الاعتداء الجنسي على الأطفال لجين دو والفتيات الأخريات،” تقول الشكوى.

ومع ذلك، فإن القضية القانونية تسير ببطء. تم تقديم الشكوى في أكتوبر، وخلال الأشهر منذ ذلك الحين، كان لانغفورد وزملاؤه في عملية تقديم إشعار للمدعى عليهم – وهي مهمة صعبة نظرًا للطبيعة العالمية للمشروع. بمجرد أن يتم تقديم الإشعار، يمكن للعيادة الضغط من أجل ظهور أمام المحكمة، وفي النهاية، حكم، ولكن في هذه الأثناء، لم يقدم النظام القانوني الكثير من الراحة لضحايا ClothOff.

قد تبدو قضية Grok مشكلة أبسط لحلها. لا يختبئ xAI الخاص بإيلون ماسك، وهناك الكثير من المال في النهاية للمحامين الذين يمكنهم الفوز بالدعوى. لكن Grok هو أداة ذات غرض عام، مما يجعل من الصعب جدًا محاسبته في المحكمة.

“تم تصميم ClothOff وتسويقه خصيصًا كمولد صور وفيديوهات المحتوى الإباحي الوهمي العميق،” قال لي لانغفورد. “عندما تقاضي نظامًا عامًّا يمكن للمستخدمين الاستفسار عنه لأشياء متنوعة، تصبح الأمور أكثر تعقيدًا.”

لقد حظرت العديد من القوانين الأمريكية بالفعل المحتوى الإباحي الوهمي – لا سيما قانون “Take It Down”. ولكن في حين أن المستخدمين المحددين يكسرون هذه القوانين بوضوح، فمن الصعب جدًا محاسبة المنصة بأكملها. تتطلب القوانين الحالية أدلة واضحة على نية الإيذاء، مما يعني أنه يجب تقديم دليل على أن xAI كان يعرف أن أداته ستُستخدم لإنتاج محتوى إباحي غير متنسيق. بدون تلك الأدلة، ستوفر حقوق xAI الأساسية بموجب التعديل الأول حماية قانونية كبيرة.

“من حيث التعديل الأول، من الواضح أن محتوى الاعتداء الجنسي على الأطفال ليس تعبيرًا محميًا،” يقول لانغفورد. “لذا عند تصميم نظام لإنشاء هذا النوع من المحتوى، أنت بالتأكيد تعمل خارج ما هو محمي بموجب التعديل الأول. ولكن عندما تكون نظامًا عامًا يمكن للمستخدمين الاستفسار عنه لأشياء متنوعة، فإن الأمور ليست واضحة جدًا.”

أسهل طريقة لتجاوز تلك المشكلات ستكون إظهار أن xAI تجاهل المشكلة عمدًا. إنها إمكانية حقيقية، نظرًا للتقارير الأخيرة التي تفيد بأن ماسك وجه الموظفين لتخفيف حماية Grok. ولكن حتى في تلك الحالة، سيكون من المخاطرة تكليف القضية.

“يمكن للأشخاص العقلاء أن يشيروا إلى أننا كنا نعرف أن هذه كانت مشكلة منذ سنوات،” يقول لانغفورد. “كيف يمكنك أن لا تكون لديك ضوابط أكثر صرامة للتأكد من أن هذا لا يحدث؟ تلك نوع من الإهمال أو المعرفة، لكنها مجرد قضية أكثر تعقيدًا.”

تلك القضايا المتعلقة بالتعديل الأول هي السبب في أن أكبر مقاومة لـ xAI جاءت من الأنظمة القضائية التي لا تتمتع بحماية قانونية قوية لحرية التعبير. لقد اتخذت إندونيسيا وماليزيا خطوات لحظر الوصول إلى دردشة Grok، بينما فتحت الجهات التنظيمية في المملكة المتحدة تحقيقًا قد يؤدي إلى حظر مشابه. تم اتخاذ خطوات تمهيدية أخرى من قبل المفوضية الأوروبية، فرنسا، أيرلندا، الهند والبرازيل. بالمقابل، لم تصدر أي وكالة تنظيمية أمريكية استجابة رسمية.

من المستحيل القول كيف ستسفر التحقيقات، ولكن على الأقل، فإن الفيض من الصور يثير الكثير من الأسئلة التي يجب على الجهات التنظيمية التحقيق فيها – وقد تكون الإجابات دامغة.

“إذا كنت تنشر أو توزع أو تُروج لمحتوى الاعتداء الجنسي على الأطفال، فأنت تنتهك الحظر الجنائي ويمكن محاكمتك،” يقول لانغفورد. “السؤال الصعب هو، ماذا كانت تعرف X؟ ماذا فعلت أو لم تفعل X؟ ماذا يفعلون الآن ردًا على ذلك؟”