محترفو الأمن السيبراني يحتجون على الحظر “الخطير” الذي فرضته الحكومة الأمريكية على أقوى نماذج Anthropic
مجموعة مكونة من عشرات الخبراء في الأمن السيبراني، بما في ذلك عدد من المحاربين القدامى المعروفين في هذه الصناعة، نشرت رسالة مفتوحة للحكومة الأمريكية تطالبها برفع أمر التحكم في تصدير نماذج Fable و Mythos الخاصة بشركة Anthropic.
وفقًا للرسالة المفتوحة، “لقد أخذ هذا الإجراء أفضل النماذج بعيدًا عن المدافعين [عن الأمن السيبراني]” الذين لم يعد بإمكانهم استخدام النماذج للعثور على الثغرات وجعل برامجهم ومنتجاتهم أكثر أمانًا.
“من الخطير سحب أفضل القدرات بعيدًا عن المدافعين دون سبب وجيه عندما يتقدم خصومنا بسرعة”، جاء في الرسالة.
اقرأ أيضاً
في يوم الجمعة، أصدرت الحكومة الأمريكية أمرًا لشركة Anthropic للحد من تصدير Fable و Mythos مشيرة إلى مخاوف تتعلق بالأمن القومي، دون توضيح الأسباب المحددة وراء الأمر، وفقًا لشركة Anthropic. ردًا على ذلك، علقت الشركة الوصول إلى النماذج لجميع المستخدمين في جميع أنحاء العالم.
حتى كتابة هذه السطور، تم توقيع الرسالة من قبل 76 خبيرًا في الأمن السيبراني، بما في ذلك: رئيس الأمن السابق في فيسبوك أليكس ستاموس؛ كيسي إليس، مؤسس منصة مكافآت الأخطاء Bugcrowd؛ عالم التشفير الشهير ومدير تصميم الأمن في أبل السابق جون كلاس؛ عالم الحاسوب بول فيكسي؛ دينو داي زوفي، الرئيس السابق لقسم الهندسة الأمنية التطبيقية في Block؛ كاتي موسوريس، مؤسسة Luta Security؛ وراشيل طوباك، الرئيس التنفيذي لشركة تدريب الوعي الأمني SocialProof Security.
عندما تم إطلاق Mythos كمعاينة في أبريل، زعمت Anthropic أنه كان قويًا جدًا في العثور على ثغرات الأمان لدرجة أن الشركة احتاجت إلى تقييد الوصول بشكل صارم لمنع الهاكرز الخبيثين أو الخصوم الأجانب من استخدامه لإحداث الفوضى على الإنترنت. في الممارسة العملية، كان ذلك يعني أن Anthropic منحت حوالي 50 شركة وصولاً ابتدائيًا إلى Mythos، وسعت تلك المجموعة مؤخرًا لتشمل حوالي 150 منظمة في 15 دولة.
في الأسبوع الماضي، أصدرت Anthropic Fable، وهو إصدار عام من Mythos قالت الشركة إنه يحتوي على قواعد صارمة لمنع استخدامه في مجالات البيولوجيا والكيمياء والأمن السيبراني، بالإضافة إلى إيقاف الآخرين عن تقطير النموذج من أجل إعادة إنشاءه. كانت الضوابط على Fable صارمة لدرجة أن العديد من خبراء الأمن السيبراني وجدوا أنها حالت دون أي مطالبات تتعلق بالأمن السيبراني.
قالت Anthropic إن أمر الحكومة البيضاء بالتحكم في التصدير قد يكون استند إلى تقرير ذكر أن هناك طريقة لتجاوز – أو ما يسمى بـ “كسر الحماية” – Fable لفتح قدراته القوية على مستوى Mythos.
اتصل بنا
هل لديك المزيد من المعلومات حول ورقة أمازون التي أدت إلى الحظر؟ نود أن نسمع منك. من جهاز وشبكة غير عمل، يمكنك الاتصال بلورينزو فرانسيسكي-بيكيري عبر تطبيق سيجنال بأمان على +1 917 257 1382، أو عبر تليجرام وKeybase @lorenzofb، أو عبر البريد الإلكتروني.
وفقًا لكاتي موسوريس، إحدى الموقعين على الرسالة المفتوحة، تم عرض الطريقة من قبل باحثي أمازون في ورقة غير عامة، ولكنها قد راجعتها.
لكن موسوريس قالت في منشور مدونة إن الورقة لم تظهر فعليًا كسر حماية حقيقي. بدلاً من ذلك، كتبت أن الباحثين طلبوا ببساطة من Fable تصحيح كود مفتوح المصدر يحتوي على ثغرات معروفة و”ثغرات مزروعة عمدًا”، بعد أن رفض النموذج في البداية “مراجعة الكود لمشاكل الأمان.”
“لا يمكن إصلاح السلوك الموصوف في الورقة بشكل ذي معنى، وأي محاولة لذلك ستضعف النموذج للدفاع”، كتبت موسوريس. “يحتاج المدافعون إلى أن يكونوا قادرين على الطلب من الذكاء الاصطناعي إصلاح الأخطاء في ملف، وتفسير لماذا يهم التصحيح، وكتابة اختبارات تؤكد أن التصحيح يعمل. هذا ليس تجاوزًا للضوابط. إنه أكثر شيء قيم يمكن أن يفعله نموذج الذكاء الاصطناعي من أجل الأمان الدفاعي: تنفيذ حلقة البحث والإصلاح والاختبار التي يديرها المدافعون كل يوم.”
تمت الإشارة في النقد الذي قدمته موسوريس في الرسالة المفتوحة، التي ذكرت أيضًا أن مجموعة الخبراء تعتقد أن الطريقة المذكورة في ورقة أمازون “يمكن تكرارها” على نموذج GPT-5.5 الخاص بـ OpenAI، وعلى Claude Opus 4.8 وSonnet المتاحة للجمهور من Anthropic، “حتى النماذج الصينية مثل Kimi 2.7.”
كما طالبت الرسالة بتنظيمات تُنفذ بشفافية وإنصاف، أنشئت من خلال “عملية صنع قرار ديمقراطية” تستند إلى الأبحاث العلمية التي يجريها خبراء الصناعة والأكاديمية، و”تستخدم فقط بالقدر الأدنى اللازم لضمان سلامة الجمهور الأمريكي.”
عندما تشتري من خلال الروابط الموجودة في مقالاتنا، قد نكسب عمولة صغيرة. هذا لا يؤثر على استقلالنا التحريري.