كيف تعيق قيود الذكاء الاصطناعي عمل باحثي الأمن السيبراني الهجومي
لعدة أشهر، ابتكرت عمالقة الذكاء الاصطناعي برامج خاصة ومراجعة صارمة للحد من استخدام نماذجها من قبل القراصنة الضارين. لكن هذه الحدود تعوق الآن عمل المدافعين الشرعيين عن الشبكات، فضلاً عن الباحثين في الأمن السيبراني الهجومي.
في يونيو، فرضت الحكومة الأمريكية قيوداً على تصدير نماذج الذكاء الاصطناعي المثيرة للجدل من شركة أنثروبيك، “ميثوس” و”فابل”. وقد أدى هذا القرار جزئيًا إلى تقرير ادعى أنه يمكن تجاوز الحدود المصممة لمنع المستخدمين من استخدام النماذج لبناء وتنفيذ هجمات سيبرانية خبيثة.
بغض النظر عما إذا كان الحادث دافعًا حقيقيًا بسبب مخاوف من كسر الحماية، فإن الحقيقة هي أن أنثروبيك قد سوقت بشكل متكرر “ميثوس” كنوع من الآلات السيبرانية الكارثية التي يمكن منحها فقط للمستخدمين الذين تم مراجعتهم بعناية، وحتى في هذه الحالة مع وجود حدود صارمة. (تم رفع قيود التصدير عن “فابل 5″ و”ميثوس 5” منذ ذلك الحين. وعادت “فابل 5” إلى الوصول العام في 1 يوليو؛ بينما تم إعادة تقديم “ميثوس 5” فقط للمنظمات الأمريكية المعتمدة كجزء من عملية مراجعة الحكومة).
اقرأ أيضاً
هذا النوع من السيطرة ليس فريدًا من نوعه بالنسبة لـ “ميثوس”. كل من أنثروبيك، مع نماذجها الأخرى، وOpenAI تقدم برامج للباحثين في الأمن السيبراني يمكنهم التقدم للحصول على مراجعة – وإذا تم الموافقة عليها – الوصول إلى النماذج مع قيود أقل في الأمن السيبراني: “الوصول الموثوق به من OpenAI للأمن السيبراني” وبرنامج “التحقق السيبراني” من أنثروبيك.
لقد تعرضت هذه الحدود لانتقادات واسعة، لا سيما من قبل الباحثين الذين تتمثل مهمتهم في إيجاد الثغرات غير المعروفة في الأنظمة وتطوير طرق لاستغلالها قبل أن يفعل المجرمون ذلك.
خلال ظهوره الأخير في بودكاست للأمن السيبراني، قال مارك داود، الباحث الأمني المعروف، إن “هذا غير مريح لي، أن هذه الشركات الكبيرة العشوائية تتخذ قرارات تعسفية بشأن ما هو آمن في الأمن وما هو ليس كذلك”.
لقد قضى داود عقودًا في العثور على وبيع “صفر أيام” — الثغرات البرمجية المعروفة سابقًا والاستغلالات التي تستفيد منها — للحكومات الغربية، بدلاً من الإبلاغ عنها لمصنعي البرمجيات لتصحيحها. تدفع الحكومات بسعر مرتفع مقابل الثغرات نظرًا لأنها تبقى مفتوحة، وهو ما يكون مفيدًا لعمليات الاستخبارات.
اعترف داود أن عمله قد يجعله متحيزًا، لكنه ليس وحده. وصف عدة أشخاص يعملون في الأمن السيبراني الهجومي – الذين يستكشفون الأنظمة بشكل استباقي للعثور على الثغرات – لتقنية كرانش كيف يستخدمون أدوات الذكاء الاصطناعي وكيف يتعاملون مع حدودها.
قال كريس أنلي، كبير العلماء في مجموعة NCC، وهي شركة استشارية شهيرة في الأمن، إن الطلب من نموذج ذكاء اصطناعي محاولة استغلال خلل هو خطوة رئيسية في تأكيد أنه ثغرة حقيقية تستحق الإصلاح. لكن إذا دفعت الحدود النموذج لرفض الإجابة على السؤال بشكل قاطع، فإن هذه الحدود تضر بالمدافعين، وفقًا له.
“هذه هي النقطة التي تأتي فيها مسألة الهجوم مقابل الدفاع وحدود الحماية، لأن ‘إصلاح هذا الكود’ كتحفيز هو آلية أساسية للدفاع ولكنه أيضًا خريطة للعثور على الثغرات الحرجة في قاعدة الشيفرة”، قال أنلي. “لذا في نفس الوقت، الأداة نفسها هي أداة هجومية وأداة دفاعية، ولا يمكن تفكيك الاثنين بشكل حقيقي.”
“إنها مثل المطرقة”، استمر. “لا يمكنك بناء منزل بدون مطرقة. إنها بالتأكيد أداة ولكنها أيضًا بطريقة لا تتجزأ سلاح.”
عندما يواجه هو وزملاؤه مثل هذا الحاجز، فإنهم أحيانًا يلجأون إلى نماذج الذكاء الاصطناعي مفتوحة المصدر التي لا تأتي مع أي حدود على الإطلاق.
وافق باولو ستاغنو، كبير مسؤولي التكنولوجيا في شركة كراودفينس، وهي شركة معروفة تطور وتكتسب وتبيع الثغرات غير المعروفة للهيئات الحكومية، مع داود، قائلاً إن شركات الذكاء الاصطناعي “تعامل العملاء بشكل أساسي كالأطفال الذين يحتاجون إلى رعاية” مع برامجها المراجعة وحدودها.
قال ستاجنو إنه هو وزملاؤه يستخدمون النماذج المتطورة – ولكن فقط للهندسة العكسية. إنهم يتجنبون استخدام الذكاء الاصطناعي للمساعدة في العثور على الثغرات أو بناء الاستغلالات، لأنه وفقًا له، فإن تغذية ذلك العمل في نموذج قائم على السحابة يعتبر خطر تسريب بيانات الثغرات الحساسة أو امتصاصها في دورات تدريبية مستقبلية. لأجل هذه الخطوة، قال، إنهم يستخدمون نماذج مفتوحة المصدر تعمل محليًا، حيث لا يعتمدون على مشاركة البيانات خارج النموذج.
قال جيوسيبي كالي، وهو باحث أمني يجد الثغرات ويطور الاستغلالات، إن الحدود لا تعيق عمله. وذلك لأنه لا يستخدم الذكاء الاصطناعي للأعمال الهجومية؛ بل بدلاً من ذلك، يستخدمه في الهندسة العكسية الأولية، لفهم الشيفرة التي يقوم بتحليلها، ولإنشاء أدوات داعمة. في هذا السياق، قال إن أدوات الذكاء الاصطناعي يمكن أن تسرع من العملية وتسمح له بالتركيز على اكتشاف الثغرات.
“ما زلت أرغب في امتلاك اكتشاف الخلل الفعلي والتسليح بنفسي، ولن يتغير ذلك إذا تمت إزالة كل الحدود غدًا”، قال كالي. “أنا غير راضٍ عن ثغراتي، وأحب هذه اللعبة كثيرًا لأسمح للنماذج بلعبها بدلاً مني.”
قال أحد الباحثين في مصنع مكونات الهواتف الذكية، الذي تحدث بشرط عدم الكشف عن هويته لأنه ليس لديه إذن للتحدث إلى الصحافة، إن صاحب العمل لديه ليس جزءًا من برنامج “CVP” لشركة أنثروبيك، ونتيجة لذلك، فإن أدواتها بالكاد مفيدة في العثور على الثغرات لأن الحدود صارمة جدًا.
“إذا شعرت بأننا نقوم بأي شيء يتعلق بالأمن، فإنها تتوقف فقط ولا يمكن استخدامها”، قال الشخص.
قال كريس طومسون — الرئيس التنفيذي لشركة RemoteThreat للأمن السيبراني ومؤسس حدث Offensive AI Con، الذي يركز على الأمن الهجومي والذكاء الاصطناعي — إن تجربته باستخدام نماذج الذكاء الاصطناعي المتقدمة أظهرت أن الحدود يمكن أن تكون غير متسقة وتعمل بشكل مختلف كل يوم. هذا صحيح حتى داخل الحدود الأكثر مرونة لبرامج أنثروبيك وOpenAI المعتمدة.
“أعتقد أن التأثير العملي هو أنك تقضي الكثير من الوقت في التفاوض مع النموذج بدلاً من العمل على البرنامج الأمني الأساسي”، قال طومسون. “بدلاً من تحليل ثغرة والتفكير في إمكانية استغلالها، تحاول العثور على سبب حصولك على نتائج غير متسقة أو لماذا تقوم النماذج بتطهير النتائج بشكل مفرط.”
نتيجة لذلك، يعتمد الباحثون أو يتم دفعهم نحو نماذج مفتوحة المصدر الصينية مثل GLM — نماذج قابلة للتنزيل مجانًا يمكن تشغيلها محليًا بدون مراجعة أو قيود استخدام، وفقًا لما ذكره طومسون.
“لدينا هؤلاء الباحثين المسؤولين الذين يتم دفعهم بعيدًا عن الأنظمة الخاضعة لإدارة الولايات المتحدة نحو الأنظمة المملوكة للأجانب”، قال. “أعتقد أنه من الأكثر ضررًا من المفيد أن تكون هذه الحدود موجودة.”
بدلاً من تشديد القيود أكثر، دعا طومسون مختبرات الذكاء الاصطناعي الرائدة إلى فتح برامجها، وتوفير الوصول المسؤول، وأيضًا محاسبة أولئك الذين يسيئون استخدام أدواتهم. خلاف ذلك، جادل بأن المدافعين سيفقدون سباق الذكاء الاصطناعي.
“هناك عاصفة كبيرة قادمة. هناك موجة كبيرة من الهجمات ستحدث بسرعة ونطاق لم يسبق له مثيل”، قال طومسون. “لكن نفس شركات الاستشارات الأمنية والباحثين القانونيين الذين يحاولون إحداث فرق يتم إحباطهم الآن.”
عند الشراء من خلال الروابط في مقالاتنا، قد نربح عمولة صغيرة. هذا لا يؤثر على استقلاليتنا التحريرية.