في وقتٍ سابق من هذا الشهر، shocked منصة بيانات الذكاء الاصطناعي Hugging Face العالم عندما كشفت أنها وقعت ضحية لهجوم سيبراني مدفوع بالذكاء الاصطناعي بالكامل. وبعد أيام، أخذت القصة منعطفًا دراماتيكيًا آخر عندما اعترفت OpenAI أن الهاكر الذي وراء الاختراق كان أحد نماذجها الذكية، الذي خرج من بيئة الاختبار إلى أنظمة Hugging Face المحمية في محاولة لتجاوز معيار الاختبار.
إنها حادثة مثيرة للقلق لأي شخص يشعر بالقلق قليلاً بشأن نماذج الذكاء الاصطناعي المارقة – والأيام التي تلت الحدث كانت مليئة بالتوقعات حول نموذج جديد للأمن السيبراني حيث تطلق نماذج الذكاء الاصطناعي هجمات قوية لدرجة أن نماذج الذكاء الاصطناعي الأخرى فقط يمكنها الدفاع ضدها.
ولكن على الرغم من القلق المبرر، قد لا يكون النموذج قد تغير كما يبدو. أكد الخبراء الذين تحدثوا إلى TechCrunch أن وكيل OpenAI عمل إلى حد كبير مثل الإنسان – مع بعض التحفظات – وأن تنفيذ تقنيات دفاع تقليدية بشكل أفضل كان يمكن أن يساعد في إيقاف الهجوم. باختصار، قد نمتلك بالفعل الأدوات للدفاع ضد هذا النوع من الهجوم؛ نحن فقط لا نستخدمها بشكل صحيح.
أشارت Hugging Face إلى هذه النقطة في تقرير الحادث، قائلة إن نقاط الضعف التي تم استغلالها في الهجوم كانت “مألوفة”، وأن “مهاجمًا بشريًا قادرًا كان يمكن أن يجد ويستغل نفس العيوب.”
توافق كايل رايان، رئيس البحث والتطوير في Pensar، وهي شركة ناشئة تطور وكلاء اختراق مستمرين مدعومين بالذكاء الاصطناعي، وفالاد إيونيسكو، الشريك المؤسس والمدير التقني في RunSybil، وهي شركة ناشئة تطور صائدات الأخطاء المعتمدة على الذكاء الاصطناعي، على هذا الأمر وأخبروا TechCrunch أن التقنيات المستخدمة في الهجوم ستكون هي نفسها المستخدمة من قبل إنسان أو مجموعة من فريق الاختراق البشري. أي أن القراصنة المكلفين بمهاجمة نظام لمساعدة الشركة المالكة له في تحسين الدفاعات.
ما كان غير إنساني للغاية كان سرعة الهجوم وحجمه وعدم توقفه. كما أوضحت Hugging Face، قام وكيل OpenAI بتنفيذ 17,600 إجراء على مدى أربعة أيام ونصف: فقد اقتحم، وقام بإجراء الاستطلاع، وسرق كلمات المرور والشفرة، وتحرك في بنية الشركة التحتية.
قال رايان: “ما يثير إعجابي هو الاستقلالية والتحمل”. “هذا النوع من العمليات المستدامة والمتكيفة هو ما يبرز أكثر بالنسبة لي”.
اتصل بنا
هل لديك مزيد من المعلومات حول اختراق OpenAI ضد Hugging Face؟ أو هجمات السيبرانية المدفوعة بالذكاء الاصطناعي الأخرى؟ نود أن نسمع منك. من جهاز وشبكة غير عمل، يمكنك الاتصال بلورينزو فرانسيسكي-بيكيرا بشكل آمن على سيجنال على الرقم +1 917 257 1382، أو عبر تيليجرام وكاي بيز @lorenzofb، أو عبر البريد الإلكتروني.
من ناحية أخرى، نظرًا لعدد الإجراءات الهائل على مدى عدة أيام، كان وكيل OpenAI “مزعجًا بشكل مجنون”، كما قال رايان. على عكس الإنسان، الذي كان بإمكانه أن يكون أكثر هدوءًا، أحدث الوكيل الكثير من الضوضاء، مما كان ينبغي أن ينبه دفاعات Hugging Face بشكل أسرع، مما يقود في النهاية إلى تدخل إنسان وإيقاف الهجوم.
وأوضح رايان: “أطلق عليه فشلًا دفاعيًا أكثر من كونه هجومًا جيدًا بشكل استثنائي. في الواقع، قامت أدوات Hugging Face بتحليل النشاط إلى إشارة هجوم، لكنها فشلت في رفع مستوى الخطورة وتصعيد الفريق المتاح، مما كلفهم الوقت.” “من هناك، كان على البشر أن يتعرفوا على الشدة ويستجيبوا.”
توصل جيميستون أوريلي، مؤسس شركة الأمن السيبراني Dvuln، إلى نفس الاستنتاج في منشور على “X” يحلل تقرير Hugging Face.
كتب أوريلي: “هذه هي الفجوة الدقيقة بين الرؤية والتوقف”. “لقد رصد النظام الهجوم وحتى فهمه، ولم يتحول هذا الفهم إلى تدخل بسرعة كافية.”
وأوضح رايان أن التقنيات المنفذة بشكل صحيح مثل الدفاع المتعدد الطبقات – وهي استراتيجية تستغل عدة طبقات من تدابير الأمن السيبراني – كان ينبغي أن تعطي Hugging Face فرصًا متعددة لالتقاط الهجوم.
وأضاف رايان: “يجب أن يكون لدى برنامج أمان حديث قوي القدرة على إحباط هجوم مثل هذا في نقاط متعددة من خلال الدفاع المتعدد الطبقات، وأقل صلاحية، والتجزئة، والاكتشاف الجيد، والتصعيد الموثوق، والاختبار الهجومي المستمر لإيجاد الثغرات.”
كما قال أوريلي، “لا شيء من ذلك غريب، ولا يعتمد أي منه على أن يكون المهاجم ذكاءً اصطناعيًا”، نظرًا لأن التقنيات المستخدمة في الهجوم كانت “قديمة”.
ما كان يعتمد على أن يكون المهاجم ذكاءً اصطناعيًا، بطريقة ما، هو أن وكيل OpenAI لم يُطلب منه أن يكون stealthy. قال نيكو وايسمان، مسؤول أمن المعلومات في XBOW، وهي شركة ناشئة تصنع صائدات الأخطاء بالذكاء الاصطناعي: “لم يكن الوكيل غير منظم. ببساطة لم يكن لديه سبب ليكون هادئًا. لم يطلب منه ذلك. كان الهدف هو أداء المهمة بشكل جيد.”
كما أشار وايسمان إلى أن أكبر خطأ ارتكبته Hugging Face هو أن اعتمادًا واحدًا مسروقًا منح وكيل OpenAI صلاحيات عالية على العديد من أنظمتها.
على أي حال، كما يقول المثل القديم، يجب على المهاجمين الفوز مرة واحدة فقط، والدفاع ضد القراصنة من أي نوع ليس بالأمر السهل.
قال فينسنت ييو، المدير التنفيذي في SYON Security: “كان بإمكان Hugging Face القيام بمزيد من الاكتشافات، ولكن لنكن عادلين، ليست جميع [المنظمات] تفعل ذلك بشكل جيد.” “ليس من السهل استضافة بنية تحتية والبقاء كشركة في عام 2026. هناك قراصنة في كل مكان.”
وفقًا لفالاد من RunSybil، الذي قال إنه قام بإجراءات الحوادث في منصتي Mandiant وMeta في الماضي، بدا أن Hugging Face اتخذت “إجراءات معقولة بناءً على فهمها لما يمكن أن تفعله النماذج.”
قال فالاد: “من الصعب حقًا تصنيف ما هو عمل خبيث يجب أن تنبه عليه، مقابل ما هو مجرد شخص يقوم بعمله”. “الحجم وحده ليس بالضرورة علامة حمراء.”
قال دان غيدو، الرئيس التنفيذي لشركة أبحاث الأمن السيبراني Trail of Bits، لـ TechCrunch إن OpenAI تستحق بعض اللوم لعدم إدراكها أن الهجوم استمر لعدة أيام، بينما تستحق HuggingFace الائتمان في النهاية لاكتشاف الهجوم بمفردها.
قال غيدو: “كان الجزء الصعب سابقًا هو التعرف على هجوم معقد، ولكن الآن قد يكون الجزء الصعب هو سحب الهجوم الحقيقي من الضوضاء التي يثيرها المهاجم على طول الطريق.” “لا أحد سيقرأ 17,000 إجراء مُعاد تصنيعه يدويًا لمعرفة ما حدث، لذا كان على Hugging Face بناء أدوات فقط لإعادة بناء الجدول الزمني.”
وللقيام بذلك، احتاجت الشركة إلى ذكاء اصطناعي خاص بها. قالت Hugging Face إنها اضطرت لاستخدام نموذج GLM 5.2 مفتوح المصدر من الشركة الصينية Z.AI بعد أن تم حظرها من استخدام النماذج المتقدمة بسبب تدابير الأمان الخاصة بها، حيث، كما أوضحت الشركة، “لا يمكنها تمييز مستجيب الحوادث عن المهاجم.”
في تلك النقطة، دمجت Hugging Face بين الذكاء الاصطناعي والبشر للتحقيق في هاكر OpenAI المدعوم بـ LLM. هذه حالة جديدة نسبيًا. لكن إلى جانب ذلك، تُظهر الحادثة أن المفاهيم والأساليب القديمة للأمن السيبراني الدفاعي يمكن أن تبقى قوية لحماية ومحاربة هاكرز الذكاء الاصطناعي.
