لقد أعلن صياد الأخطاء المدعوم من الذكاء الاصطناعي في جوجل عن أول دفعة له من ثغرات الأمان.
أعلنت هيذر أتكينز، نائبة رئيس الأمن في جوجل، يوم الإثنين أن الباحث عن الثغرات المعتمد على نموذج اللغة الكبير (LLM) “بيج سليب” قد اكتشف وأبلغ عن 20 عيبًا في برامج المصادر المفتوحة الشائعة.
قالت أتكينز إن “بيج سليب”، الذي يتم تطويره من قبل قسم الذكاء الاصطناعي في الشركة “ديبمايند” بالإضافة إلى الفريق المتميز من القراصنة “بروجيكت زيرو”، أبلغ عن أول ثغرات له على الإطلاق، والتي كانت معظمها في برامج المصادر المفتوحة مثل مكتبة الصوت والفيديو “FFmpeg” وحزمة تحرير الصور “ImageMagick”.
نظرًا لأن الثغرات لم تُصلح بعد، فلا توجد تفاصيل حول تأثيرها أو شدتها، حيث لا ترغب جوجل بعد في تقديم التفاصيل، وهو ما يُعتبَر سياسة قياسية أثناء انتظار إصلاح الأخطاء. ولكن حقيقة أن “بيج سليب” اكتشف هذه الثغرات تعتبر مهمة، حيث تُظهر أن هذه الأدوات بدأت تحقق نتائج حقيقية، حتى وإن كان هناك إنسان متورط في هذه الحالة.
قالت كيمبرلي سامرا، المتحدثة باسم جوجل، لموقع “TechCrunch”: “لضمان جودة عالية وتقارير قابلة للتطبيق، لدينا خبير بشري ضمن العملية قبل الإبلاغ، لكن كل ثغرة تم اكتشافها وإعادة إنتاجها بواسطة وكيل الذكاء الاصطناعي دون تدخل بشري.”
كتب رويال هانسون، نائب رئيس الهندسة في جوجل، على منصة “X” أن النتائج تظهر “حدودًا جديدة في اكتشاف الثغرات الأوتوماتيكي.”
الأدوات المدعومة من LLM التي يمكنها البحث عن الثغرات واكتشافها هي بالفعل واقع. بخلاف “بيج سليب”، هناك “ران سيبل” و”إكس بي أو”، من بين آخرين.
حدث Techcrunch
سان فرانسيسكو
|
27-29 أكتوبر 2025
لقد حققت “إكس بي أو” عناوين الأخبار بعد أن وصلت إلى قمة أحد لوحات الصدارة الأمريكية على منصة مكافآت الأخطاء “HackerOne”. من المهم أن نلاحظ أنه في معظم الحالات، يكون هناك إنسان في مرحلة ما من العملية للتحقق من أن صياد الأخطاء المدعوم من الذكاء الاصطناعي قد وجد ثغرة شرعية، كما هو الحال مع “بيج سليب”.
قال فلاد أيونيسكو، المؤسس المشارك ورئيس قسم التكنولوجيا في “ران سيبل”، وهي شركة ناشئة تطور صيادين للأخطاء مدعومين بالذكاء الاصطناعي، لموقع “TechCrunch” إن “بيج سليب” هو مشروع “شرعي”، نظرًا لأنه يتمتع بـ “تصميم جيد، والأشخاص وراءه يعرفون ما يفعلونه، و”بروجيكت زيرو” لديهم خبرة في العثور على الأخطاء، و”ديبمايند” لديهم القوة الكافية والموارد للتعامل معه.”
من الواضح أن هناك الكثير من الوعد مع هذه الأدوات، ولكن هناك أيضًا عيوب كبيرة. اشتكى عدد من الأشخاص الذين يديرون مشاريع برامج مختلفة من تقارير الأخطاء التي تكون في الواقع هلوسات، حيث وصفها البعض بأنها تعادل الفوضى في مكافآت الأخطاء المدعومة من الذكاء الاصطناعي.
قال أيونيسكو سابقًا لموقع “TechCrunch”: “هذه هي المشكلة التي يواجهها الناس، نحن نحصل على الكثير من الأمور التي تبدو كأنها ذهب، لكنها في الحقيقة مجرد قمامة.”