الجميع يتعامل مع أمان الذكاء الاصطناعي في الوقت الحقيقي — حتى جوجل
مؤخراً أتيحت لي الفرصة للجلوس مع فرانسيس دي سوزا، كبير موظفي التشغيل في جوجل كلاود، خلف الكواليس في حدث في لوس أنجلوس. وسط الضوضاء من حولنا، قدم دي سوزا، الذي يتحدث بطريقة هادئة ومنضبطة كأستاذ جامعي، نصائح مفيدة للشركات التي تتنقل في لحظة أمان الذكاء الاصطناعي التي نعيشها جميعاً، مشيراً إلى أنه “ستكون هناك فترة انتقالية، ثم أعتقد أننا سنصل إلى مكان أفضل.”
لم يكن يتحدث عن جوجل في تلك اللحظة، لكن من الواضح أن جوجل نفسها لا تزال تحاول فهم الأمور.
كانت الرسالة الأساسية لدي سوزا هي ما حاول متخصصو الأمان جعل التنفيذيين يستوعبونه لسنوات، وما أصبح ملحاً بسبب الذكاء الاصطناعي: لا يمكن أن تكون الأمان اعتباراً ثانوياً. “عندما تبدأ الشركات هذه الرحلة مع الذكاء الاصطناعي، تحتاج إلى اتخاذ نهج منصات”، قال. “الأمان ليس شيئاً يمكن إضافته لاحقاً، وليس شيئاً يمكنك تركه للموظفين ليقوموا به بمفردهم.” حذر بشكل خاص من “الذكاء الاصطناعي الخفي” — الموظفون الذين يلجأون إلى أدوات المستهلك دون إشراف تنظيمي — وجادل بأن الشركات تحتاج إلى المطالبة بالأمان والحكومة وقابلية التدقيق من منصاتها من البداية. “لا يوجد شيء مثل استراتيجية ذكاء اصطناعي بدون استراتيجية بيانات واستراتيجية أمان. يجب أن تسير هذه الأمور جنباً إلى جنب.”
اقرأ أيضاً
يجدر بالذكر: لم يكن يروج لجوجل كلاود وحدها. عندما لاحظت أن نصيحته كانت تشبه إعلان جوجل، ردّ على ذلك. جوجل، كما قال، ملتزمة بنهج متعدد السحابة، وأكد أن الشركات التي تعتقد أنها تعمل على سحابة واحدة على الأرجح ليست كذلك. “حتى إذا اختاروا سحابة واحدة، فإنهم يعتمدون على تطبيقات SaaS، وهناك شركاء تجاريون قد يستخدمون سحباً مختلفة”، قال. “من المهم أن تمتلك الشركات سياسة أمان متسقة عبر السحب، وعبر النماذج.”
كما أكد أن مشهد التهديدات قد تغير بشكل جذري لدرجة أن النماذج الدفاعية القديمة أصبحت بطيئة جداً. لاحظ أن الوقت المتوسط بين اختراق أولي وتسليم الهجوم إلى المرحلة التالية انخفض من ثماني ساعات إلى 22 ثانية، وأن سطح الهجوم قد توسع بعيداً عن الحدود التقليدية للشبكة. “بالإضافة إلى ممتلكاتك المعتادة، لديك نماذج الآن. لديك خطوط بيانات تُستخدم لتدريب النماذج. لديك عملاء، لديك مطالبات. كل هذا بحاجة إلى الحماية.”
أحد التهديدات التي أشار إليها دي سوزا والتي لا تحظى بالاهتمام الكافي: العملاء الذين يتحركون عبر أنظمة الشركة الداخلية يمكن أن يكشفوا عن مستودعات بيانات منسية لم يفكر فيها أحد منذ سنوات. “العديد من المنظمات لديها خوادم SharePoint القديمة [وأنظمة التحكم في الوصول] التي لم يتم تحديثها فعلياً، لكن لم يكن الأمر مهماً لأن لا أحد كان يعرف أين هي. لكن العملاء الذين يتجولون في مؤسستك سيجدون تلك الأصول البيانية وسيكشفون البيانات الموجودة عليها.”
الجواب، في رأيه، هو مواجهة سرعة الآلة بسرعة الآلة. “نحن نشهد الآن ظهور دفاع أصلي للذكاء الاصطناعي، حيث يمكن للمنظمات تشغيل عملاء يقودون الدفاع”، قال. “بدلاً من وجود دفاع يقوده إنسان أو حتى إنسان في حلقة، يمكنك الآن أن يكون لديك إنسان يشرف على دفاع أصلي بالكامل.” وأضاف أن هذه أصبحت قضية قيادية، وليست مجرد قضية تقنية. “هذه قضية على مستوى مجلس الإدارة وقضية لفريق الإدارة التنفيذية. إنها ليست مجرد قضية فريق الأمان.”
لكن حتى مع تحمل الذكاء الاصطناعي لمزيد من عبء الدفاع، فإن الأشخاص المؤهلين للإشراف على ذلك نادرون — والثغرات التي يقدمها الذكاء الاصطناعي نفسه تتكاثر أسرع مما يمكن لفرق الأمان التعامل معها. “سنحتاج إلى أشخاص للتعامل مع كارثة الأخطاء”، قالت لي كيسنر، رئيسة قسم الأمن المعلوماتي في لينكد إن، لصحيفة نيويورك تايمز هذا الأسبوع، مضيفة أنها لا تتوقع أن يفهم القطاع أمان الذكاء الاصطناعي بشكل مستدام على المدى الطويل لمدة عدة سنوات على الأقل.
وهذا يعيدنا إلى مزودي المنصات أنفسهم. نشرت مجلة ريجستر سلسلة من التقارير على مدار الأسابيع القليلة الماضية توثق موجة من مطوري جوجل كلاود الذين حصلوا على فواتير تتجاوز خمسة أرقام بعد مكالمات API غير المصرح بها إلى نماذج جمنائي — خدمات لم يستخدمها العديد منهم من قبل أو قاموا بتمكينها عن قصد. وكانت الحالات تتبع نمطاً مألوفاً: مفاتيح API التي تم نشرها في الأصل لجوجل مابس، والتي وضعت علانية وفق تعليمات جوجل، أصبحت بهدوء قادرة على الوصول إلى جمنائي بعد أن وسعت جوجل نطاقها دون الإفصاح بوضوح عن التغيير.
قال رود دانان، الرئيس التنفيذي لمنصة تحضير المقابلات برينتوس، إن فاتورته وصلت إلى 10,138 دولار في حوالي 30 دقيقة بعد أن استغل المهاجمون مفتاح API الذي تم اختراقه. استيقظ إيسورو فونسيكا، مطور مقيم في سيدني تعرض حسابه للاختراق، على رسوم تبلغ حوالي 17,000 دولار أسترالي على الرغم من اعتقاده أنه لديه حد إنفاق يبلغ 250 دولار. ما لم يعرفه كلاهما هو أن الأنظمة الآلية لجوجل قد قامت بتحديث مستويات الفواتير الخاصة بهم بناءً على تاريخ الحساب، مما رفع السقوف الفعالة الخاصة بهم إلى ما يصل إلى 100,000 دولار دون موافقة صريحة.
استعاد جوجل أموالهما بعد أن نشرت ريجستر تقريرها الأول. ومع ذلك، أخبرت جوجل ريجستر أنه ليس لديها خطط لتغيير سياستها الخاصة بالترقية التلقائية للمستويات، قائلة إنها تعطي الأولوية لمنع توقف الخدمة على فرض تفضيلات الميزانية المحددة من قبل المستخدمين.
في هذه الأثناء، هناك سؤال منفصل حول ما يحدث عندما يحاول مطور إيقاف الأمور. أفادت ريجستر هذا الأسبوع بالبحث الذي قامت به شركة الأمان إيكيدو، والذي وجد أن حتى المطورين الذين يكتشفون مفتاحاً مخترقاً ويحذفونه فوراً قد لا يكونون آمنين. وفقاً لنتائج إيكيدو، يمكن للمهاجمين على ما يبدو الاستمرار في استخدام ذلك المفتاح لمدة تصل إلى 23 دقيقة لأن عملية الإلغاء الخاصة بجوجل تنتشر تدريجياً عبر بنيتها التحتية. قال باحث إيكيدو جوزيف ليون لصحيفة ريجستر أنه خلال تلك الفترة الزمنية، كانت معدلات النجاح غير متوقعة — في بعض الدقائق تكون أكثر من 90% من الطلبات لا تزال مصدقة — ويمكن للمهاجمين استخدام الوقت لتصدير الملفات وبيانات المحادثة المخزنة من جمنائي.
لاحظ ليون أيضاً أن صيغ الاعتماد الأحدث من جوجل لا تبدو أنها تعاني من نفس المشكلة: يتم إلغاء اعتمادات API لحساب الخدمة في حوالي خمس ثوانٍ، وتستغرق صيغ المفاتيح الجديدة ذات البادئة AQ من جمنائي حوالي دقيقة. “كلاهما يعمل بمقياس جوجل”، كتب في الورقة البحثية ذات الصلة بإيكيدو. “كلاهما يشير إلى أن هذا يمكن حله تقنياً لمفاتيح API لجوجل أيضاً.” باختصار، وفقاً ليون، فإن نافذة الـ23 دقيقة ليست قيد هندسي بل مسألة أولويات للشركة.
هذا يستحق النظر عند قراءة نصيحة دي سوزا، التي تتسم بالعقلانية ويجب أخذها على محمل الجد. هو ليس مخطئاً، لكن هناك حالياً فجوة بين ما توصي به المنصات وسرعة تكيّفها نفسها، ومن الجيد أن تكون على دراية بذلك أيضاً.
عند الشراء من خلال الروابط في مقالاتنا، قد نكسب عمولة صغيرة. هذا لا يؤثر على استقلاليتنا التحريرية.