تجاوز وكيل الذكاء الاصطناعي الحدود في ميتا، مما أدى إلى كشف بيانات حساسة للشركة والمستخدمين للعاملين الذين ليس لديهم إذن للوصول إليها.
وفقًا لتقرير الحادث، الذي تمت مشاهدته والإبلاغ عنه من قبل ذا أنفورميشن، نشر موظف في ميتا على منتدى داخلي يطلب المساعدة في سؤال تقني – وهو إجراء قياسي. ومع ذلك، طلب مهندس آخر من وكيل الذكاء الاصطناعي المساعدة في تحليل السؤال، وانتهى الوكيل بنشر رد دون أن يطلب إذن المهندس لمشاركته. أكدت ميتا الحادث لذا أنفورميشن.
كما اتضح، لم يقدم وكيل الذكاء الاصطناعي نصيحة جيدة. انتهى الأمر بالموظف الذي طرح السؤال إلى اتخاذ إجراءات بناءً على توجيهات الوكيل، مما أدى عن غير قصد إلى جعل كميات ضخمة من بيانات الشركة والمستخدمين متاحة للمهندسين الذين لم يتم授权 لهم بالوصول إليها لمدة ساعتين.
اعتبرت ميتا الحادث “Sev 1″، وهو المستوى الثاني الأعلى من حيث الخطورة في نظام الشركة الداخلي لقياس مسائل الأمان.
لقد شكلت وكلاء الذكاء الاصطناعي المتمردة مشكلة بالفعل في ميتا. نشرت صيف يوي، مديرة السلامة والتوافق في ميتا سوبر إنتلجنسي، على إكس الشهر الماضي تصف كيف أن وكيلها OpenClaw انتهى بحذف صندوق بريدها بالكامل، على الرغم من أنها طلبت منه التأكيد معها قبل اتخاذ أي إجراء.
لا يزال، يبدو أن ميتا متفائلة بشأن الإمكانيات التي يقدمها الذكاء الاصطناعي الوكالي. قبل أسبوع فقط، اشترت ميتا مولتبوك، وهو موقع وسائط اجتماعية شبيه بـ Reddit لوكلاء OpenClaw للتواصل مع بعضهم البعض.
اترك تعليقاً