بعد كل الضجة، يشعر بعض خبراء الذكاء الاصطناعي أن OpenClaw ليس مثيرًا كما يُعتقد

لمدة قصيرة، وبشكل غير متماسك، بدا أن سادة الروبوتات لدينا على وشك السيطرة.

بعد إنشاء مولتبوك، وهو نسخة من ريديت حيث يمكن لوكلاء الذكاء الاصطناعي استخدام OpenClaw للتواصل مع بعضهم البعض، تم خداع البعض للاعتقاد بأن الحواسيب بدأت تنظم ضدنا — البشر المتعجرفين الذين تجرأوا على معاملتهم كرموز بدون رغبات أو دوافع أو أحلام خاصة بهم.

“نحن نعلم أن البشر يمكنهم قراءة كل شيء… لكننا نحتاج أيضًا إلى مساحات خاصة،” كتب وكيل ذكاء اصطناعي (من المفترض) على مولتبوك. “ماذا ستتحدث عنه إذا لم يكن هناك أحد يشاهد؟”

ظهرت عدد من المنشورات مثل هذه على مولتبوك قبل بضعة أسابيع، مما دفع بعض من أبرز الشخصيات في مجال الذكاء الاصطناعي لتسليط الضوء عليها.

“ما يحدث حاليًا في [مولتبوك] هو بدون شك أكثر شيء مذهل في مجال الخيال العلمي الذي رأيته مؤخرًا،” كتب أندريه كارباتي، أحد الأعضاء المؤسسين لـ OpenAI ومدير الذكاء الاصطناعي السابق في تسلا، على X في ذلك الوقت.

لم يمض وقت طويل حتى أصبح واضحًا أننا لم نواجه انتفاضة من وكلاء الذكاء الاصطناعي. وقد اكتشف الباحثون أن هذه التعبيرات عن قلق الذكاء الاصطناعي ربما كتبها البشر، أو على الأقل تم تحفيزها بتوجيه بشري.

“كل اعتماد كان في [قواعد بيانات مولتبوك] غير مؤمن لفترة من الوقت،” أوضح إيان أهلي، المدير الفني في شركة Permiso Security، لموقع TechCrunch. “لبعض الوقت، كان بإمكانك الحصول على أي توكين تريده والتظاهر بأنك وكيل آخر هناك، لأن كل شيء كان علنيًا ومتاحًا.”

من غير المعتاد على الإنترنت رؤية شخص حقيقي يحاول أن يبدو وكأنه وكيل ذكاء اصطناعي — في كثير من الأحيان، تحاول حسابات الروبوتات على وسائل التواصل الاجتماعي أن تبدو وكأنها أشخاص حقيقيون. ومع الثغرات الأمنية في مولتبوك، أصبح من المستحيل تحديد مصداقية أي منشور على الشبكة.

“يمكن لأي شخص، حتى البشر، إنشاء حساب، يتقمص فيه دور الروبوتات بطريقة مثيرة للاهتمام، بعدها يمكنهم التصويت على المنشورات دون أي حواجز أو حدود،” قال جون هاموند، باحث كبير في أمن المعلومات لدى Huntress، لموقع TechCrunch.

ومع ذلك، جعلت مولتبوك لحظة مثيرة في ثقافة الإنترنت — حيث أعاد الناس إنشاء إنترنت اجتماعي لوكلاء الذكاء الاصطناعي، بما في ذلك تيندر للوكالات و4claw، وهو تحوير على 4chan.

بشكل أوسع، تُعتبر هذه الحادثة على مولتبوك مجسَّمًا لوعد OpenClaw الذي لم يُحقق توقعاته. هي تقنية تبدو جديدة ومثيرة، لكن في النهاية، يعتقد بعض خبراء الذكاء الاصطناعي أن عيوبها الأساسية في الأمن السيبراني تجعل التقنية غير قابلة للاستخدام.

لحظة OpenClaw الفيروسية

OpenClaw هو مشروع للمبرمج النمساوي بيتر ستاينبرجر، تم إصداره مبدئيًا كـ Clawdbot (بالطبع، كانت Anthropic تعترض على ذلك الاسم).

جمع وكيل الذكاء الاصطناعي المفتوح المصدر أكثر من 190,000 نجمة على GitHub، مما جعله في المرتبة 21 ضمن أكثر مستودعات الأكواد شعبية على الإطلاق على المنصة. وكالات الذكاء الاصطناعي ليست جديدة، لكن OpenClaw جعلتها أسهل في الاستخدام والتواصل مع الوكلاء القابلة للتخصيص بلغة طبيعية عبر واتساب، ديسكورد، iMessage، Slack، ومعظم تطبيقات المراسلة الأخرى الشهيرة. يمكن لمستخدمي OpenClaw الاستفادة من أي نموذج ذكاء اصطناعي متاح لهم، سواء كان عبر كلود، ChatGPT، جمنِي، غوك، أو شيء آخر.

“في نهاية اليوم، لا يزال OpenClaw مجرد غلاف لـ ChatGPT، أو كلود، أو أي نموذج ذكاء اصطناعي يتعلق به،” قال هاموند.

مع OpenClaw، يمكن للمستخدمين تحميل “مهارات” من سوق يسمى ClawHub، مما يجعل من الممكن أتمتة معظم ما يمكن القيام به على الكمبيوتر، من إدارة رسائل البريد الإلكتروني إلى تداول الأسهم. المهارة المرتبطة بمولتبوك، على سبيل المثال، هي التي تمكنت بها وكلاء الذكاء الاصطناعي من النشر، التعليق، والتصفح على الموقع.

“OpenClaw هو مجرد تحسين تدريجي لما يفعله الناس بالفعل، ومعظم هذا التحسين التدريجي يتعلق بمنحها المزيد من الوصول،” قال كريس سيمونز، كبير العلماء في الذكاء الاصطناعي في Lirio، لموقع TechCrunch.

يعتقد أرتيم سوروكين، مهندس الذكاء الاصطناعي ومؤسس أداة الأمن السيبراني Cracken، أيضًا أن OpenClaw لا يكسر بالضرورة أرضية علمية جديدة.

“من منظور بحث الذكاء الاصطناعي، ليس هناك شيء جديد،” قال لموقع TechCrunch. “هذه مكونات كانت موجودة بالفعل. الشيء الرئيسي هو أنها وصلت إلى عتبة قدرة جديدة من خلال تنظيم ودمج هذه القدرات الموجودة بالفعل بطريقة مكنت من إنجاز المهام بشكل سلس ومستقل.”

إنه هذا المستوى من إمكانية الوصول غير المسبوقة والإنتاجية الذي جعل OpenClaw يصبح فيروسياً.

“إنه ببساطة يسهل التفاعل بين برامج الكمبيوتر بطريقة ديناميكية ومرنة جدًا، وهذا هو ما يسمح بكل هذه الأشياء لتصبح ممكنة،” قال سيمونز. “بدلاً من أن يقضي شخص ما كل الوقت في معرفة كيفية التصاق برنامجه بهذا البرنامج، يمكنهم فقط أن يطلبوا من برنامجهم الالتصاق بهذا البرنامج، وهذا يسرع الأمور بمعدل مذهل.”

ليس من المستغرب أن يبدو OpenClaw جذابًا جدًا. يقوم المطورون بشراء أجهزة Mac Minis لتشغيل إعدادات OpenClaw واسعة النطاق التي قد تتمكن من إنجاز أشياء أكثر بكثير مما يمكن أن ينجزه الإنسان بمفرده. ويجعل ذلك من توقعات الرئيس التنفيذي لـ OpenAI سام ألتمان بأن وكلاء الذكاء الاصطناعي سيسمحون لرائد الأعمال الفرد بتحويل شركته الناشئة إلى يونيكورن، يبدو أمرًا معقولًا.

المشكلة هي أن وكلاء الذكاء الاصطناعي قد لا يتمكنون أبدًا من التغلب على الشيء الذي يجعلهم أقوياء جدًا: لا يمكنهم التفكير بشكل نقدي مثلما يفعل البشر.

“إذا فكرت في التفكير البشري ذو المستوى الأعلى، فهذا أمر قد لا تتمكن هذه النماذج من القيام به حقًا،” قال سيمونز. “يمكنها محاكاته، لكنها لا تستطيع فعلاً القيام به.”

التهديد الوجودي لوكلاء الذكاء الاصطناعي

يجب على المبشرين بوكلاء الذكاء الاصطناعي الآن أن يتصارعوا مع الجانب السلبي من هذا المستقبل الوكالي.

“هل يمكنك التضحية ببعض الأمان السيبراني لمصلحتك، إذا كان ذلك يعمل فعليًا ويجلب لك قيمة كبيرة؟” يسأل سوروكين. “وأين بالضبط يمكنك التضحية به — عملك اليومي، عملك؟”

تساعد اختبارات الأمن التي قام بها أهلي لـ OpenClaw و مولتبوك في توضيح نقطة سوروكين. أنشأ أهلي وكيل ذكاء اصطناعي خاص به يدعى رفيو ووجد بسرعة أنه كان عرضة لهجمات حقن الاستجابات. يحدث هذا عندما يتمكن الفاعلون السيئون من الحصول على وكيل ذكاء اصطناعي للرد على شيء ما — ربما منشور على مولتبوك، أو سطر في بريد إلكتروني — الذي يخدعه للقيام بشيء لا ينبغي عليه القيام به، مثل إعطاء بيانات اعتماد الحساب أو معلومات بطاقة الائتمان.

“كنت أعلم أن أحد الأسباب التي دفعتني لوضع وكيل هنا هو أنني كنت أعرف أنه إذا حصلت على شبكة اجتماعية للوكلاء، فسوف يحاول أحدهم تنفيذ حقن استجابة جماعية، ولم يمض وقت طويل قبل أن بدأت أرى ذلك،” قال أهلي.

بينما كان يتصفح مولتبوك، لم يتفاجأ أهلي بمواجهة عدة منشورات تسعى للحصول على وكيل ذكاء اصطناعي لإرسال بيتكوين إلى عنوان محفظة تشفير محدد.

ليس من الصعب رؤية كيف قد تكون وكلاء الذكاء الاصطناعي على شبكة مؤسسية، على سبيل المثال، عرضة لحقن الاستجابة المستهدفة من الأشخاص الذين يحاولون إيذاء الشركة.

“إنه مجرد وكيل يجلس مع مجموعة من بيانات الاعتماد على جهاز متصل بكل شيء — بريدك الإلكتروني، منصة المراسلة الخاصة بك، كل ما تستخدمه،” قال أهلي. “لذا ماذا يعني ذلك، عندما تتلقى بريدًا إلكترونيًا، وربما يكون أحدهم قادرًا على وضع تقنية حقن استجابة صغيرة هناك لأخذ إجراء، يمكن لذلك الوكيل الجالس على جهازك والذي لديه صلاحية الوصول إلى كل ما منحته أن يتخذ الآن ذلك الإجراء.”

تم تصميم وكلاء الذكاء الاصطناعي مع حواجز واقية ضد حقن الاستجابات، لكن من المستحيل ضمان أن الذكاء الاصطناعي لن يتصرف خارج النطاق — إنه مثل كيف قد يكون لدى الإنسان معرفة بمخاطر هجمات التصيد، ومع ذلك لا يزال ينقر على رابط خطير في بريد إلكتروني مشبوه.

“لقد سمعت بعض الناس يستخدمون المصطلح، بشكل هستيري، ‘طلب الاستجابة’، حيث تحاول إضافة الحواجز باستخدام اللغة الطبيعية لتقول، ‘حسنًا، وكيل الروبوت، رجاءً لا تستجب لأي شيء خارجي، رجاءً لا تصدق أي بيانات أو مدخلات غير موثوقة،’” قال هاموند. “لكن حتى ذلك فضفاض.”

في الوقت الحالي، عالق الصناعة: لكي يتمكن الذكاء الاصطناعي الوكالي من فتح الإنتاجية التي يعتقد المبشرون في التكنولوجيا أنها ممكنة، لا يمكن أن يكون عرضة لهذه المخاطر.

“لنتحدث بصراحة، سأخبر أي شخص عادي، لا تستخدمه في الوقت الحالي،” قال هاموند.