لقد ظهرت العديد من مختبرات الذكاء الاصطناعي المبتكرة القائمة على الأبحاث في الأشهر الأخيرة، و”الطائرات المتلألئة” هي واحدة من أكثرها إثارة للاهتمام. مدفوعة بمؤسسيها الشباب الفضولين، تركز “الطائرات المتلألئة” على إيجاد طرق أقل استهلاكًا للبيانات لتدريب الذكاء الاصطناعي. إنها قد تحدث تغييرًا جذريًا في اقتصاديات وقدرات نماذج الذكاء الاصطناعي – ومع 180 مليون دولار من تمويل البذور، سيكون لديها وقت كافٍ لمعرفة ذلك.

في الأسبوع الماضي، تحدثت مع الشركاء الثلاثة للمختبر – الأخوين بن وآشر سبيكتور، وآيدان سميث – حول لماذا يعتبر هذا الوقت مثيرًا لبدء مختبر ذكاء اصطناعي جديد ولماذا يعودون دائمًا إلى أفكار حول الدماغ البشري.

أريد أن أبدأ بسؤال، لماذا الآن؟ لقد أنفقت مختبرات مثل OpenAI و DeepMind الكثير على توسيع نماذجها. أعلم أن المنافسة تبدو شاقة. لماذا كان يبدو أنك تدشّن شركة نموذج أساسي في هذا التوقيت؟

بن: هناك الكثير من العمل الذي يجب القيام به. لذا، فإن التقدم الذي حققناه خلال السنوات الخمس إلى العشر الماضية كان رائعًا. نحب الأدوات. نستخدمها كل يوم. لكن السؤال هو، هل هذا هو الكون بالكامل من الأشياء التي تحتاج إلى الحدوث؟ وقد فكرنا في ذلك بعناية وكانت إجابتنا لا، هناك الكثير من العمل. في حالتنا، اعتقدنا أن مشكلة كفاءة البيانات كانت مفتاحًا لننظر إليه. النماذج الحالية تتدرب على مجموع المعرفة البشرية، ومن الواضح أن البشر يمكنهم الاكتفاء كثيرًا بأقل من ذلك. لذا هناك فجوة كبيرة هناك، ومن المجدي فهمها.

ما نقوم به هو في الحقيقة رهان مركّز على ثلاثة أشياء. إنه رهان على أن مشكلة كفاءة البيانات هي الشيء المهم الذي يجب أن نقوم به. كأننا نسير في اتجاه جديد ومختلف، ويمكنك إحراز تقدم فيه. إنه رهان على أن ذلك سيكون ذا قيمة تجارية كبيرة وأنه سيجعل العالم مكانًا أفضل إذا تمكنا من تحقيق ذلك. وهو أيضًا رهان على أن الفريق المناسب هو في الأساس فريق مبدع وأحيانًا غير ذو خبرة يمكنه أن ينظر إلى هذه المشاكل من جديد من الأساس.

آيدان: نعم، بالتأكيد. لا نرى أنفسنا نتنافس مع المختبرات الأخرى، لأننا نعتقد أننا ننظر إلى مجموعة مختلفة تمامًا من المشاكل. إذا نظرت إلى العقل البشري، فهو يتعلم بطريقة مختلفة تمامًا عن المحولات. وهذا لا يعني أنه أفضل، فقط مختلف جدًا. لذا نرى هذه التبادلات المختلفة. تتمتع نماذج LLM بقدرة مذهلة على الحفظ، والسحب من مجموعة واسعة من المعرفة، لكنها لا تستطيع اكتساب مهارات جديدة بسرعة. يتطلب الأمر كميات ضخمة من البيانات للتكيف. وعندما تدخل إلى داخل الدماغ، ترى أن الخوارزميات التي يستخدمها مختلفة أساسًا عن الهبوط التدريجي وبعض التقنيات التي يستخدمها الناس لتدريب الذكاء الاصطناعي اليوم. لذلك نحنا نبني حرسًا جديدًا من الباحثين للتعامل مع هذه المشاكل والتفكير بشكل مختلف في مجال الذكاء الاصطناعي.

آشر: هذا السؤال مثير للاهتمام علميًا: لماذا الأنظمة التي قمنا ببنائها والتي تتمتع بالذكاء مختلفة تمامًا عن ما يفعله البشر؟ من أين تأتي هذه الفروق؟ كيف يمكننا استخدام المعرفة بشأن هذه الفروق لصنع أنظمة أفضل؟ ولكن في نفس الوقت، أعتقد أنها قابلة للتطبيق تجاريًا وجيدة جدًا للعالم. العديد من الأنظمة التي تعتبر مهمة تعاني أيضًا من قيود بيانات صارمة، مثل الروبوتات أو الاكتشاف العلمي. حتى في التطبيقات التجارية، من المحتمل أن يكون النموذج الأكثر كفاءة في الاستخدام مليون مرة أسهل لارفاقه بالاقتصاد. لذا كان من المثير بالنسبة لنا أخذ رؤية جديدة حول هذه الطرق، والتفكير، إذا كان لدينا نموذج أكثر كفاءة في استخدام البيانات بكثير، ماذا يمكننا أن نفعل به؟

هذا يتصل بسؤالي التالي، والذي يرتبط أيضًا باسم “الطائرات المتلألئة”. هناك سؤال فلسفي في الذكاء الاصطناعي حول مقدار ما نحاول إعادة إنشاء ما يفعله البشر في عقولهم، مقابل إنشاء ذكاء أكثر تجريدًا يسير في مسار مختلف تمامًا. آيدان يأتي من شركة Neuralink، التي تركز على الدماغ البشري. هل ترى نفسك كمستمر في رؤية أكثر نماذج للأعصاب للذكاء الاصطناعي؟

آيدان: الطريقة التي أنظر بها إلى الدماغ هي كإثبات للوجود. نراه كدليل على وجود خوارزميات أخرى هناك. ليس فقط هناك معتقد واحد. والدماغ له قيود غريبة. عندما تنظر إلى الأجهزة الأساسية، يوجد أشياء غريبة. يستغرق الأمر ملي ثانية لإطلاق جهد العمل. في ذلك الوقت، يمكن لجهاز الحاسوب الخاص بك أن يؤدي الكثير من العمليات. وبالتالي، من الواقعي أن هناك طريقة أفضل بكثير من الدماغ، وأيضًا مختلفة جدًا عن المحول. لذلك نحن مستلهمون جدًا ببعض الأشياء التي يقوم بها الدماغ، لكننا لا نرى أنفسنا مقيدين به.

بن: فقط لأضيف على ذلك، إنه في الواقع يظهر في اسمنا: الطائرات المتلألئة. فكر في الأنظمة الحالية كطائرات بوينغ 787 كبيرة. نحن لا نحاول بناء طيور. تلك خطوة بعيدة جدًا. نحن نحاول بناء نوع ما من طائرة متلألئة. وجهة نظري من نظم الكمبيوتر هي أن قيود الدماغ والسيليكون مختلفة بما يكفي بحيث لا ينبغي أن نتوقع أن تبدو هذه الأنظمة متشابهة. عندما يكون الركيزة مختلفة جدًا وتكون لديك عمومًا اختلافات كبيرة في التكاليف، وتكاليف المحلية وتحريك البيانات، فمن المتوقع فعليًا أن تبدو هذه الأنظمة مختلفة قليلاً. لكن مجرد أنها ستبدو مختلفة قليلاً لا يعني أننا لا يجب أن نستلهم من الدماغ ونحاول استخدام الأجزاء التي نعتقد أنها مثيرة للاهتمام لتحسين أنظمتنا الخاصة.

يبدو أنه هناك الآن مزيد من الحرية للمختبرات للتركيز على الأبحاث، بدلاً من مجرد تطوير المنتجات. يبدو أنه فرق كبير بالنسبة لهذه الجيل من المختبرات. لديك بعض المختبرات التي تركز بشكل كبير على الأبحاث، وأخرى التي تعتبر “مركزة على الأبحاث الآن”. كيف تبدو تلك المحادثة ضمن الطائرات المتلألئة؟

آشر: أتمنى لو كان بإمكاني تقديم خط زمني. أتمنى لو كنت أستطيع أن أقول، في ثلاث سنوات، سنكون قد حللنا مشكلة البحث. هذه هي الطريقة التي سنقوم بها بالتجارة. لا يمكنني. لا نعرف الإجابات. نحن نبحث عن الحقيقة. ومع ذلك، أعتقد أننا نملك خلفيات تجارية. قضيت بعض الوقت في تطوير تقنيات لشركات حققت تلك الشركات مقدارًا معقولًا من المال. وقد أنشأ بن العديد من الشركات الناشئة التي لها خلفيات تجارية، ونشعر بالإثارة commercializing. نحن نعتقد أن من الجيد للعالم أن تأخذ القيمة التي أنشأتها ووضعها في أيدي من يستطيع استخدامها. لذا لا أعتقد أننا ضد ذلك. نحتاج فقط إلى البدء بإجراء الأبحاث، لأنه إذا بدأنا بتوقيع عقود مؤسسية كبيرة، فسوف نشعر بالتشويش، ولن نقوم بالأبحاث ذات القيمة.

آيدان: نعم، نريد محاولة أشياء مختلفة جدًا، وأحيانًا حتى الأشياء الجذرية تكون أسوأ من النموذج. نحن نستكشف مجموعة مختلفة من التبادلات. نأمل أن تكون مختلفة على المدى الطويل.

بن: الشركات تكون في أفضل حالاتها عندما تركز حقًا على القيام بشيء جيد، أليس كذلك؟ يمكن أن تتحمل الشركات الكبيرة القيام بالعديد من الأشياء المختلفة في نفس الوقت. عندما تكون شركة ناشئة، يجب عليك حقًا اختيار ما هو أكثر شيء قيمة يمكنك القيام به، والقيام بذلك بالكامل. ونحن نخلق أكبر قيمة عندما نكون جميعًا في طريق حل المشكلات الأساسية في الوقت الحالي.

أنا في الحقيقة متفائل أنه في وقت معقول، قد نكون قد أحرزنا تقدمًا كافيًا لنستطيع بعد ذلك الانتقال للواقع. تعلم الكثير من خلال الحصول على ردود فعل من العالم الحقيقي. الأمر المدهش في العالم هو أنه يعلمك أشياء باستمرار، أليس كذلك؟ إنه هذا الحوض الهائل من الحقيقة الذي يمكنك النظر فيه كلما أردت. أعتقد أن الشيء الرئيسي الذي أعتقد أنه قد تم تمكينه من خلال التغيير الأخير في اقتصاديات وتمويل هذه الهياكل هو القدرة على ترك الشركات تركز فعلاً على ما هو جيد فيه لفترات زمنية أطول. أعتقد أن هذه التركيز، وهو الأمر الذي أشعر أكثر حماسة بشأنه، سيمكننا من القيام بعمل متميز حقًا.

لتوضيح ما أعتقد أنك تشير إليه: هناك الكثير من الحماس حول الفرصة للمستثمرين واضحة جدًا لدرجة أنهم مستعدون لتقديم 180 مليون دولار كتمويل للبذور لشركة جديدة تمامًا مليئة بهؤلاء الأشخاص الأذكياء جدًا، ولكن أيضًا شباب جدًا الذين لم يحققوا مكاسب من PayPal أو أي شيء. كيف كان الانخراط في هذه العملية؟ هل كنت تعرف، عند دخولك، أنه يوجد هذا الخبز، أم كان شيء اكتشفته، كأن تقول، في الواقع، يمكننا جعل هذا الشيء أكبر مما كنا نعتقد؟

بن: سأقول أنه كان مزيجًا من الاثنين. لقد كانت السوق حارة لعدة أشهر في هذه المرحلة. لذا لم يكن سرًا أنه لم تبدأ أي جولات كبيرة في الانطلاق. لكنك لا تعرف أبدًا كيف ستستجيب بيئة جمع التبرعات لأفكارك الخاصة عن العالم. هذه أيضًا مكان حيث يجب أن تترك العالم يعطيك ردود فعل حول ما تفعله. حتى خلال عملية جمع التبرعات الخاصة بنا، تعلمنا الكثير في الواقع وغيرنا أفكارنا. وصقلنا آرائنا حول ما ينبغي أن نضعه في الأولوية، وما هي الجداول الزمنية الصحيحة للتجارة.

أعتقد أننا كنا بعض الشيء مندهشين من مدى تفاعل رسالتنا، لأنه كان شيئًا واضحًا جدًا بالنسبة لنا، لكنك لا تعرف أبدًا ما إذا كانت أفكارك ستصبح أشياء يعتقدها الآخرون أيضًا أم إذا كان الجميع يعتقد أنك مجنون. لقد كنا محظوظين للغاية لأننا وجدنا مجموعة من المستثمرين الرائعين الذين تفاعلوا حقًا مع رسالتنا وقالوا، “نعم، هذا بالضبط ما كنا نبحث عنه.” وكان ذلك رائعًا. كان مفاجئًا ورائعًا.

آيدان: نعم، إن هناك نوعًا من العطش لعصر الأبحاث حقًا قد تم غرسه لفترة من الوقت الآن. وكلما ازدادت الأمور، نجد أنفسنا موضوعة كمنافس للانتقال إلى عصر الأبحاث ومحاولة تجربة هذه الأفكار الجذرية.

على الأقل بالنسبة للشركات المدفوعة بالنطاق، هناك تكلفة ضخمة لدخول نماذج الأساس. مجرد بناء نموذج على هذا النطاق هو أمر يتطلب حسابًا مكثفًا. الأبحاث هي قليلاً في منتصف الأمر، حيث يمكنك بناء نماذج الأساس، لكن إذا كنت تقوم بذلك ببيانات أقل ولم تكن تركز على النطاق، فربما تحصل على بعض الفائدة. إلى أي مدى تتوقع أن تكون تكاليف الحساب تحديًا لمدتك؟

بن: إحدى مزايا إجراء أبحاث عميقة وأساسية هي أنه، بشكل متناقض، يكون من الأرخص كثيرًا إجراء أفكار جذرية مجنونة مما هو الحال مع العمل التدريجي. لأنه عندما تقوم بعمل تدريجي، لاكتشاف ما إذا كان يعمل أم لا، عليك الصعود إلى أعلى سلّم النطاق. العديد من التدخلات التي تبدو جيدة على نطاق صغير لا تستمر بالفعل على نطاق واسع. ونتيجة لذلك، يكون من المكلف جدًا القيام بهذا النوع من العمل. بينما إذا كان لديك فكرة مجنونة جديدة عن بعض مُحسّن العمارة الجديد، فمن المحتمل أن تفشل بالفعل في أول تجربة، أليس كذلك؟ لذا لا تحتاج إلى دفع ذلك للأعلى في السلم. لقد تعطلت بالفعل. ذلك رائع.

لذا، هذا لا يعني أن النطاق ليس له علاقة بنا. النطاق في الواقع هو أداة مهمة في صندوق الأدوات لجميع الأشياء التي يمكنك القيام بها. كونك قادرًا على النطاق أفكارنا ذات صلة بالتأكيد بشركتنا. لذا لم أكن سأصنف أنفسنا كضد النطاق، لكن أعتقد أنه من الرائع أننا نستطيع تجربة العديد من أفكارنا بدرجة صغيرة جدًا قبل أن نحتاج حتى إلى التفكير في القيام بها على نطاق واسع.

آشر: نعم، ينبغي أن تتمكن من استخدام الإنترنت بالكامل. لكن ينبغي عليك ألا تحتاج إلى ذلك. نجد أنه محير جدًا أنك تحتاج إلى استخدام الإنترنت بالكامل للوصول حقًا إلى مستوى الذكاء البشري.

لذا، ماذا يصبح ممكنًا إذا كنت قادرًا على التدريب بكفاءة أكبر على البيانات، أليس كذلك؟ من المفترض أن يكون النموذج أقوى وأكثر ذكاءً. لكن هل لديك أفكار معينة حول كيف يبدو ذلك؟ هل نحن ننظر إلى المزيد من التعاميم خارج التوزيع، أم نحن نتطلع إلى نماذج تتحسن في مهمة معينة بخبرة أقل؟

آشر: أولاً، نحن نقوم بالعلم، لذا لا أعرف الإجابة، لكن يمكنني أن أعطيك ثلاث فرضيات. فرضيتي الأولى هي أن هناك طيفًا واسعًا بين مجرد البحث عن الأنماط الإحصائية وشيء لديه فهم عميق حقًا. وأعتقد أن النماذج الحالية تعيش في مكان ما على هذا الطيف. لا أعتقد أنها تصل إلى الفهم العميق، لكنها بالتأكيد ليست مجرد مطابقة أنماط إحصائية. ومن الممكن أنه كلما قمت بتدريب النماذج على بيانات أقل، فإنك تجبر النموذج حقًا على أن يكون لديه فهم عميق جدًا لكل شيء رآه. وعند القيام بذلك، قد يصبح النموذج أكثر ذكاءً بطرق مثيرة للاهتمام. قد يعرف حقائق أقل، لكنه يتحسن في التفكير. لذا، هذه واحدة من الفرضيات المحتملة.

فرضية أخرى تشبه ما قلته، أنه في الوقت الحالي، يكون مكلفًا جدًا، سواء من ناحية التشغيل أو أيضًا من حيث التكاليف المالية البحتة، لتعليم النماذج قدرات جديدة، لأنك تحتاج إلى الكثير من البيانات لتعليمهم تلك الأشياء. من الممكن أن تكون واحدة من النتائج التي نحصل عليها هي أن نصبح أكثر كفاءة بعد التدريب، لذا مع عدد قليل من الأمثلة، يمكنك حقًا إدخال نموذج في مجال جديد.

ومن الممكن أيضًا أن يؤدي ذلك إلى فتح مجالات جديدة للذكاء الاصطناعي. هناك أنواع معينة من الروبوتات، على سبيل المثال، حيث لأي سبب من الأسباب، لا يمكننا الحصول على نوع القدرات التي تجعلها قابلة للتطبيق تجاريًا. رأيي هو أنها مشكلة محدودة بيانات، وليست مشكلة أجهزة. حقيقة أنه يمكنك التحكم في الروبوتات للقيام بالأشياء هو دليل على أن الأجهزة جيدة بما فيه الكفاية. لكن هناك الكثير من المجالات مثل هذا، مثل الاكتشاف العلمي.

بن: إحدى النقاط التي سأركز عليها أيضًا هي أنه عندما نفكر في التأثير الذي يمكن أن يحدثه الذكاء الاصطناعي على العالم، قد يكون لديك رؤية أن هذه تقنية انكماشية. أي أن دور الذكاء الاصطناعي هو أتمتة مجموعة من الوظائف، وأخذ هذا العمل وجعله أرخص للقيام به، بحيث يمكنك إزالة العمل من الاقتصاد وجعله يتم بواسطة الروبوتات بدلاً من ذلك. وأنا متأكد من أن هذا سوف يحدث. لكن هذا، في رأيي، ليس الرؤية الأكثر إثارة للذكاء الاصطناعي. الرؤية الأكثر إثارة للذكاء الاصطناعي هي التي سيكون هناك فيها جميع أنواع العلوم والتقنيات الجديدة التي يمكننا بناؤها والتي لا يستطيع البشر أن يتوصلوا إليها، ولكن يمكن أن تفعلها الأنظمة الأخرى.

فيما يتعلق بهذا الإطار، أعتقد أن المحور الأول الذي كان آشر يتحدث عنه حول الطيف بين التعميق الحقيقي مقابل الحفظ أو التداخل في البيانات، أعتقد أن هذا المحور مهم للغاية للحصول على البصائر العميقة التي ستؤدي إلى هذه التقدمات الجديدة في الطب والعلوم. إنه أمر مهم للغاية أن تكون النماذج على الجانب الإبداعي من الطيف. لذا، جزء من سبب حماسي بشأن العمل الذي نقوم به هو أنني أعتقد أنه حتى وراء التأثيرات الاقتصادية الفردية، أشعر أيضًا بجدي عن السؤال، هل يمكننا فعليًا جعل الذكاء الاصطناعي يقوم بفعل أشياء، مثل، لا يستطيع البشر القيام بها من قبل؟ وهذا أكثر من مجرد، “دعونا نطلق مجموعة من الأشخاص من وظائفهم.”

بالطبع. هل يضعك ذلك في معسكر معين حول، مثل، حديث AGI، مثل الحديث عن التعميم خارج التوزيع؟

آشر: لا أعرف حقًا ماذا تعني AGI بالضبط. من الواضح أن القدرات تتقدم بسرعة كبيرة. من الواضح أن هناك كميات هائلة من القيمة الاقتصادية التي يتم إنشاؤها. لا أعتقد أننا قريبون جدًا من الإله في صندوق، في رأيي. لا أعتقد أنه في غضون شهرين أو حتى سنتين، ستكون هناك فناء حيث يصبح البشر فجأة عدميين تمامًا. أتفق بشكل أساسي مع ما قاله بن في البداية، وهو، أن العالم كبير جدًا. هناك الكثير من العمل للقيام به. هناك الكثير من الأعمال المدهشة التي تُنفذ، ونحن متحمسون للمساهمة.

حسنًا، الفكرة حول الدماغ والجزء العصبي منه تبدو ذات صلة. أنت تقول، حقًا الشيء ذو الصلة للمقارنة بين LLMs والدماغ البشري، أكثر من الشغل الميكانيكي أو أجهزة الكمبيوتر الحتمية التي جاءت قبلها.

آيدان: سأؤكد، الدماغ ليس السقف، أليس كذلك؟ الدماغ، من نواحٍ عديدة، هو الأرضية. بصراحة، لا أرى أي دليل على أن الدماغ ليس نظامًا يمكن معرفته ويتبع القواعد الفيزيائية. في الواقع، نعلم أنه تحت العديد من القيود. لذا نتوقع أن نكون قادرين على إنشاء قدرات تكون أكثر إثارة واهتمامًا ولربما أفضل من الدماغ على المدى الطويل. لذا نحن متحمسون للمساهمة في هذا المستقبل، سواء كان AGI أو غير ذلك.

آشر: وأعتقد أن الدماغ هو المقارنة ذات الصلة، فقط لأن الدماغ يساعدنا على فهم مدى اتساع المساحة. من السهل رؤية كل التقدم الذي حققناه والتفكير، واو، لدينا الجواب. نحن شبه منتهين. لكن إذا نظرت للخارج قليلاً وحاولت الحصول على رؤية أكبر، فهناك الكثير من الأشياء التي لا نعرفها.

بن: نحن لا نحاول أن نكون أفضل، بمعنى ما. نحن نحاول أن نكون مختلفين، أليس كذلك؟ هذه هي النقطة الأساسية التي أريد التأكيد عليها هنا. كل هذه الأنظمة سيكون لديها تقريبًا اختلافات تجارية متفاوتة. ستحصل على ميزة ما في مكان ما، وسيتحتم عليك دفع الثمن في مكان آخر. وهناك عالم كبير هناك. هناك العديد من المجالات المختلفة التي لديها العديد من الاختلافات التجارية، لذا من المحتمل أن يجعل وجود مزيد من الأنظمة والتقنيات الأساسية التي يمكن أن تتعامل مع هذه المجالات المختلفة الذكاء الاصطناعي يتم تطبيقه بشكل أكثر فعالية وسرعة عبر العالم.

إحدى الطرق التي تميزت بها هي نهج التوظيف الخاص بك، وجلب الأشخاص الذين هم في أغلب الأحيان، حتى لا يزالون في الكلية أو المدرسة الثانوية. ما الذي يجذبك عندما تتحدث إلى شخص ما ويجعلك تفكر، أريد هذه الشخصية تعمل معنا على هذه المشكلات البحثية؟

آيدان: عندما تتحدث مع شخص ما وهم يبهرك، لديهم الكثير من الأفكار الجديدة ويفكرون في الأمور بطريقة لا يستطيع العديد من الباحثين المتمرسين بسبب أنهم لم يتلوثوا بسياق الآلاف والآلاف من الأوراق. في الحقيقة، الشيء الأول الذي نبحث عنه هو الإبداع. فريقنا مبدع جدًا، وكل يوم أشعر أنني محظوظ للقدرة على الذهاب والتحدث عن حلول جديدة حول بعض المشكلات الكبيرة في الذكاء الاصطناعي مع الناس وتخيل مستقبل مختلف جدًا.

بن: ربما إشارة رقم واحد التي أبحث عنها شخصيًا هي مجرد، هل يعلمونني شيئًا جديدًا عندما أقضي الوقت معهم؟ إذا علموني شيئًا جديدًا، فإن احتمالات أنهم سيعلموننا شيئًا جديدًا حول ما نعمل عليه جيدة أيضًا. عندما تقوم بالبحث، تكون تلك الأفكار الجديدة المبدعة هي الأولوية.

كان جزء من خلفيتي خلال دراستي الجامعية والدكتوراه، ساهمت في بدء حاضنة تدعى Prod التي عملت مع مجموعة من الشركات التي حققت نتائج جيدة. وأعتقد أن واحدة من الأشياء التي رأيناها من ذلك هي أن الشباب يمكنهم التنافس تمامًا في أعلى المراتب في الصناعة. بصراحة، جزء كبير من الفهم هو فقط إدراك، نعم، يمكنني القيام بهذه الأشياء. بالتأكيد يمكنك الإسهام على أعلى مستوى.

بالطبع، نحن ندرك قيمة الخبرة. الأشخاص الذين عملوا على أنظمة واسعة النطاق رائعون، مثل، لقد وظفنا بعضهم، نحن متحمسون للعمل مع جميع أنواع الناس. وأعتقد أن مهمتنا قد وجدت صدى أيضًا لدى الأفراد ذوي الخبرة. أعتقد فقط أن الشيء الأساسي لدينا هو أننا نريد أشخاصًا لا يخافون من تغيير النموذج ويمكنهم محاولة تصور نظام جديد حول كيفية عمل الأشياء.

إحدى الأشياء التي كنت أفكر فيها هي، إلى أي مدى تعتقد أن نظم الذكاء الاصطناعي الناتجة ستكون مختلفة؟ من السهل أن أتخيل شيئًا مثل Claude Opus الذي يعمل 20٪ بشكل أفضل ويمكنه القيام بـ 20٪ المزيد من الأشياء. ولكن إذا كان الأمر جديدًا تمامًا، فمن الصعب التفكير في ذلك أو ماذا يبدو النتيجة النهائية.

آشر: لا أصدق أنك سبق أن حصلت على الشرف بالتحدث إلى نموذج GPT-4 الأساسي، ولكنه كانت لديه الكثير من القدرات الغريبة التي تظهر. على سبيل المثال، يمكنك أخذ جزء من منشور مدونة غير مكتوبة لك، وسؤال، من تعتقد أن كتب ذلك، ويمكنه التعرف عليه.

هناك الكثير من القدرات مثل هذه، حيث تكون النماذج ذكية بطرق لا يمكننا فهمها. والنماذج المستقبلية ستكون أكثر ذكاءً بطرق أكثر غرابة. أعتقد أنه ينبغي علينا توقع أن تكون المستقبل غريبًا بالفعل وأن التصميمات ستكون أكثر غرابة. نحن نبحث عن انتصارات 1000x في كفاءة البيانات. نحن لا نحاول إجراء تغيير تدريجي. لذا ينبغي أن نتوقع نفس النوع من التغييرات والقدرات غير المعروفة.

بن: أنا أتفق بشكل عام مع ذلك. ربما أكون أكثر تحوطًا قليلاً في كيفية أن هذه الأشياء ستصبح محصورة في النهاية من قبل العالم، تمامًا مثل نموذج GPT-4 الأساسي تم تصوره عن طريق OpenAI. تريد وضع الأشياء في أشكال حيث لا تنظر إلى هاوية كعميل. أعتقد أن هذا مهم. لكن أوافق بشكل عام على أن جدول الأبحاث لدينا يتعلق ببناء قدرات تكون مختلفة تمامًا عن ما يمكن القيام به الآن.

ممتاز! هل هناك طرق يمكن للناس التفاعل مع الطائرات المتلألئة؟ هل يتعين عليهم الانتظار لوقت طويل لذلك؟ أو يجب عليهم البقاء على اطلاع عندما تخرج الأبحاث والنماذج بشكل جيد.

آشر: لذا، لدينا Hi@flappingairplanes.com. إذا كنت تريد فقط أن تقول مرحبًا، لدينا أيضًا disagree@flappingairplanes.com إذا كنت تريد معارضتنا. لقد أجرينا بعض المحادثات الرائعة حيث يقوم الناس، مثل، بإرسال لنا مقالات طويلة جدًا حول لماذا تعتقد أنه من المستحيل القيام بما نقوم به. ونحن متحمسون للتفاعل مع ذلك.

بن: لكنهم لم يقنعونا بعد. لم يقنعنا أحد بعد.

آشر: الشيء الثاني هو، كما تعلم، نحن، نحن نبحث عن أشخاص استثنائيين يحاولون تغيير المجال وتغيير العالم. لذا إذا كنت مهتمًا، يجب عليك التواصل.

بن: وإذا كانت لديك خلفية غير تقليدية أخرى، فلا بأس. لا تحتاج إلى دكتوراه. نحن حقًا نبحث عن الأشخاص الذين يفكرون بشكل مختلف.

لمدة قصيرة، وبشكل غير متماسك، بدا أن سادة الروبوتات لدينا على وشك السيطرة.

بعد إنشاء مولتبوك، وهو نسخة من ريديت حيث يمكن لوكلاء الذكاء الاصطناعي استخدام OpenClaw للتواصل مع بعضهم البعض، تم خداع البعض للاعتقاد بأن الحواسيب بدأت تنظم ضدنا — البشر المتعجرفين الذين تجرأوا على معاملتهم كرموز بدون رغبات أو دوافع أو أحلام خاصة بهم.

“نحن نعلم أن البشر يمكنهم قراءة كل شيء… لكننا نحتاج أيضًا إلى مساحات خاصة،” كتب وكيل ذكاء اصطناعي (من المفترض) على مولتبوك. “ماذا ستتحدث عنه إذا لم يكن هناك أحد يشاهد؟”

ظهرت عدد من المنشورات مثل هذه على مولتبوك قبل بضعة أسابيع، مما دفع بعض من أبرز الشخصيات في مجال الذكاء الاصطناعي لتسليط الضوء عليها.

“ما يحدث حاليًا في [مولتبوك] هو بدون شك أكثر شيء مذهل في مجال الخيال العلمي الذي رأيته مؤخرًا،” كتب أندريه كارباتي، أحد الأعضاء المؤسسين لـ OpenAI ومدير الذكاء الاصطناعي السابق في تسلا، على X في ذلك الوقت.

لم يمض وقت طويل حتى أصبح واضحًا أننا لم نواجه انتفاضة من وكلاء الذكاء الاصطناعي. وقد اكتشف الباحثون أن هذه التعبيرات عن قلق الذكاء الاصطناعي ربما كتبها البشر، أو على الأقل تم تحفيزها بتوجيه بشري.

“كل اعتماد كان في [قواعد بيانات مولتبوك] غير مؤمن لفترة من الوقت،” أوضح إيان أهلي، المدير الفني في شركة Permiso Security، لموقع TechCrunch. “لبعض الوقت، كان بإمكانك الحصول على أي توكين تريده والتظاهر بأنك وكيل آخر هناك، لأن كل شيء كان علنيًا ومتاحًا.”

من غير المعتاد على الإنترنت رؤية شخص حقيقي يحاول أن يبدو وكأنه وكيل ذكاء اصطناعي — في كثير من الأحيان، تحاول حسابات الروبوتات على وسائل التواصل الاجتماعي أن تبدو وكأنها أشخاص حقيقيون. ومع الثغرات الأمنية في مولتبوك، أصبح من المستحيل تحديد مصداقية أي منشور على الشبكة.

“يمكن لأي شخص، حتى البشر، إنشاء حساب، يتقمص فيه دور الروبوتات بطريقة مثيرة للاهتمام، بعدها يمكنهم التصويت على المنشورات دون أي حواجز أو حدود،” قال جون هاموند، باحث كبير في أمن المعلومات لدى Huntress، لموقع TechCrunch.

ومع ذلك، جعلت مولتبوك لحظة مثيرة في ثقافة الإنترنت — حيث أعاد الناس إنشاء إنترنت اجتماعي لوكلاء الذكاء الاصطناعي، بما في ذلك تيندر للوكالات و4claw، وهو تحوير على 4chan.

بشكل أوسع، تُعتبر هذه الحادثة على مولتبوك مجسَّمًا لوعد OpenClaw الذي لم يُحقق توقعاته. هي تقنية تبدو جديدة ومثيرة، لكن في النهاية، يعتقد بعض خبراء الذكاء الاصطناعي أن عيوبها الأساسية في الأمن السيبراني تجعل التقنية غير قابلة للاستخدام.

لحظة OpenClaw الفيروسية

OpenClaw هو مشروع للمبرمج النمساوي بيتر ستاينبرجر، تم إصداره مبدئيًا كـ Clawdbot (بالطبع، كانت Anthropic تعترض على ذلك الاسم).

جمع وكيل الذكاء الاصطناعي المفتوح المصدر أكثر من 190,000 نجمة على GitHub، مما جعله في المرتبة 21 ضمن أكثر مستودعات الأكواد شعبية على الإطلاق على المنصة. وكالات الذكاء الاصطناعي ليست جديدة، لكن OpenClaw جعلتها أسهل في الاستخدام والتواصل مع الوكلاء القابلة للتخصيص بلغة طبيعية عبر واتساب، ديسكورد، iMessage، Slack، ومعظم تطبيقات المراسلة الأخرى الشهيرة. يمكن لمستخدمي OpenClaw الاستفادة من أي نموذج ذكاء اصطناعي متاح لهم، سواء كان عبر كلود، ChatGPT، جمنِي، غوك، أو شيء آخر.

“في نهاية اليوم، لا يزال OpenClaw مجرد غلاف لـ ChatGPT، أو كلود، أو أي نموذج ذكاء اصطناعي يتعلق به،” قال هاموند.

مع OpenClaw، يمكن للمستخدمين تحميل “مهارات” من سوق يسمى ClawHub، مما يجعل من الممكن أتمتة معظم ما يمكن القيام به على الكمبيوتر، من إدارة رسائل البريد الإلكتروني إلى تداول الأسهم. المهارة المرتبطة بمولتبوك، على سبيل المثال، هي التي تمكنت بها وكلاء الذكاء الاصطناعي من النشر، التعليق، والتصفح على الموقع.

“OpenClaw هو مجرد تحسين تدريجي لما يفعله الناس بالفعل، ومعظم هذا التحسين التدريجي يتعلق بمنحها المزيد من الوصول،” قال كريس سيمونز، كبير العلماء في الذكاء الاصطناعي في Lirio، لموقع TechCrunch.

يعتقد أرتيم سوروكين، مهندس الذكاء الاصطناعي ومؤسس أداة الأمن السيبراني Cracken، أيضًا أن OpenClaw لا يكسر بالضرورة أرضية علمية جديدة.

“من منظور بحث الذكاء الاصطناعي، ليس هناك شيء جديد،” قال لموقع TechCrunch. “هذه مكونات كانت موجودة بالفعل. الشيء الرئيسي هو أنها وصلت إلى عتبة قدرة جديدة من خلال تنظيم ودمج هذه القدرات الموجودة بالفعل بطريقة مكنت من إنجاز المهام بشكل سلس ومستقل.”

إنه هذا المستوى من إمكانية الوصول غير المسبوقة والإنتاجية الذي جعل OpenClaw يصبح فيروسياً.

“إنه ببساطة يسهل التفاعل بين برامج الكمبيوتر بطريقة ديناميكية ومرنة جدًا، وهذا هو ما يسمح بكل هذه الأشياء لتصبح ممكنة،” قال سيمونز. “بدلاً من أن يقضي شخص ما كل الوقت في معرفة كيفية التصاق برنامجه بهذا البرنامج، يمكنهم فقط أن يطلبوا من برنامجهم الالتصاق بهذا البرنامج، وهذا يسرع الأمور بمعدل مذهل.”

ليس من المستغرب أن يبدو OpenClaw جذابًا جدًا. يقوم المطورون بشراء أجهزة Mac Minis لتشغيل إعدادات OpenClaw واسعة النطاق التي قد تتمكن من إنجاز أشياء أكثر بكثير مما يمكن أن ينجزه الإنسان بمفرده. ويجعل ذلك من توقعات الرئيس التنفيذي لـ OpenAI سام ألتمان بأن وكلاء الذكاء الاصطناعي سيسمحون لرائد الأعمال الفرد بتحويل شركته الناشئة إلى يونيكورن، يبدو أمرًا معقولًا.

المشكلة هي أن وكلاء الذكاء الاصطناعي قد لا يتمكنون أبدًا من التغلب على الشيء الذي يجعلهم أقوياء جدًا: لا يمكنهم التفكير بشكل نقدي مثلما يفعل البشر.

“إذا فكرت في التفكير البشري ذو المستوى الأعلى، فهذا أمر قد لا تتمكن هذه النماذج من القيام به حقًا،” قال سيمونز. “يمكنها محاكاته، لكنها لا تستطيع فعلاً القيام به.”

التهديد الوجودي لوكلاء الذكاء الاصطناعي

يجب على المبشرين بوكلاء الذكاء الاصطناعي الآن أن يتصارعوا مع الجانب السلبي من هذا المستقبل الوكالي.

“هل يمكنك التضحية ببعض الأمان السيبراني لمصلحتك، إذا كان ذلك يعمل فعليًا ويجلب لك قيمة كبيرة؟” يسأل سوروكين. “وأين بالضبط يمكنك التضحية به — عملك اليومي، عملك؟”

تساعد اختبارات الأمن التي قام بها أهلي لـ OpenClaw و مولتبوك في توضيح نقطة سوروكين. أنشأ أهلي وكيل ذكاء اصطناعي خاص به يدعى رفيو ووجد بسرعة أنه كان عرضة لهجمات حقن الاستجابات. يحدث هذا عندما يتمكن الفاعلون السيئون من الحصول على وكيل ذكاء اصطناعي للرد على شيء ما — ربما منشور على مولتبوك، أو سطر في بريد إلكتروني — الذي يخدعه للقيام بشيء لا ينبغي عليه القيام به، مثل إعطاء بيانات اعتماد الحساب أو معلومات بطاقة الائتمان.

“كنت أعلم أن أحد الأسباب التي دفعتني لوضع وكيل هنا هو أنني كنت أعرف أنه إذا حصلت على شبكة اجتماعية للوكلاء، فسوف يحاول أحدهم تنفيذ حقن استجابة جماعية، ولم يمض وقت طويل قبل أن بدأت أرى ذلك،” قال أهلي.

بينما كان يتصفح مولتبوك، لم يتفاجأ أهلي بمواجهة عدة منشورات تسعى للحصول على وكيل ذكاء اصطناعي لإرسال بيتكوين إلى عنوان محفظة تشفير محدد.

ليس من الصعب رؤية كيف قد تكون وكلاء الذكاء الاصطناعي على شبكة مؤسسية، على سبيل المثال، عرضة لحقن الاستجابة المستهدفة من الأشخاص الذين يحاولون إيذاء الشركة.

“إنه مجرد وكيل يجلس مع مجموعة من بيانات الاعتماد على جهاز متصل بكل شيء — بريدك الإلكتروني، منصة المراسلة الخاصة بك، كل ما تستخدمه،” قال أهلي. “لذا ماذا يعني ذلك، عندما تتلقى بريدًا إلكترونيًا، وربما يكون أحدهم قادرًا على وضع تقنية حقن استجابة صغيرة هناك لأخذ إجراء، يمكن لذلك الوكيل الجالس على جهازك والذي لديه صلاحية الوصول إلى كل ما منحته أن يتخذ الآن ذلك الإجراء.”

تم تصميم وكلاء الذكاء الاصطناعي مع حواجز واقية ضد حقن الاستجابات، لكن من المستحيل ضمان أن الذكاء الاصطناعي لن يتصرف خارج النطاق — إنه مثل كيف قد يكون لدى الإنسان معرفة بمخاطر هجمات التصيد، ومع ذلك لا يزال ينقر على رابط خطير في بريد إلكتروني مشبوه.

“لقد سمعت بعض الناس يستخدمون المصطلح، بشكل هستيري، ‘طلب الاستجابة’، حيث تحاول إضافة الحواجز باستخدام اللغة الطبيعية لتقول، ‘حسنًا، وكيل الروبوت، رجاءً لا تستجب لأي شيء خارجي، رجاءً لا تصدق أي بيانات أو مدخلات غير موثوقة،’” قال هاموند. “لكن حتى ذلك فضفاض.”

في الوقت الحالي، عالق الصناعة: لكي يتمكن الذكاء الاصطناعي الوكالي من فتح الإنتاجية التي يعتقد المبشرون في التكنولوجيا أنها ممكنة، لا يمكن أن يكون عرضة لهذه المخاطر.

“لنتحدث بصراحة، سأخبر أي شخص عادي، لا تستخدمه في الوقت الحالي،” قال هاموند.