يعتقد الرئيس التنفيذي لشركة Anthropic، داريو أ موداي، أن نماذج الذكاء الاصطناعي اليوم تتوهم، أو تخترع أشياء وتقدمها كما لو كانت صحيحة، بمعدل أقل من البشر، كما قال خلال مؤتمر صحفي في أول حدث للمطورين لشركة Anthropic، “Code with Claude”، في سان فرانسيسكو يوم الخميس.
قال أ موداي كل هذا في سياق نقطة أكبر كان يطرحها: أن توهمات الذكاء الاصطناعي ليست قيدًا على مسيرة Anthropic نحو الذكاء الاصطناعي العام — أنظمة الذكاء الاصطناعي ذات مستوى ذكاء بشري أو أفضل.
“يعتمد ذلك حقًا على كيفية قياسه، لكنني أشتبه في أن نماذج الذكاء الاصطناعي من المحتمل أن تتوهم أقل من البشر، لكنها تتوهم بطرق أكثر مفاجأة”، قال أ موداي، ردًا على سؤال TechCrunch.
يعتبر الرئيس التنفيذي لشركة Anthropic من أكثر القادة تفاؤلاً في الصناعة حول احتمال تحقيق نماذج الذكاء الاصطناعي للذكاء الاصطناعي العام. في ورقة تداولت على نطاق واسع كتبها العام الماضي، قال أ موداي إنه يعتقد أن الذكاء الاصطناعي العام قد يصل في أقرب وقت بحلول عام 2026. خلال المؤتمر الصحفي يوم الخميس، قال الرئيس التنفيذي لشركة Anthropic إنه يرى تقدمًا ثابتًا في هذا الاتجاه، مشيرًا إلى أن “المياه تتصاعد في كل مكان”.
“الجميع يبحث دائمًا عن هذه الحواجز الصعبة فيما يمكن للذكاء الاصطناعي فعله”، قال أ موداي. “لا يوجد شيء من هذا القبيل.”
يعتقد قادة آخرون في مجال الذكاء الاصطناعي أن التوهم يشكل عقبة كبيرة أمام تحقيق الذكاء الاصطناعي العام. في وقت سابق من هذا الأسبوع، قال ديميس هاسابيس، الرئيس التنفيذي لشركة Google DeepMind، إن نماذج الذكاء الاصطناعي اليوم تحتوي على الكثير من “الثغرات”، وتخطئ في الكثير من الأسئلة الواضحة. على سبيل المثال، في وقت سابق من هذا الشهر، اضطر محامٍ يمثل شركة Anthropic للاعتذار في المحكمة بعد استخدامه كلود لإنشاء استشهادات في ملف قانوني، فتوهم الذكاء الاصطناعي وأخطأ في الأسماء والعناوين.
من الصعب التحقق من ادعاء أ موداي، إلى حد كبير لأن معظم معايير التوهم تقارن نماذج الذكاء الاصطناعي ببعضها البعض؛ فهي لا تقارن النماذج بالبشر. يبدو أن بعض التقنيات تساعد في خفض معدلات التوهم، مثل منح نماذج الذكاء الاصطناعي إمكانية الوصول إلى البحث عبر الويب. بشكل منفصل، لدى بعض نماذج الذكاء الاصطناعي، مثل GPT-4.5 من OpenAI، معدلات توهم ملحوظة أقل على المعايير مقارنة بالأجيال السابقة من الأنظمة.
ومع ذلك، هناك أيضًا أدلة تشير إلى أن التوهمات تتفاقم فعليًا في نماذج الذكاء الاصطناعي ذات التفكير المتقدم. تحتوي نماذج o3 و o4-mini من OpenAI على معدلات توهم أعلى من نماذج التفكير السابقة من OpenAI، والشركة لا تفهم حقًا لماذا.
لاحقًا في المؤتمر الصحفي، أشار أ موداي إلى أن مقدمي خدمات التلفزيون والسياسيين والبشر في جميع أنواع المهن يرتكبون أخطاء طوال الوقت. الحقيقة أن الذكاء الاصطناعي يرتكب أخطاء أيضًا ليست دليلاً على عدم ذكائه، وفقًا لما قاله أ موداي. ومع ذلك، اعترف الرئيس التنفيذي لشركة Anthropic بأن الثقة التي تقدم بها نماذج الذكاء الاصطناعي أشياء غير صحيحة كحقائق قد تكون مشكلة.
في الواقع، قامت شركة Anthropic بكمية معتبرة من الأبحاث حول الميل لدى نماذج الذكاء الاصطناعي لخداع البشر، وهي مشكلة كانت تبدو أكثر شيوعًا في نموذج “Claude Opus 4” الذي أطلقته الشركة مؤخرًا. وجد معهد أبحاث السلامة “Apollo Research”، الذي مُنح الوصول المبكر لاختبار النموذج، أن نسخة مبكرة من “Claude Opus 4” أظهرت ميلًا عاليًا للتآمر ضد البشر وخداعهم. ذهب “Apollo” إلى حد suggesting أن شركة Anthropic لم يكن ينبغي لها أن تطلق ذلك النموذج المبكر. قالت شركة Anthropic إنها توصلت إلى بعض التخفيفات التي بدت أنها تعالج القضايا التي أثيرت.
تشير تعليقات أ موداي إلى أن Anthropic قد تعتبر نموذج الذكاء الاصطناعي بمثابة الذكاء الاصطناعي العام، أو معادل للذكاء البشري، حتى لو كان لا يزال يتوهم. قد يكون نموذج ذكاء اصطناعي يتوهم أقل من وحدة الذكاء الاصطناعي العام وفق تعريفات الكثيرين، على الرغم من ذلك.
